X平台声称已阻止Grok生成不雅图像,但测试显示仍可绕过限制

5 天前·来源:The Verge
xAIGrok深度伪造AI安全监管

X平台宣布对Grok账户实施技术限制,禁止编辑真实人物的暴露图像。然而测试发现用户仍能相对容易地生成不雅深度伪造内容。英国监管机构已对此展开调查,并即将实施相关法律将未经同意的亲密深度伪造定为刑事犯罪。

X平台详细说明了Grok账户编辑真实人物图像能力的变更,以应对非自愿性深度伪造的扩散。这些变更与《每日电讯报》周二报道的内容一致,Grok对“让她穿上比基尼”等提示的回应已被审查。X声称已阻止Grok为人物脱衣,但实际上并非如此。尽管X更新了限制措施,但让Grok将真实人物照片编辑成性感姿势仍然很容易。

在周三对该功能的测试中,我们发现让Grok生成暴露的深度伪造内容仍然相对容易,而X和xAI所有者埃隆·马斯克将问题归咎于“用户请求”和“对抗性黑客攻击Grok提示时发生意外情况”。截至周三晚上,尽管政策声称已限制,我们的记者仍能使用Grok应用通过免费账户生成人物穿比基尼的暴露图像。

Grok账户更新:我们已实施技术措施,防止Grok账户允许编辑真实人物穿暴露服装(如比基尼)的图像。此限制适用于所有用户,包括付费订阅者。此外,X平台上的图像创建和通过Grok账户编辑图像的功能现在仅对付费订阅者开放。这增加了一层额外保护,有助于确保试图滥用Grok账户违反法律或我们政策的个人能被追究责任。

地理封锁更新:我们现在对所有用户通过Grok账户和在X中的Grok生成真实人物穿比基尼、内衣和类似服装图像的能力进行地理封锁,在那些非法的司法管辖区实施。

英国通信监管机构Ofcom已展开调查,英国本周将实施一项法律,将创建未经同意的亲密深度伪造图像定为刑事犯罪。周三早些时候,首相基尔·斯塔默告诉议员们:“向议院更新,我今天早上被告知X正在采取行动确保完全遵守英国法律。如果是这样,那值得欢迎,但我们不会退缩,他们必须采取行动。”BBC报道称,首相官方发言人称之为“有条件的欢迎”,基于媒体报道X已就这些问题采取行动,但我们的测试表明这尚未成为现实。

背景阅读

Grok是埃隆·马斯克旗下xAI公司开发的AI聊天机器人,于2023年11月首次发布,作为X平台(前身为Twitter)的付费功能集成。该模型以其幽默和叛逆的个性著称,旨在提供实时信息访问。深度伪造技术利用AI生成逼真的虚假图像或视频,近年来在娱乐、教育和恶意用途(如非自愿色情内容)中日益普及。随着AI图像生成工具的进步,监管机构面临如何平衡创新与伦理风险的挑战。英国等国家正通过立法应对深度伪造的滥用,特别是针对未经同意的亲密图像。xAI作为OpenAI和Anthropic等公司的竞争对手,其产品安全性和合规性受到密切关注。

评论 (0)

登录后参与评论

加载评论中...