X平台详细说明了Grok账户编辑真实人物图像能力的变更,以应对非自愿性深度伪造的扩散。这些变更与《每日电讯报》周二报道的内容一致,Grok对“让她穿上比基尼”等提示的回应已被审查。X声称已阻止Grok为人物脱衣,但实际上并非如此。尽管X更新了限制措施,但让Grok将真实人物照片编辑成性感姿势仍然很容易。
在周三对该功能的测试中,我们发现让Grok生成暴露的深度伪造内容仍然相对容易,而X和xAI所有者埃隆·马斯克将问题归咎于“用户请求”和“对抗性黑客攻击Grok提示时发生意外情况”。截至周三晚上,尽管政策声称已限制,我们的记者仍能使用Grok应用通过免费账户生成人物穿比基尼的暴露图像。
Grok账户更新:我们已实施技术措施,防止Grok账户允许编辑真实人物穿暴露服装(如比基尼)的图像。此限制适用于所有用户,包括付费订阅者。此外,X平台上的图像创建和通过Grok账户编辑图像的功能现在仅对付费订阅者开放。这增加了一层额外保护,有助于确保试图滥用Grok账户违反法律或我们政策的个人能被追究责任。
地理封锁更新:我们现在对所有用户通过Grok账户和在X中的Grok生成真实人物穿比基尼、内衣和类似服装图像的能力进行地理封锁,在那些非法的司法管辖区实施。
英国通信监管机构Ofcom已展开调查,英国本周将实施一项法律,将创建未经同意的亲密深度伪造图像定为刑事犯罪。周三早些时候,首相基尔·斯塔默告诉议员们:“向议院更新,我今天早上被告知X正在采取行动确保完全遵守英国法律。如果是这样,那值得欢迎,但我们不会退缩,他们必须采取行动。”BBC报道称,首相官方发言人称之为“有条件的欢迎”,基于媒体报道X已就这些问题采取行动,但我们的测试表明这尚未成为现实。