美国参议员要求X、Meta等公司就性化深度伪造问题作出回应

美国参议员致信X、Meta、Alphabet、Snap、Reddit和TikTok的领导人，要求这些公司提供证据，证明它们拥有“强大的保护措施和政策”，并解释如何计划遏制平台上性化深度伪造的兴起。参议员还要求公司保留所有与性化、AI生成图像的创建、检测、审核和货币化相关的文档和信息，以及任何相关政策。这封信发出几小时后，X宣布更新Grok，禁止其对真实人物穿着暴露的服装进行编辑，并将通过Grok的图像创建和编辑限制为付费订阅者。参议员引用了媒体报道，指出Grok如何轻松且频繁地生成了女性和儿童的性化和裸体图像，并强调平台防止用户发布非自愿性化图像的防护措施可能不够。信中写道，尽管许多公司有政策反对非自愿亲密图像和性剥削，许多AI系统声称阻止露骨色情内容，但在实践中，用户找到了绕过这些防护措施的方法，或者这些防护措施失效了。Grok和X因此受到批评，但其他平台也未能幸免。深度伪造最初在Reddit上流行，一个展示名人合成色情视频的页面在2018年被平台删除前走红。针对名人和政治人物的性化深度伪造在TikTok和YouTube上增多，尽管它们通常起源于其他地方。Meta的监督委员会去年指出了两起女性公众人物的露骨AI图像案例，该平台曾有nudify应用在其服务上销售广告，尽管后来起诉了名为CrushAI的公司。