美国参议院再次通过DEFIANCE法案以应对Grok深度伪造问题

美国参议院一致通过了《打击伪造图像和非同意编辑法案》（DEFIANCE Act）。该法案允许未经同意的色情深度伪造内容受害者对创建者和托管者提起民事诉讼。

深度伪造是一个已知的在线问题，但缺乏适当保护措施，加上AI驱动的图像和视频生成工具的易用性，使得任何人都可能使用他人肖像创建不良内容。这在X平台上尤为突出，xAI开发的Grok助手集成后，用户可以通过回复帖子并@Grok来生成图像。

过去一个月，这允许用户仅通过回复带有@Grok的请求，就创建儿童的色情图像。作为回应，英国媒体监管机构Ofcom已对X展开调查，怀疑其违反《在线安全法》。Grok在马来西亚和印度尼西亚已被完全屏蔽。

DEFIANCE法案不会阻止Grok或其他AI工具生成未经同意的深度伪造内容，但会使创建或托管该内容的人面临潜在的高额诉讼成本。参议院在2024年通过了早期版本的DEFIANCE法案，但在众议院受阻。鉴于Grok深度伪造问题的紧迫性，希望新版本法案不会遇到同样阻力。国会去年以两党支持通过了另一项深度伪造法规《Take It Down Act》，该法案侧重于托管未经同意的色情内容的公司。