英国立法打击非自愿深度伪造裸照,回应Grok AI事件

2026/1/13·来源:The Verge
AI监管深度伪造xAIGrok在线安全

英国立法将创建非自愿亲密深度伪造图像定为刑事犯罪。英国通信监管机构已对X平台就Grok生成的深度伪造内容展开正式调查。X平台表示将对使用Grok制作非法内容者采取行动。

英国政府宣布,将正式实施一项法律,将创建非自愿的亲密深度伪造图像(如因xAI的Grok聊天机器人而在X平台上泛滥的图像)定为刑事犯罪。

英国科学、创新和技术大臣Liz Kendall在一份声明中表示:“去年通过的《数据法》已将创建或要求创建非自愿亲密图像定为刑事犯罪。今天,我可以向议会宣布,这一罪行将于本周生效,并将在《在线安全法》中列为优先处理罪行。”作为优先罪行,“服务必须采取主动行动,从一开始就阻止此类内容出现。”

英国通信监管机构Ofcom宣布,已对X平台就Grok生成的深度伪造内容展开正式调查。如果Ofcom发现X平台违反《在线安全法》,可能要求平台采取合规措施,并处以“最高1800万英镑或全球合格收入的10%(以较高者为准)”的罚款。

Kendall表示:“政府期望Ofcom尽快制定调查时间表。公众——最重要的是Grok活动的受害者——期望迅速果断的行动。因此,这不能拖延数月。”

xAI未立即回应置评请求。1月3日,X平台表示:“我们对X上的非法内容采取行动,包括儿童性虐待材料(CSAM),通过移除内容、永久封禁账户,并在必要时与当地政府和执法部门合作。任何使用或提示Grok制作非法内容的人将面临与上传非法内容相同的后果。”

上周,X平台还对使用Grok生成图像的能力施加了一些限制,使在回复中标记聊天机器人以公开生成图像成为仅限付费订阅者的功能。然而,仍有免费方式可以使用Grok编辑和创建图像,包括性化内容。

背景阅读

深度伪造技术是一种基于人工智能,特别是深度学习算法(如生成对抗网络GANs)合成或替换图像、视频、音频中人物形象和声音的技术。该技术自2010年代中期兴起,最初多用于影视娱乐等创意领域。然而,其高度逼真且易于制作的特点,很快被滥用于制作虚假信息、欺诈和色情内容,其中“深度伪造色情”成为危害最广的滥用形式之一,通常未经当事人同意将其面部合成到色情材料中,对受害者造成严重心理伤害和名誉损害。 随着开源工具和商业化AI模型的普及,制作深度伪造内容的技术门槛和成本大幅降低。近年来,多国开始探索通过立法进行规制。例如,美国部分州、韩国等已出台相关法律。英国在2023年通过的《数据法》中,已将未经同意创建或索取他人私密图像(包括通过PS等传统手段)的行为定为刑事犯罪。此次宣布生效的条款,明确将利用AI技术生成的“非自愿亲密深度伪造图像”纳入该法规制范围,并与《在线安全法》联动,要求在线平台承担更主动的预防责任。全球主要社交媒体平台均面临如何有效识别和处置此类内容的挑战,监管机构对平台的审查与处罚也日趋严格。此次事件涉及的Grok等AI聊天机器人集成图像生成功能,凸显了生成式AI普及带来的新型内容安全风险,促使法律与监管框架加速响应。

评论 (0)

登录后参与评论

加载评论中...