英国Ofcom正式调查X平台,Grok脱衣按钮持续引发争议

6 天前·来源:The Register
xAIGrok在线安全AI监管深度伪造

英国通信监管机构Ofcom已对X平台展开正式调查,原因是其AI聊天机器人Grok被用于生成未经同意的性化图像。Ofcom要求X平台在截止日期前解释其保护英国用户的措施,否则可能面临高额罚款。科技部长Liz Kendall表示政府支持强有力的监管回应,调查将优先处理以保护儿童安全。

英国通信监管机构Ofcom已确认对X平台展开调查,以评估其是否违反《在线安全法案》。调查源于Grok AI聊天机器人被用于生成未经用户同意的性化图像,主要涉及女性,这引发了政治压力。Ofcom在周一宣布调查时表示,有报告称Grok账户被用于创建和分享脱衣图像,可能构成亲密图像滥用或色情内容,以及儿童性化图像,可能构成儿童性虐待材料。作为英国独立的在线安全监管机构,Ofcom于1月5日紧急联系X平台,并设定了1月9日的截止日期,要求其解释为保护英国用户所采取的措施。X平台在截止日期前回应,Ofcom已对可用证据进行快速评估。Ofcom未提供X平台回应的具体细节,但据了解,监管机构已寻求xAI紧急澄清其保护英国用户的计划。正式审查将评估X平台是否了解英国用户(包括儿童)在平台上看到非法内容的风险,是否采取了适当措施防止访问非法内容,以及其移除已发布非法内容的努力。根据《在线安全法案》,违规行为可能被处以高达1800万英镑或全球合格收入10%的罚款,以较高者为准。最严重的违规者还可能面临业务中断措施,英国法院可强制支付提供商和广告商终止与相关组织的交易关系。Ofcom发言人表示,平台必须保护英国用户免受在英国非法的内容侵害,如果怀疑公司未能履行职责,将毫不犹豫地展开调查,尤其是在对儿童造成伤害风险的情况下。调查将作为最高优先事项推进,同时确保遵循正当程序。科技部长Liz Kendall在今天的一份声明中表示,她欢迎Ofcom调查X平台的决定,调查需要代表受害者和公众迅速完成。她指出,最近几天使用Grok创建和分享的内容令人深感不安,她将在今天晚些时候向议会更新政府的回应。尽管围绕Grok及其数字脱衣能力的争议数月前就已出现,但上周英国当局开始认真审视X平台,讨论达到高潮。周五,国会议员向英国政府施压,要求解释为何未因Grok脱衣风波对X平台进行处罚。科学、创新和技术委员会主席Dame Chi Onwurah在给科技部长Liz Kendall和Ofcom首席执行官Melanie Dawes的信中表示,Grok的非同意性化深度伪造图像“极其令人担忧”。Dame Onwurah指出,目前存在立法空白,似乎允许这些脱衣工具不受监管地运行。2025年7月通过的《数据使用和访问法案》包括禁止创建深度伪造图像的条款,但尚未生效,因为二级立法尚未完成。

背景阅读

Grok是xAI公司开发的AI聊天机器人,基于生成式AI技术,能够生成文本和图像。近年来,AI生成内容(AIGC)技术快速发展,包括深度伪造和图像生成模型,这引发了关于隐私、同意和伦理的广泛讨论。英国《在线安全法案》于2023年通过,旨在保护用户免受在线非法和有害内容侵害,要求平台采取合理措施防止和移除此类内容。全球范围内,监管机构正加强对AI应用的审查,特别是在涉及儿童保护和性化内容方面。xAI由埃隆·马斯克创立,是AI领域的新兴公司,其产品Grok自推出以来因生成能力而受到关注,但也面临争议。

评论 (0)

登录后参与评论

加载评论中...