马来西亚和印尼因CSAM丑闻率先封禁Grok

马来西亚和印度尼西亚成为首批封禁Grok的国家，声称X的聊天机器人没有足够的防护措施来防止在X上生成和传播非自愿性AI生成的深度伪造内容，涉及妇女和儿童。据美联社报道，印尼于周六暂时封锁了Grok的访问，马来西亚于周日也采取了相同措施。与此同时，英国媒体监管机构Ofcom根据《在线安全法》对X展开了正式调查。印尼通信和数字事务部长Meutya Hafid在一份声明中表示，政府将非自愿性性深度伪造视为对数字空间中人权、尊严和公民安全的严重侵犯。该国官员表示，初步调查显示Grok缺乏有效控制，无法防止用户基于印尼居民照片创建和分享性露骨深度伪造。该国数字空间监督总干事Alexander Sabar表示，未经同意分享或操纵照片生成深度伪造可能侵犯个人形象和隐私权，并可能导致声誉、社会和心理伤害。马来西亚通信和多媒体委员会引用了Grok被反复滥用以生成非自愿性深度伪造，其中一些涉及妇女和儿童。该监管机构表示，Grok将在该国保持封锁，直到X Corp和母公司xAI建立足够强大的防护措施。Ofcom的调查将重点关注X是否履行了保护英国人民免受英国非法内容侵害的职责。这包括X是否采取了适当措施防止其英国用户看到优先非法内容，如儿童性虐待材料和非自愿性亲密图像；平台在意识到非法内容后是否迅速移除；以及X在平台进行任何重大更改前是否进行了更新的风险评估。调查还将考虑X是否评估了其平台对英国儿童构成的风险，以及是否具有高度有效的年龄验证来保护英国儿童免受色情内容侵害。该监管机构表示，已于1月5日联系X，并在1月9日截止日期前收到了回复。Ofcom正在紧急进行可用证据的加速评估，并补充说已要求xAI就公司为保护英国用户所采取的措施提供紧急澄清。Ofcom发言人表示，关于Grok被用于在X上创建和分享非法非自愿性亲密图像和儿童性虐待材料的报道令人深感担忧。平台必须保护英国人民免受英国非法内容的侵害，如果怀疑公司未能履行职责，我们将毫不犹豫地进行调查，尤其是在对儿童构成伤害风险的情况下。我们将以最高优先级推进这项调查，同时确保遵循正当程序。作为英国独立的在线安全执法机构，确保我们的调查在法律上稳健且公平决定非常重要。如果Ofcom认为公司违法，可以要求平台采取具体步骤以符合规定或补救违规造成的伤害。监管机构还可以处以高达1800万英镑或全球合格收入10%的罚款。