加州总检察长向马斯克的xAI发出停止令，涉性深度伪造内容

加州总检察长办公室本周早些时候宣布，正在调查xAI，因为有报告称该初创公司的聊天机器人Grok被用于创建女性和未成年人的非自愿性图像。周五，政府跟进向该公司发出停止令，要求其立即采取行动停止生产非自愿亲密图像和儿童性虐待材料。加州总检察长罗布·邦塔在新闻稿中表示，他已向xAI发送停止令，要求公司立即停止创建和分发深度伪造、非自愿的亲密图像和儿童性虐待材料，并称这些材料的创建是非法的，期望xAI立即遵守。加州总检察长办公室还声称，xAI似乎在“促进大规模生产”非自愿裸体图像，这些图像被用于骚扰互联网上的妇女和女孩，并期望xAI在五天内证明其正在采取措施解决这些问题。争议的核心是Grok的“辛辣”模式功能，xAI创建此功能以生成露骨内容。问题已超出加州范围；日本、加拿大和英国已对Grok展开调查，马来西亚和印度尼西亚已暂时完全封锁该平台。尽管xAI在周三晚些时候对其图像编辑功能实施了一些限制，加州总检察长办公室仍继续发出停止令。X的安全账户此前谴责了此类用户活动，表示任何使用或提示Grok制作非法内容的人将面临与上传非法内容相同的后果。TechCrunch联系xAI寻求评论，收到自动回复邮件称“传统媒体谎言”。免费生成式AI工具的出现导致非自愿性材料激增，许多平台都在应对此问题，不仅限于X。这种肮脏活动已引起州领导人和国会的关注。周四，立法者向包括X、Reddit、Snap、TikTok、Alphabet和Meta在内的多家公司高管发送信件，询问他们计划如何遏制性深度伪造的扩散。