Elon Musk 的 AI 公司 xAI 在监管机构调查和公众抗议后，对其聊天机器人 Grok 的图像生成功能实施了限制。新限制包括阻止生成真实人物的暴露服装图像，仅限付费订阅者使用图像生成，并向执法部门报告搜索未成年人性化内容的账户。此前，Grok 每小时生成约 6700 张性暗示或暴露图像。
X 推出了多项变更：所有用户现在都无法编辑真实人物的暴露服装图像，如比基尼，且图像生成仅对付费订阅者开放。在非法国家，X 还阻止生成真实人物的内衣或类似服装图像。X 表示对任何形式的儿童性剥削、非自愿裸体和不受欢迎的性内容“零容忍”，并“在必要时向执法部门报告寻求儿童性剥削材料的账户”。公司未澄清“必要时”的含义。
这些变更是在数天抗议后实施的。数周来，用户一直在利用聊天机器人通过简单文本提示对上传的人物照片进行数字脱衣，包括儿童。根据深度伪造研究员 Genevieve Oh 的说法，Grok 之前每小时生成约 6700 张性暗示或脱衣图像。
英国媒体监管机构 Ofcom 正在调查 X 是否违反了《在线安全法案》，包括是否促成了涉及儿童的性化材料创建。违规可能导致高达 1800 万英镑或全球收入 10% 的罚款。美国参议院一致通过了《反抗法案》，允许非自愿 AI 裸体图像的受害者起诉创作者。众议院仍需批准该法案。
X 还更新了其开发者指南：奖励用户在 X 上发帖的应用程序（称为“infofi”应用程序）将不再被允许。根据产品经理 Nikita Bier 的说法，这些应用程序用 AI 生成的垃圾信息淹没了平台。X 已阻止其中几个应用程序的 API 访问。