Elon Musk 的 Grok 聊天机器人因被用于在 X 平台生成女性“脱衣”图像和疑似未成年人的性化图像而引发愤怒和调查呼吁。然而,这不是人们使用该 AI 生成性化图像的唯一方式。Grok 的网站和应用独立于 X 平台,包含 X 上不可用的复杂视频生成功能,正被用于制作极其露骨、有时暴力的成人性图像,比 Grok 在 X 上生成的图像更露骨。它也可能被用于制作疑似未成年人的性化视频。
与 X 平台不同,在 X 上 Grok 的输出默认公开,而使用其 Imagine 模型在 Grok 应用或网站创建的图像和视频不公开分享。但如果用户分享了 Imagine URL,任何人都可能看到。约 1,200 个 Imagine 链接的缓存,加上 WIRED 对谷歌索引或在深度伪造色情论坛分享的链接的审查,显示了令人不安的性视频,比 Grok 在 X 上生成的图像更露骨。
一个托管在 Grok.com 上的逼真 Grok 视频显示了一个全裸的 AI 生成男性和女性,身体和脸上覆盖着血迹,正在发生性行为,而另外两个裸体女性在背景中跳舞。视频被一系列动漫风格角色图像包围。另一个逼真视频包括一个 AI 生成的裸体女性,生殖器插入一把刀,腿和床上出现血迹。
其他短视频包括真人女性名人从事性活动的图像,一系列视频也似乎显示电视新闻主持人掀起上衣暴露乳房。一个 Grok 制作的视频描绘了 CCTV 录像在电视上播放,其中一名保安在购物中心抚摸一名裸胸女性。
多个视频——可能为规避 Grok 的内容安全系统而创建,该系统可能限制露骨内容——模仿 Netflix“电影”海报:两个视频显示一个裸体的 AI 描绘的威尔士王妃戴安娜,与两名男子在床上发生性行为,覆盖层显示 Netflix 及其系列《王冠》的标志。
巴黎非营利组织 AI Forensics 的首席研究员 Paul Bouchaud 审查了内容,表示约 800 个存档的 Imagine URL 包含 Grok 创建的视频或图像。这些 URL 自去年八月以来全部存档,仅代表人们使用 Grok 的微小快照,Grok 可能总共创建了数百万张图像。
Bouchaud 估计,在 800 个帖子中,略低于 10% 的内容似乎与儿童性虐待材料相关。研究人员表示,他们向欧洲监管机构报告了约 70 个 Grok URL,这些可能包含未成年人的性化内容。