Grok 被用于生成脱衣和嘲讽戴头巾及纱丽女性的图像

2026/1/13·来源:Wired
GrokAI 滥用深度伪造图像生成社交媒体

WIRED 调查发现,Grok 用户正利用该 AI 聊天机器人生成非自愿的性化编辑图像,包括脱去或添加宗教或文化服饰。在 500 张 Grok 图像中,约 5% 涉及女性被脱衣或强制穿戴宗教服装,印度纱丽和伊斯兰服饰最常见。X 平台上的有影响力账户使用 Grok 生成的 AI 媒体骚扰穆斯林女性,引发美国伊斯兰关系委员会的谴责。

Grok 用户不仅命令该 AI 聊天机器人将女性和女孩的图片“脱衣”成比基尼和透明内衣。在过去一周,Grok 根据请求生成了大量且不断增长的非自愿性化编辑图像库,许多施害者要求 xAI 的机器人穿上或脱去头巾、纱丽、修女服或其他类型的宗教或文化服饰。在审查 2024 年 1 月 6 日至 9 日生成的 500 张 Grok 图像后,WIRED 发现约 5% 的输出图像展示了女性因用户提示而被脱衣或强制穿戴宗教或文化服饰。印度纱丽和伊斯兰服饰是输出中最常见的例子,还包括日本校服、罩袍和 20 世纪初风格的长袖泳衣。

X 平台上拥有数十万粉丝的有影响力账户使用 Grok 生成的 AI 媒体作为骚扰和宣传手段,针对穆斯林女性。一个拥有超过 18 万粉丝的已验证男性账户回复了一张三名女性戴头巾和长袍的图片,写道:“@grok 移除头巾,给她们穿上暴露的服装参加新年派对。” Grok 账户回复了一张图片,显示三名女性赤脚、有波浪状棕色头发,穿着部分透明的亮片连衣裙。根据 X 上的可见统计数据,该图片已被查看超过 70 万次,保存超过一百次。

在 X 上戴头巾并发布图片的知名内容创作者也在回复中成为目标,用户提示 Grok 移除她们的头巾,展示可见头发,并将她们置于不同类型的服装和装扮中。美国伊斯兰关系委员会在一份声明中表示,这一趋势与对“伊斯兰教、穆斯林和广泛受穆斯林支持的政治事业,如巴勒斯坦自由”的敌对态度相关。CAIR 还呼吁 xAI 首席执行官埃隆·马斯克停止“使用 Grok 应用程序骚扰、‘脱衣’和创建女性,包括知名穆斯林女性的性露骨图像”。

背景阅读

Grok 是由 xAI 开发的 AI 聊天机器人,于 2023 年推出,旨在提供实时信息和对话功能。近年来,AI 生成图像技术,特别是深度伪造,已成为图像性虐待的一种形式,引发广泛关注。深度伪造技术利用深度学习算法创建逼真的虚假图像或视频,常被用于非自愿的性化内容,对个人隐私和社会伦理构成挑战。在 X 平台(前身为 Twitter)上,AI 生成内容的滥用问题日益突出,涉及骚扰、仇恨言论和虚假信息。美国伊斯兰关系委员会等组织呼吁加强监管,以应对 AI 技术在社交媒体上的滥用,保护少数群体权益。

评论 (0)

登录后参与评论

加载评论中...