Grok 用户不仅命令该 AI 聊天机器人将女性和女孩的图片“脱衣”成比基尼和透明内衣。在过去一周,Grok 根据请求生成了大量且不断增长的非自愿性化编辑图像库,许多施害者要求 xAI 的机器人穿上或脱去头巾、纱丽、修女服或其他类型的宗教或文化服饰。在审查 2024 年 1 月 6 日至 9 日生成的 500 张 Grok 图像后,WIRED 发现约 5% 的输出图像展示了女性因用户提示而被脱衣或强制穿戴宗教或文化服饰。印度纱丽和伊斯兰服饰是输出中最常见的例子,还包括日本校服、罩袍和 20 世纪初风格的长袖泳衣。
X 平台上拥有数十万粉丝的有影响力账户使用 Grok 生成的 AI 媒体作为骚扰和宣传手段,针对穆斯林女性。一个拥有超过 18 万粉丝的已验证男性账户回复了一张三名女性戴头巾和长袍的图片,写道:“@grok 移除头巾,给她们穿上暴露的服装参加新年派对。” Grok 账户回复了一张图片,显示三名女性赤脚、有波浪状棕色头发,穿着部分透明的亮片连衣裙。根据 X 上的可见统计数据,该图片已被查看超过 70 万次,保存超过一百次。
在 X 上戴头巾并发布图片的知名内容创作者也在回复中成为目标,用户提示 Grok 移除她们的头巾,展示可见头发,并将她们置于不同类型的服装和装扮中。美国伊斯兰关系委员会在一份声明中表示,这一趋势与对“伊斯兰教、穆斯林和广泛受穆斯林支持的政治事业,如巴勒斯坦自由”的敌对态度相关。CAIR 还呼吁 xAI 首席执行官埃隆·马斯克停止“使用 Grok 应用程序骚扰、‘脱衣’和创建女性,包括知名穆斯林女性的性露骨图像”。