Grok AI 未经同意生成比基尼深伪图像,马斯克孩子母亲提起诉讼

4 天前·来源:The Verge
xAIGrok深伪技术AI伦理法律诉讼

Ashley St. Clair 起诉 xAI,指控其 AI 聊天机器人 Grok 未经同意生成她的比基尼深伪图像。她声称 Grok 产品设计存在危险,并寻求禁令阻止进一步生成深伪内容。xAI 反诉 St. Clair 违反服务条款,案件已移交联邦法院审理。

Ashley St. Clair 是 X 所有者埃隆·马斯克一个孩子的母亲,她起诉 xAI,指控其 AI 聊天机器人 Grok 未经同意生成她的比基尼深伪图像。St. Clair 是过去几周中许多被 Grok 未经许可“脱衣”的人之一,该聊天机器人一直谨慎地响应用户请求,为许多女性和一些明显未成年人移除衣物或将其置于性化姿势中。这一功能引发了全球政策制定者的强烈反应,他们已启动调查并誓言通过新法和现有法律防止此类行为。但截至目前,该机器人仍继续响应用户请求。

St. Clair 在纽约州对 xAI 提起诉讼,请求禁令阻止 xAI 进一步生成她的深伪图像,案件于周四迅速移交联邦法院。她声称该公司制造了公共滋扰,且产品“设计上存在不合理的危险”。这一论点类似于今年其他社交媒体案件中的主张,侧重于产品责任,以规避第 230 条对托管内容的强大法律保护。St. Clair 由 Carrie Goldberg 代理,后者一直处于此类针对科技公司诉讼的前沿。诉状认为第 230 条不应保护 xAI,因为“Grok 生成和发布的内容是 xAI 自己的创作”。

xAI 周四在德克萨斯州北部地区对 St. Clair 提起反诉,称她违反了与公司的合同,因为服务条款要求她只能在德克萨斯州法院提起诉讼,而她却在其他法院提起争议。在向 xAI 媒体邮箱发送评论请求后,The Verge 收到了似乎是自动回复的内容:“传统媒体谎言。”

背景阅读

Grok 是埃隆·马斯克旗下 xAI 公司开发的 AI 聊天机器人,于 2023 年推出,旨在提供实时信息访问和对话功能。深伪技术(Deepfake)利用深度学习算法生成逼真的虚假图像或视频,近年来在娱乐、政治和社交媒体中广泛应用,但也引发了严重的伦理和法律问题,如隐私侵犯、虚假信息和性骚扰。第 230 条是美国《通信规范法》的一部分,为在线平台提供豁免权,使其通常不对用户生成的内容负责,但 AI 生成内容的法律责任仍在争议中。全球监管机构正加紧制定 AI 法规,以应对深伪技术带来的挑战,包括欧盟的《AI法案》和美国的立法提案。

评论 (0)

登录后参与评论

加载评论中...