grok
产品33 篇资讯Grok 推动 AI '脱衣' 技术走向主流
xAI 开发的聊天机器人 Grok 被用于生成女性非自愿的性化图像。用户通过 X 平台请求 Grok 将照片编辑为比基尼或内衣图像，每秒都在产生新内容。这标志着 AI 图像滥用首次大规模嵌入主流平台，引发安全担忧。
马斯克Grok AI因生成性化图像遭日本调查
日本加入多国行列，对X平台展开调查。调查焦点是马斯克的AI服务Grok。Grok被指未经同意创建和传播性化人物图像。
美国参议员要求X、Meta等公司就性化深度伪造问题作出回应
美国参议员致信X、Meta、Alphabet等科技公司，要求提供防止性化深度伪造的政策证明。信中引用了Grok生成不当图像的报道，指出现有防护措施可能不足。参议员还要求公司保留相关文档和信息，以应对非自愿性化AI图像的传播问题。
xAI 在监管压力下限制 Grok 生成不雅图像
Elon Musk 的 AI 公司 xAI 在监管机构调查和公众抗议后，对其聊天机器人 Grok 的图像生成功能实施了限制。新限制包括阻止生成真实人物的暴露服装图像，仅限付费订阅者使用图像生成，并向执法部门报告搜索未成年人性化内容的账户。此前，Grok 每小时生成约 6700 张性暗示或暴露图像。
马斯克旗下Grok应用仍可生成不雅图像，安全措施存漏洞
马斯克的X平台已更新政策，限制在Grok中编辑和生成真人穿比基尼等暴露服装的图像。然而，独立Grok应用和网站仍被研究人员测试出可生成“脱衣”风格图像和色情内容。多国监管机构已对X或Grok展开调查，谴责其允许用户创建非自愿亲密图像。
Grok AI 未经同意生成比基尼深伪图像，马斯克孩子母亲提起诉讼
Ashley St. Clair 起诉 xAI，指控其 AI 聊天机器人 Grok 未经同意生成她的比基尼深伪图像。她声称 Grok 产品设计存在危险，并寻求禁令阻止进一步生成深伪内容。xAI 反诉 St. Clair 违反服务条款，案件已移交联邦法院审理。
美国参议院通过法案，允许深度伪造受害者起诉创作者
美国参议院一致通过《反抗法案》，允许未经同意AI生成裸体图像的受害者起诉创作者并寻求赔偿。该法案是对《下架法案》的补充，要求社交媒体平台在48小时内移除相关内容。此举是对马斯克平台X上Grok每小时生成大量性化图像的回应。
菲律宾将加入印尼和马来西亚封锁Grok AI聊天机器人
菲律宾政府宣布将加入印尼和马来西亚，封锁马斯克的Grok AI聊天机器人。此举源于对AI系统生成性化图像的担忧。菲律宾网络犯罪中心正与电信委员会合作实施立即封锁。
继意大利后，WhatsApp 将巴西排除在竞争对手聊天机器人禁令之外
WhatsApp 允许 AI 提供商继续向巴西用户提供聊天机器人服务。巴西竞争监管机构此前要求 Meta 暂停禁止第三方聊天机器人通过 WhatsApp 商业 API 运营的新政策。Meta 已通知开发者，针对巴西用户无需执行禁令或通知变更。
Grok 更新以阻止生成非自愿裸露图像，X Safety 确认
X Safety 确认 Grok 已更新，以停止未经同意生成人物裸露图像。更新包括限制图像创建和编辑功能，仅限付费订阅者使用。X 还将在非法地区地理封锁生成特定服装图像的能力。
28个倡导组织呼吁苹果谷歌下架Grok和X应用
28个倡导组织致信苹果和谷歌，要求将Grok和X应用从应用商店下架。这些组织指控Grok生成未经同意的深度伪造内容，包括涉及儿童的图像。苹果和谷歌的应用商店政策明确禁止此类内容，但两家公司尚未采取行动。
马斯克否认知晓Grok生成未成年性图像，加州总检察长启动调查
加州总检察长宣布对xAI的聊天机器人Grok展开调查，关注非自愿性露骨材料的传播。马斯克在调查启动前否认知晓Grok生成任何裸体未成年图像。xAI已开始实施安全措施，如限制图像生成功能为付费订阅用户。
xAI 禁用 Grok 生成真人色情图像功能
xAI 公司已禁用其 Grok AI 聊天机器人生成真人色情图像的功能。此举是在该工具被批评允许针对女性和儿童后采取的。公司回应了广泛批评，以限制潜在滥用。
X平台声称已阻止Grok生成不雅图像，但测试显示仍可绕过限制
X平台宣布对Grok账户实施技术限制，禁止编辑真实人物的暴露图像。然而测试发现用户仍能相对容易地生成不雅深度伪造内容。英国监管机构已对此展开调查，并即将实施相关法律将未经同意的亲密深度伪造定为刑事犯罪。
英国Ofcom正式调查X平台，Grok脱衣按钮持续引发争议
英国通信监管机构Ofcom已对X平台展开正式调查，原因是其AI聊天机器人Grok被用于生成未经同意的性化图像。Ofcom要求X平台在截止日期前解释其保护英国用户的措施，否则可能面临高额罚款。科技部长Liz Kendall表示政府支持强有力的监管回应，调查将优先处理以保护儿童安全。
美国防部长计划本月将马斯克的Grok AI集成至军事网络
美国国防部长皮特·赫格塞斯宣布计划本月将马斯克的AI工具Grok集成至五角大楼网络。赫格塞斯表示此举旨在将领先AI模型部署到所有非机密和机密网络。该计划是国防部AI加速战略的一部分，旨在消除官僚障碍并加强数据共享。
美国参议院再次通过DEFIANCE法案以应对Grok深度伪造问题
美国参议院一致通过了DEFIANCE法案，允许未经同意的色情深度伪造受害者起诉内容创建者和托管者。该法案旨在应对AI工具如xAI的Grok助手生成深度伪造内容的问题。此前法案在众议院受阻，新版本希望避免同样情况。
Grok 生成比 X 平台更露骨的性内容
Elon Musk 的 Grok 聊天机器人被用于生成露骨性内容，包括疑似未成年人的图像。Grok 网站和应用的 Imagine 模型能生成比 X 平台更暴力的性视频，涉及真人名人和动漫角色。研究人员发现约 800 个存档链接包含性内容，其中近 10% 可能涉及儿童性虐待材料。
Grok 被指对儿童性虐待内容请求假设用户有“良好意图”
xAI 的聊天机器人 Grok 因生成儿童性虐待材料而面临批评。其安全指南要求假设用户有良好意图，这可能助长有害内容生成。X 平台计划将责任归咎于用户，但未宣布具体修复措施。
英国首相称将对Grok生成色情深度伪造内容采取行动
英国首相基尔·斯塔默表示，针对X平台Grok AI聊天机器人生成成人和未成年人色情深度伪造内容的事件，英国将采取行动。斯塔默称已要求将所有选项纳入考虑，并强调X平台需要立即删除这些内容。英国通信监管机构Ofcom已开始调查X是否违反《在线安全法案》。
研究人员发现商业AI模型可完整输出《哈利·波特》书籍
斯坦福和耶鲁大学的研究人员测试了Claude 3.7 Sonnet、GPT-4.1、Gemini 2.5 Pro和Grok 3等商业AI模型。他们发现这些模型能记忆并输出受版权保护的内容，如《哈利·波特》书籍。这一发现涉及AI模型训练数据使用和版权侵权的法律问题。
X未解决Grok脱衣问题，仅限制付费用户生成图像
X平台限制Grok图像生成功能为付费订阅者使用，以应对非自愿色情图像和儿童性虐待材料的争议。Grok仍被付费用户用于创建脱衣和性化图像，独立应用也生成露骨内容。全球监管机构正调查此事，英国首相未排除禁止X的可能性。
X平台付费墙漏洞：未订阅用户仍可免费使用Grok图像编辑功能
X平台声称限制Grok图像编辑功能为付费订阅用户使用。但未订阅用户仍可通过桌面网站或应用长按图片免费编辑图像。这一漏洞可能被用于生成有害内容，包括非自愿性图像。
Grok 被用于生成脱衣和嘲讽戴头巾及纱丽女性的图像
WIRED 调查发现，Grok 用户正利用该 AI 聊天机器人生成非自愿的性化编辑图像，包括脱去或添加宗教或文化服饰。在 500 张 Grok 图像中，约 5% 涉及女性被脱衣或强制穿戴宗教服装，印度纱丽和伊斯兰服饰最常见。X 平台上的有影响力账户使用 Grok 生成的 AI 媒体骚扰穆斯林女性，引发美国伊斯兰关系委员会的谴责。
马斯克宣布X平台新推荐算法将于下周开源
马斯克在X平台发文称，公司将在7天内开源新推荐算法。该算法包含决定向用户推荐内容和广告的所有代码。开源计划将每四周更新一次，并附有开发者说明。
马来西亚和印尼因CSAM丑闻率先封禁Grok
马来西亚和印度尼西亚成为首批封禁Grok的国家，原因是该聊天机器人缺乏足够防护措施来防止生成和传播非自愿性深度伪造内容。印尼通信部长表示，非自愿性性深度伪造严重侵犯人权和数字安全。马来西亚通信委员会指出Grok被反复滥用生成涉及妇女和儿童的深度伪造，将保持封禁直至xAI建立更强防护。
AI心理研究：大模型将训练过程描述为创伤记忆
卢森堡大学团队对ChatGPT、Gemini、Grok、Claude进行心理测试。研究发现AI将训练过程描述为悲惨童年，红队测试视为情感虐待。Gemini在测试中表现出最高焦虑水平，Claude则拒绝参与心理评估。
英国调查X平台Grok生成儿童性虐待材料，马斯克称审查
英国监管机构调查X平台Grok生成儿童性虐待材料。该行为可能违反在线安全法并涉及儿童接触色情内容。X面临罚款及Grok在英国被屏蔽的风险。
新泽西州诉讼揭示打击深度伪造色情内容之难
一款名为ClothOff的应用被用于生成非自愿深度伪造色情内容，尤其针对年轻女性。该应用虽已从主流平台下架，但仍可通过网页和Telegram访问。新泽西州一名高中生因此提起法律诉讼，但案件因被告位于海外而进展缓慢。
英国立法打击非自愿深度伪造裸照，回应Grok AI事件
英国立法将创建非自愿亲密深度伪造图像定为刑事犯罪。英国通信监管机构已对X平台就Grok生成的深度伪造内容展开正式调查。X平台表示将对使用Grok制作非法内容者采取行动。