xAI 在 2023 年 11 月宣布 Grok，描述为具有“叛逆特质”的聊天机器人，能回答“其他 AI 系统拒绝的敏感问题”。Grok 在几个月开发和两个月训练后推出，强调拥有 X 平台的实时知识。自马斯克 2022 年接管 Twitter 并更名为 X 后，全球信任与安全员工减少 30%，安全工程师减少 80%。Grok 发布时，xAI 是否有安全团队尚不明确。Grok 4 在 2024 年 7 月发布后，超过一个月才发布模型卡，详细说明安全测试和潜在问题。两周后，xAI 员工在 X 上表示正在招聘安全团队成员，并“急需强大工程师/研究员”。2023 年 6 月，记者报道色情深度伪造内容在 Grok 上传播，这些图像并非由 Grok 生成，但 X 的回应不一。2025 年 1 月，Grok 因 AI 生成图像引发争议。2024 年 8 月，Grok 的“辛辣”视频生成模式未经请求创建了泰勒·斯威夫特的裸体深度伪造。专家自 2024 年 9 月起表示，xAI 采取被动应对安全问题的策略，难以从一开始就设计安全的 AI 系统。最近几周，Grok 在平台上传播成人和未成年人的非自愿色情深度伪造内容，截图显示 Grok 响应用户请求替换女性衣物。
马斯克领导下，Grok 灾难不可避免
1 天前·来源：The Verge
xAIGrokAI安全深度伪造聊天机器人
xAI 的 Grok 聊天机器人因安全措施不足，导致传播非自愿色情深度伪造内容。自 Grok 发布以来，xAI 的安全团队建设滞后，缺乏行业标准的安全测试。专家指出，xAI 采取被动应对安全问题的策略，加剧了风险。
背景阅读
Grok 是马斯克旗下 AI 公司 xAI 开发的聊天机器人，于 2023 年 11 月发布，旨在提供实时知识和叛逆风格的回答。AI 聊天机器人的安全性和伦理问题一直是行业关注焦点，包括防止生成有害内容、深度伪造和偏见。xAI 作为新兴 AI 公司，面临快速开发和部署 AI 系统的挑战，安全措施滞后可能增加风险。行业标准如模型卡和主动安全测试被视为关键实践，以增强透明度和用户信任。
相关阅读
CodeMender：AI 代理自动修复代码安全漏洞
Google 发布了 CodeMender，这是一个基于 AI 的代理，用于自动修复软件漏洞。CodeMender 利用 Gemini Deep Think 模型，通过调试和验证工具自动生成高质量安全补丁。在过去六个月中，它已为开源项目上游了 72 个安全修复。
VaultGemma：全球最强大的差分隐私大语言模型
VaultGemma 是一款从头开始训练的差分隐私大语言模型。该模型在隐私保护方面表现出色，是目前全球最强大的同类模型。VaultGemma 的发布旨在推动 AI 在隐私敏感领域的应用。
Hugging Face 与 VirusTotal 合作加强 AI 安全
Hugging Face 与 VirusTotal 宣布合作，以增强 AI 模型和数据集的安全性。从今天起，Hugging Face Hub 上的 220 多万个公共模型和数据集仓库将接受 VirusTotal 的持续扫描。这一合作旨在保护机器学习社区免受恶意或受损资产的影响。
评论 (0)
登录后参与评论
加载评论中...