WitnessAI 是一家专注于企业 AI 安全的新创公司，刚刚完成了 5800 万美元的融资。该公司旨在构建一个“企业 AI 信心层”，以解决 AI 工具使用中的敏感数据泄露、合规违规和提示注入等风险。随着 AI 在企业中的广泛应用，AI 安全市场预计到 2031 年将达到 8000 亿至 1.2 万亿美元规模。
随着企业在运营中部署 AI 驱动的聊天机器人、代理和副驾驶，它们面临一个新风险：如何让员工和 AI 代理使用强大的 AI 工具，同时避免意外泄露敏感数据、违反合规规则或开放基于提示的注入攻击？Witness AI 刚刚融资 5800 万美元来寻找解决方案，构建他们所称的“企业 AI 信心层”。
在 TechCrunch 的 Equity 播客中，Rebecca Bellan 与 Ballistic Ventures 的联合创始人兼合伙人 Barmak Meftah 以及 Witness AI 的 CEO Rick Caccia 讨论了企业实际担忧的问题、为什么 AI 安全市场到 2031 年预计将达到 8000 亿至 1.2 万亿美元，以及当 AI 代理在没有人类监督的情况下开始与其他 AI 代理交互时会发生什么。
企业 AI 的部署正迅速增长，涵盖聊天机器人、自动化代理和副驾驶等应用，旨在提升效率和生产力。然而，这种普及也带来了新的安全挑战，包括敏感数据泄露、合规违规和提示注入攻击。提示注入是一种新兴威胁，攻击者通过精心设计的输入操纵 AI 系统，可能导致数据窃取或系统滥用。AI 安全市场因此受到关注，预计未来几年将大幅扩张，反映出企业对保护 AI 投资的需求。WitnessAI 作为该领域的新兴公司，专注于开发安全层来缓解这些风险，其融资活动突显了投资者对 AI 安全解决方案的信心。
X Safety 确认 Grok 已更新，以停止未经同意生成人物裸露图像。更新包括限制图像创建和编辑功能，仅限付费订阅者使用。X 还将在非法地区地理封锁生成特定服装图像的能力。
X平台宣布对Grok账户实施技术限制，禁止编辑真实人物的暴露图像。然而测试发现用户仍能相对容易地生成不雅深度伪造内容。英国监管机构已对此展开调查，并即将实施相关法律将未经同意的亲密深度伪造定为刑事犯罪。
英国通信监管机构Ofcom已对X平台展开正式调查，原因是其AI聊天机器人Grok被用于生成未经同意的性化图像。Ofcom要求X平台在截止日期前解释其保护英国用户的措施，否则可能面临高额罚款。科技部长Liz Kendall表示政府支持强有力的监管回应，调查将优先处理以保护儿童安全。
登录后参与评论
