DeepMind 发布了前沿安全框架的第三版更新，这是其识别和缓解先进 AI 模型严重风险的最全面方法。该更新基于与行业、学术界和政府专家的持续合作，并整合了先前版本实施经验和前沿 AI 安全最佳实践的教训。
更新引入了针对有害操纵的关键能力级别，重点关注具有强大操纵能力的 AI 模型，这些模型可能被滥用于在识别的高风险情境中系统性地改变信念和行为，导致大规模额外伤害。这一新增基于 DeepMind 在识别和评估生成式 AI 驱动操纵机制方面的研究。
框架还扩展了以应对未来潜在场景，即未对齐的 AI 模型可能干扰操作者指导、修改或关闭其操作的能力。此外，更新提供了针对可能加速 AI 研发至潜在不稳定水平的模型的机器学习研发关键能力级别的进一步协议。
为应对关键能力级别带来的风险，DeepMind 在达到相关级别时进行外部发布前的安全案例审查，包括详细分析以展示风险如何降至可管理水平。对于高级机器学习研发关键能力级别，大规模内部部署也可能构成风险，因此该方法现已扩展至包括此类部署。
框架旨在根据风险严重程度进行比例管理，并优化了关键能力级别定义以识别需要最严格治理和缓解策略的关键威胁。DeepMind 在达到特定阈值前和作为标准模型开发方法的一部分，持续应用安全和安全缓解措施。
更新还详细描述了风险评估流程，包括系统风险识别、模型能力全面分析和风险可接受性明确确定。