世界经济论坛报告显示，企业AI安全风险评估比例从37%升至64%。94%的企业领导者认为AI是网络安全变革的关键驱动力。地缘政治因素成为企业网络风险策略的主要考量。
世界经济论坛（WEF）发布的《2026年全球网络安全展望》报告显示，在部署AI工具前进行安全风险评估的企业比例从去年的37%大幅上升至64%，几乎翻倍。
报告指出，94%的受访企业领导者认为AI将是2026年网络安全变革的最重要驱动力，87%认为AI相关漏洞有所增加，超过其他任何类型的威胁。
对于企业领导者而言，目前最担忧的AI安全风险是数据泄露，其次是对抗性能力的提升。报告还发现，地缘政治动机的攻击是企业风险策略中最常见的特征。
64%的组织报告地缘政治因素在塑造其网络风险策略中扮演了最大角色，连续多年位居榜首。地缘政治对大型组织（员工超过10万）的影响更为显著，91%的大型组织报告其安全计划因此改变，而员工少于1000人的组织中这一比例为59%。
高德纳（Gartner）在2025年对欧洲CIO和其他IT领导者进行调查后也得出了类似结论，发现随着数据主权担忧加剧，许多企业正在考虑选择本地云提供商。
报告发布前一周，在英国国家网络安全中心（NCSC）5月的年度会议上，约200名安全专业人士中，没有一人能声称自己对其组织的AI系统安全有深入了解。
人工智能安全风险评估是指企业在部署人工智能系统前，对其可能引发的安全、隐私、伦理及运营风险进行系统性识别、分析和评价的过程。随着生成式人工智能等技术的广泛应用，此类评估已成为企业风险管理的关键环节。 人工智能安全风险主要涵盖多个维度。技术层面包括模型本身的漏洞，如对抗性攻击（通过精心构造的输入误导AI模型）、数据投毒（训练数据被污染）以及模型窃取。数据与隐私层面涉及训练和推理过程中的数据泄露、合规风险及偏见放大问题。应用与运营层面则关注AI系统被恶意利用（如制造深度伪造或自动化网络攻击）以及与传统系统集成带来的新型攻击面。 该领域的监管环境正在快速演变。欧盟的《人工智能法案》率先建立了基于风险分级的监管框架。美国通过行政命令推动AI安全标准制定，中国也出台了相关生成式AI服务管理暂行办法。这些法规共同强调了安全评估的重要性。 行业实践方面，早期AI部署多侧重于功能实现与效率提升，安全考量往往滞后。近年来，一系列与AI相关的安全事件及监管压力，促使企业将安全评估前置。专业的安全评估框架和工具开始涌现，同时，网络安全厂商正将AI威胁检测与响应作为核心产品方向。在此背景下，企业提升AI安全风险评估比例，反映了全球范围内应对新型数字风险的迫切需求。
Anthropic推出Claude for Healthcare工具集，瞄准医疗健康市场。该工具支持同步健康数据并新增连接器功能，可访问多个医疗数据库。其旨在加速保险预授权等行政流程，辅助医疗研究及报告生成。
谷歌移除AI健康摘要部分内容，因调查发现其提供虚假信息。AI在健康查询中给出错误建议，可能误导患者延误治疗。谷歌仅禁用部分问题，其他潜在有害答案仍可访问。
英国立法将创建非自愿亲密深度伪造图像定为刑事犯罪。英国通信监管机构已对X平台就Grok生成的深度伪造内容展开正式调查。X平台表示将对使用Grok制作非法内容者采取行动。
登录后参与评论
