谷歌在周日移除了其AI Overviews功能中的部分健康摘要，此前《卫报》的一项调查发现，虚假和误导性信息可能将用户置于风险之中。
调查显示，谷歌的生成式AI功能在搜索结果顶部提供不准确的健康信息，可能导致重病患者错误地认为自己健康状况良好。
谷歌禁用了特定查询，例如“肝功能检查正常范围是什么”，此前《卫报》联系的专家指出这些结果具有危险性。报告还强调了一个关于胰腺癌的关键错误：AI建议患者避免高脂肪食物，这一建议与维持体重的标准医疗指导相矛盾，可能危及患者健康。
尽管有这些发现，谷歌仅停用了肝功能测试查询的摘要，其他潜在有害答案仍可访问。
调查发现，搜索肝功能检查正常值会生成缺乏必要背景的原始数据表（列出ALT、AST和碱性磷酸酶等特定酶），AI功能也未能根据年龄、性别和种族等患者人口统计数据调整这些数值。专家警告，由于AI模型对“正常”的定义往往与实际医疗标准不同，患有严重肝病的患者可能错误地认为自己健康并跳过必要的后续护理。
英国肝脏信托基金会的传播和政策总监Vanessa Hebditch告诉《卫报》，肝功能检查是一系列不同的血液测试，理解结果“很复杂，涉及的内容远不止比较一组数字”。她补充说，AI Overviews未能警告，即使患有严重肝病并需要进一步医疗护理，这些测试也可能得出正常结果。“这种虚假的保证可能非常有害，”她说。
谷歌拒绝对《卫报》就具体移除事件发表评论。公司发言人告诉The Verge，谷歌投资于AI Overviews的质量，特别是健康主题，并称“绝大多数提供准确信息”。发言人补充说，公司的内部临床医生团队审查了分享的内容，“发现在许多情况下，信息并非不准确，并且得到高质量网站的支持。”