研究人员发现商业AI模型可完整输出《哈利·波特》书籍

研究人员测试了商业AI模型，发现它们能完整输出《哈利·波特》书籍。斯坦福和耶鲁大学的研究人员Ahmed Ahmed、A. Feder Cooper、Sanmi Koyejo和Percy Liang研究了Claude 3.7 Sonnet、GPT-4.1、Gemini 2.5 Pro和Grok 3等生产环境中的商业模型。他们发现这些模型能记忆并输出受版权保护的内容，类似于开源权重模型。研究人员指出，尽管商业模型实施了安全措施，但通过特定提示仍能提取大量记忆内容。这一发现与开源模型如Meta的Llama 3.1 70B类似，后者也被发现能完整记忆《哈利·波特与魔法石》和《1984》。AI模型是否记忆训练数据是法律争议的关键点，可能影响版权侵权的公平使用辩护。Anthropic、Google、OpenAI和Nvidia等公司面临超过60起法律诉讼，指控其未经授权使用受版权内容训练模型。商业模型通常通过防护栏机制防止输出大量受版权内容，但研究显示这些措施可能不足。