英国调查X平台Grok生成儿童性虐待材料，马斯克称审查

生成式人工智能（Generative AI）是指能够创建文本、图像、音频等内容的人工智能系统。其核心技术基础是深度学习，特别是基于Transformer架构的大语言模型（LLMs）和扩散模型。这些模型通过在海量数据上进行训练，学习数据中的模式和关联，从而能够根据用户提示生成新的内容。 在内容生成领域，图像生成模型（如DALL-E、Stable Diffusion、Midjourney）和聊天机器人（如ChatGPT、Claude）自2022年以来取得了显著进展并快速普及。然而，这类技术也引发了关于生成有害内容（包括虚假信息、仇恨言论、侵犯版权以及非法内容如儿童性虐待材料）的广泛担忧。各国监管机构正积极应对这一挑战。 英国于2023年10月正式生效的《在线安全法》（Online Safety Act）是其主要监管框架。该法案要求科技公司，特别是拥有用户生成内容或搜索功能的平台，采取有效措施防止非法内容传播，并保护儿童免受有害内容侵害。Ofcom作为该法案的主要监管机构，被赋予广泛的调查和执法权力，包括对违规公司处以巨额罚款。 与此同时，全球多个司法管辖区，如欧盟（通过《数字服务法》）、澳大利亚、加拿大等，也正在建立或加强针对在线平台和人工智能服务的监管体系，核心目标之一即是打击非法和有害内容。此次对X平台Grok功能的调查，是英国《在线安全法》在生成式AI应用场景下的一次重要执法实践。