Cohere 已成为 Hugging Face Hub 上支持的推理服务提供商。这标志着首个模型创建者直接在 Hub 上分享和部署其模型。Cohere 专注于为企业用例构建和提供模型，其安全 AI 解决方案涵盖生成式 AI、嵌入和排序模型。Cohere Labs 是其内部研究实验室，支持基础研究。现在，用户可以通过 Cohere 和推理服务对以下模型进行无服务器推理：CohereLabs/c4ai-command-r-v01、CohereLabs/c4ai-command-r-plus、CohereLabs/c4ai-command-r-08-2024、CohereLabs/c4ai-command-r7b-12-2024、CohereLabs/c4ai-command-a-03-2025、CohereLabs/aya-expanse-8b、CohereLabs/aya-expanse-32b、CohereLabs/aya-vision-8b、CohereLabs/aya-vision-32b。Cohere 和 Cohere Labs 的模型在特定业务应用中表现出色。CohereLabs/c4ai-command-a-03-2025 针对需要快速、安全和高质量 AI 的企业进行了优化，具有 256k 上下文长度，支持 23 种语言。CohereLabs/aya-expanse-32b 专注于先进的多语言支持，支持 23 种语言，上下文长度为 128k。CohereLabs/c4ai-command-r7b-12-2024 适用于低成本或低延迟用例，在开放权重模型中提供先进性能，支持 23 种语言，上下文长度为 128k。CohereLabs/aya-vision-32b 是一个 320 亿参数模型，针对视觉语言用例进行了优化。
Cohere 成为 Hugging Face 推理服务提供商
Cohere 现已作为推理服务提供商在 Hugging Face Hub 上得到支持。这是首个直接在 Hub 上分享和部署模型的模型创建者。用户可通过 Cohere 对多个模型进行无服务器推理。
背景阅读
Hugging Face Hub 是一个流行的 AI 模型和数据集共享平台，支持社区上传和部署机器学习模型。推理服务提供商允许用户通过 API 直接运行模型，无需自行托管，简化了 AI 应用的部署流程。Cohere 是一家专注于企业级 AI 解决方案的公司，提供包括生成式 AI、嵌入和排序模型在内的多种模型。其模型如 Command 系列和 Aya 系列在多语言处理、检索增强生成（RAG）和视觉语言任务方面具有先进能力。Cohere Labs 是 Cohere 的研究部门，致力于推动 AI 基础研究。此次合作使开发者能更便捷地访问 Cohere 的模型，促进企业 AI 应用的开发。
相关阅读
Hugging Face开源PipelineRL，解决大模型强化学习吞吐与数据收集权衡
Hugging Face开源了实验性强化学习实现PipelineRL，旨在解决大规模语言模型强化学习中推理吞吐量与在线数据收集之间的权衡问题。PipelineRL的核心创新是在训练过程中进行飞行权重更新，允许推理服务器保持高吞吐量，同时最小化用于生成数据的模型权重与最新更新权重之间的延迟。该方法在Open-Reasoner-Zero数据集上训练7B和32B模型时，在AIME 2024和MATH 500基准测试中取得了竞争性结果，且使用更简单的强化学习算法。
微软与Hugging Face深化合作，在Azure上简化开源模型部署
微软与Hugging Face在Microsoft Build大会上宣布扩大合作。Azure AI Foundry现已集成超过10,000个Hugging Face模型。企业可在Azure安全基础设施上轻松部署这些模型，用于文本、音频和图像处理任务。
Meta 在 Hugging Face Hub 发布 Llama Guard 4 安全模型
Meta 发布了 Llama Guard 4，这是一个 120 亿参数的多模态安全模型。该模型旨在检测图像和文本中的不当内容，支持多语言输入。同时发布的还有两个新的 Llama Prompt Guard 2 模型，专注于检测提示注入和越狱攻击。
评论 (0)
登录后参与评论