Scaleway 成为 Hugging Face Hub 推理服务提供商

1 天前·来源:Hugging Face Blog
Hugging FaceScalewayAI推理无服务器开源模型

Scaleway 已加入 Hugging Face Hub 作为推理服务提供商。该服务提供无服务器推理,支持 GPT-OSS、Qwen3 等流行开源模型。Scaleway 的 API 按令牌计费,起价为每百万令牌 0.20 欧元。

Scaleway 现已成为 Hugging Face Hub 支持的推理服务提供商。Scaleway 加入了这个不断增长的生态系统,增强了在 Hub 模型页面上直接进行无服务器推理的广度和能力。推理服务提供商也无缝集成到客户端 SDK 中,使得使用各种模型变得非常容易。

此次发布使得访问流行开源模型如 GPT-OSS、Qwen3、DeepSeek R1 和 Gemma 3 变得更加便捷。用户可以在 Hub 上浏览 Scaleway 的组织页面,并尝试趋势支持模型。

Scaleway 生成式 API 是一个完全托管的无服务器服务,通过简单 API 调用提供对前沿 AI 模型的访问。该服务提供按令牌计费的定价,起价为每百万令牌 0.20 欧元。服务运行在位于欧洲数据中心的安全基础设施上,确保数据主权和低延迟。平台支持高级功能,包括结构化输出、函数调用以及文本和图像处理的多模态能力。

Scaleway 的推理基础设施专为生产使用而设计,首次令牌响应时间低于 200 毫秒,适合交互式应用和代理工作流。服务支持文本生成和嵌入模型。用户可以在其文档页面了解更多关于如何使用 Scaleway 作为推理服务提供商的信息。

背景阅读

Hugging Face Hub 是一个流行的 AI 模型和数据集平台,提供模型托管、推理和协作功能。推理服务提供商是 Hugging Face 生态系统的一部分,允许用户通过第三方服务运行模型,而无需自行部署基础设施。这降低了使用 AI 模型的门槛,特别是对于无服务器和按需场景。Scaleway 是一家欧洲云服务提供商,专注于提供本地化基础设施,此次合作扩展了 Hugging Face 的推理选项,特别是在欧洲市场。类似的服务提供商包括其他云平台,如 AWS、Google Cloud 和 Azure,它们也通过 Hugging Face 提供推理集成。这一趋势反映了 AI 模型部署的多样化和去中心化,旨在提高可访问性和性能。

评论 (0)

登录后参与评论

加载评论中...