Public AI 已成为 Hugging Face Hub 上支持的推理服务提供商，加入了不断增长的生态系统，增强了在 Hub 模型页面上直接进行无服务器推理的广度和能力。推理服务提供商还无缝集成到客户端 SDK 中，使得使用各种模型变得非常容易。
此次发布使得从 Hugging Face 访问瑞士 AI 倡议和 AI 新加坡等机构的公共和主权模型变得更加便捷。用户可以在 Hub 上浏览 Public AI 的组织页面，并尝试趋势支持的模型。
Public AI 推理工具是一个非营利、开源项目，团队构建产品并组织倡导活动，以支持瑞士 AI 倡议和 AI 新加坡等公共 AI 模型构建者的工作。该工具运行在分布式基础设施上，结合了 vLLM 驱动的后端和设计用于跨多个合作伙伴弹性的部署层。推理由暴露 OpenAI 兼容 API 的服务器处理，部署在国家和行业合作伙伴捐赠的集群上。全局负载均衡层确保请求高效透明地路由。
免费公共访问由捐赠的 GPU 时间和广告补贴支持，长期稳定性旨在通过国家和机构贡献来锚定。用户现在可以在 Hugging Face 上使用 Public AI 推理工具作为推理服务提供商。