Together AI 支持微调 Hugging Face Hub 上的任何大语言模型

1 天前·来源:Hugging Face Blog
Together AIHugging Face微调大语言模型AI基础设施

Together AI 与 Hugging Face 合作推出新功能,允许用户微调 Hugging Face Hub 上的任何兼容大语言模型。该功能简化了传统微调流程,用户可通过 Together AI 平台轻松定制模型。集成支持双向操作,模型可部署、下载或上传回 Hub。

Together AI 与 Hugging Face 宣布合作,推出新功能,使整个 Hugging Face Hub 上的模型可用于微调。用户现在可以通过 Together AI 的基础设施,微调 Hub 上的任何兼容大语言模型,包括来自 Meta 或个体贡献者的模型。该功能旨在简化传统微调基础设施的复杂性,降低成本和 DevOps 专业知识要求。

用户可以通过 Together AI 平台在 5 分钟内开始微调。示例代码展示了如何安装 Together 库、上传训练文件并启动微调作业。微调过程需要指定两个模型:基础模型和自定义模型。基础模型来自 Together AI 的官方目录,提供基础设施配置和训练优化;自定义模型是用户选择的 Hugging Face 模型,用于实际微调。

集成支持双向操作,Together AI 可以从 Hugging Face Hub 拉取兼容的公共模型进行微调。微调后的模型可以部署用于推理、下载或上传回 Hub。对于私有仓库,用户只需添加 Hugging Face API 令牌即可。

背景阅读

Hugging Face Hub 是开源人工智能模型的主要平台,汇集了数千个模型,涵盖从通用大语言模型到特定领域应用的变体。微调是机器学习中的关键过程,通过使用特定数据集调整预训练模型,以提升其在特定任务上的性能。传统上,微调需要复杂的硬件设置、高昂的 GPU 成本和专业的运维技能,这限制了中小型团队和开发者的访问。Together AI 是一家提供 AI 基础设施服务的公司,专注于简化模型训练和部署。此次合作将 Hugging Face 的模型库与 Together AI 的云基础设施结合,旨在降低微调门槛,促进 AI 创新。类似的服务包括 Google 的 Vertex AI 和 Microsoft 的 Azure Machine Learning,但 Together AI 的集成专注于无缝连接 Hugging Face 生态系统。

评论 (0)

登录后参与评论

加载评论中...