Hugging Face 与微软合作,在 Azure 上推出 Hugging Face 模型目录
今天,我们很高兴地宣布 Hugging Face 扩展与微软的合作,将 Hugging Face Hub 的开源模型引入 Azure 机器学习。我们共同构建了一个新的 Hugging Face Hub 模型目录,可直接在 Azure 机器学习工作室中使用,其中包含来自 Hugging Face Hub 的数千个最受欢迎的 Transformers 模型。通过这项新的集成,您现在只需点击几下即可将 Hugging Face 模型部署到托管端点上,并在安全、可扩展的 Azure 基础设施上运行。
这项新体验扩展了我们去年宣布的战略合作伙伴关系,当时我们将 Azure 机器学习端点作为 Azure Marketplace 中的一个新托管应用程序推出,以简化在 Azure 上部署大型语言模型的体验。尽管我们之前的市场解决方案是充满希望的第一步,但它有一些局限性,我们只能通过与 Azure 机器学习的本机集成来克服这些局限性。为了解决这些挑战并增强客户体验,我们与微软合作,为 Hugging Face 用户在 Azure 机器学习工作室中提供完全集成的体验。
Hugging Face 托管着超过 200,000 个开源模型,每天提供超过 100 万次模型下载,是机器学习的首选目的地。但如今,将 Transformers 部署到生产环境仍然是一个挑战。
开发人员和组织面临的主要问题之一是部署和扩展生产级推理 API 的难度。当然,一个简单的选择是依赖基于云的 AI 服务。尽管它们使用起来非常简单,但这些服务通常由一组有限的模型提供支持,这些模型可能不支持您需要的任务类型,并且根本无法进行深度定制。或者,基于云的机器学习服务或内部平台为您提供完全控制,但代价是更多的时间、复杂性和成本。此外,许多公司都有严格的安全、合规和隐私要求,要求他们只在拥有管理权限的基础设施上部署模型。
Hugging Face 首席宣传官 Julien Simon 表示:“通过新的 Hugging Face Hub 模型目录,原生集成到 Azure 机器学习中,我们与微软的合作翻开了新的一页,为企业客户提供了一种超简单的方式,可以在其安全的 Azure 环境中部署 Hugging Face 模型以进行实时推理。”
微软 Azure AI 平台公司副总裁 John Montgomery 表示:“将 Hugging Face 的开源模型集成到 Azure 机器学习中,体现了我们致力于为开发人员提供行业领先的 AI 工具的承诺。” “这项合作不仅简化了大型语言模型的部署过程,还为实时推理提供了安全且可扩展的环境。这是我们加速 AI 计划并凭借 Azure 基础设施的强大功能快速安全地将创新解决方案推向市场的重要里程碑。”
在 Azure 机器学习上部署 Hugging Face 模型从未如此简单
- 在 Azure 机器学习工作室中打开 Hugging Face 注册表。
- 单击 Hugging Face 模型目录。
- 按任务或许可证筛选并搜索模型。
- 单击模型磁贴以打开模型页面,然后选择实时部署选项以部署模型。
- 选择 Azure 实例类型,然后单击部署。
几分钟内,您就可以测试您的端点并将其推理 API 添加到您的应用程序中。从未如此简单!
如果您想观看该服务的实际操作,可以单击下面的图片观看视频演示。
Azure 机器学习上的 Hugging Face 模型目录现已在所有提供 Azure 机器学习的 Azure 区域公开预览。试用该服务并在论坛中告诉我们您的反馈和问题!