从云端到开发者:Hugging Face 和 Microsoft 加深合作
在今天的 Microsoft Build 大会上,我们很高兴地宣布一系列新的功能和合作,微软和 Hugging Face 正在深化战略合作,以便在任何地方都能更轻松地使用开放模型和开源人工智能。我们将共同努力,帮助人工智能开发者在开放科学、开源、云、硬件和开发者体验方面取得进展——请继续阅读今天在所有这些方面发布的公告!
云端人工智能开发者的合作
我们很高兴地宣布两项重要的全新体验,用于在 Microsoft Azure 上使用开放模型构建人工智能。
Azure 模型目录中扩展的 HF 精选集
一年前,Hugging Face 和微软 发布了 Azure 模型目录中的 Hugging Face 精选集。Hugging Face 精选集自推出以来已被数百个 Azure AI 客户使用,提供了上千个开放模型。今天,我们将一些最受欢迎的开放大型语言模型添加到 Hugging Face 精选集中,以实现从 Azure AI Studio 直接一键部署。
新模型包括来自 Meta 的 Llama 3、来自 Mistral AI 的 Mistral 7B、来自 Cohere for AI 的 Command R Plus、来自 Qwen 的 Qwen 1.5 110B,以及 Hugging Face 社区在 Open LLM 排行榜上表现最佳的一些微调模型。
要在您自己的 Azure 帐户中部署模型,您可以从 Hugging Face Hub 上的模型卡开始,选择“在 Azure 上部署”选项。
或者您可以在 Azure AI Studio 的 Hugging Face 精选集中直接找到模型,然后点击“部署”。
在 Azure 上使用新的 AMD MI300X 构建人工智能
今天,微软发布了基于最新 AMD Instinct MI300 GPU 的新 Azure ND MI300X 虚拟机 (VM) 在 Azure 上正式发布。Hugging Face 与 AMD 和微软合作,在新虚拟机上为 Hugging Face 模型实现了惊人的性能和性价比。
这项工作利用了我们与 AMD 的深度合作以及我们的开源库 Optimum-AMD,对 Hugging Face 开源库和模型在 AMD Instinct GPU 上进行了优化、ROCm 集成和持续测试。
开放科学的合作
微软一直在 Hugging Face 上发布一些最受欢迎的开放模型,目前在 Hugging Face Hub 上的微软组织中提供了近 300 个模型。
这包括最近发布的 Phi-3 模型系列,这些模型在 MIT 许可下发布,其性能远远超出其参数量。例如,Phi-3 mini 仅有 38 亿个参数,但其性能却优于许多参数量为 70 亿到 100 亿的大型语言模型,这使得这些模型成为设备端应用程序的绝佳选择。
为了展示 Phi-3 的能力,Hugging Face 在其免费的消费者应用程序 Hugging Chat 中部署了 Phi-3 mini,该应用程序允许用户与最优秀的开放模型进行聊天并创建助手。
开源的合作
Hugging Face 和微软合作了 3 年,通过 optimum 开源库,轻松地 导出和使用 ONNX Runtime 的 Hugging Face 模型。
最近,Hugging Face 和微软一直致力于通过 WebGPU 实现本地推理,利用 Transformers.js 和 ONNX Runtime Web。请阅读 ONNX Runtime 团队的这篇社区文章,了解更多关于合作的信息。
要亲身体验 WebGPU 的强大功能,请观看这个 Phi-3 演示,它能在浏览器中以每秒超过 70 个 token 的速度在本地生成内容!
开发者的合作
最后但同样重要的是,今天我们发布了一项新的集成,让开发者使用 Hugging Face Spaces 和 VS Code 构建人工智能应用程序比以往任何时候都更容易!
Hugging Face 社区已使用 Hugging Face Spaces 在 Hub 上创建了超过 50 万个 AI 演示应用程序。通过新的 Spaces 开发模式,Hugging Face 用户可以轻松地将其 Space 连接到本地 VS Code,或者启动基于 Web 的 VS Code 环境。
Spaces 开发模式目前处于 Beta 阶段,适用于 PRO 订阅者。要了解更多关于 Spaces 开发模式的信息,请查看 《Introducing Spaces Dev mode for a seamless developer experience》或文档。
接下来
我们很高兴能深化与微软的战略合作,使开源人工智能在各地更易于访问。请继续关注,我们将在未来几个月在 Azure AI Studio 模型目录中启用更多模型,并推出新的功能和体验。