特性与优势

广泛的模型目录集成

超过 10,000 个 Hugging Face 模型——包括文本、视觉、语音和多模态模型——可以直接在 Azure AI Foundry Hub 和 Azure Machine Learning Studio 中访问，实现一键部署。

持续更新确保 Hugging Face Hub 中新发布和热门模型在发布当日即可在 Azure 上使用。
安全、可扩展和托管的部署

模型可以部署在 Azure Machine Learning 中的托管在线端点上，为实时推理提供安全、可扩展的 REST API。

Azure 的基础设施支持 CPU 和 GPU 部署，并内置自动扩缩、流量拆分和监控等功能。

模型经过漏洞扫描，某些模型权重直接托管在 Azure 上，以增强安全性和合规性，包括无外部出口的私有网络部署。
多模态和特定领域支持

此次合作涵盖了广泛的模态和任务：文本生成、翻译、图像分类、分割、语音识别、音频分类等等。

持续扩展包括对视频、3D、时间序列、蛋白质折叠和其他专业领域的支持。
企业级基础设施和开发工具

集成利用 Azure 的企业级基础设施，包括最新的 GPU 和 CPU 产品。

Hugging Face 模型针对 Azure 的硬件进行了优化，确保高水平的性能和效率，特别是对于要求严格的生成式 AI 应用。

与 Azure Machine Learning SDK、Azure AI SDK 和 Python API 集成，实现无缝自动化和脚本编写。
社区和开源生态系统

此次合作将 Hugging Face 开源社区的创新（近 200 万个模型和 800 万用户）带给 Azure 的企业客户。

Hugging Face 模型由开源推理引擎提供支持，这些引擎基于 Transformers、Diffusers 或 Sentence Transformers；以及高效的生产就绪解决方案，例如文本生成推理 (TGI)、vLLM、SGLang 和文本嵌入推理 (TEI) 等。
增强的安全、合规性和监控

通过 Azure 提供的所有模型都经过安全扫描和合规性检查，因为模型权重确保以 Safetensors 格式分发，并由 Hugging Face 安全合作伙伴 JFrog、Protect AI 和 ClamAV 以及 Hugging Face 的 Pickelscan 进行扫描。

Azure 的企业安全功能（私有端点、网络隔离、审计跟踪）可用于 Hugging Face 模型部署。

企业和开发者的优势

加速 AI 采用和创新

快速访问最新的开源模型和最先进的 AI 功能，无需承担基础设施设置或维护的开销。

使组织能够更快地构建、试验和迭代 AI 解决方案，与不断发展的 AI 格局保持同步。
降低生产就绪型 AI 的门槛

通过最少的配置，简化将复杂模型（如 Transformers 和 LLM）部署到安全、生产环境的过程。

减少对专业 DevOps 或 ML 基础设施专业知识的需求。
灵活性和控制性

企业保留对数据、模型选择和部署环境的完全控制，支持公共云和私有云场景。
成本和资源优化

Azure 灵活的扩缩、全球可用性和按需付费定价有助于优化实验和大规模生产的成本。

通过自动扩缩和流量管理功能高效利用资源。
安全与合规性

企业级安全、合规性和隐私控制内置于模型生命周期的每个阶段。

模型经过漏洞审查，可以在隔离环境中部署以满足监管要求。
面向未来的保障和生态系统增长

持续合作确保定期更新、对新模态的支持以及与新兴 Azure 和 Hugging Face 功能的集成。

访问开放和专有模型，以及用于构建模块化、智能体和可组合 AI 应用程序的工具。

Hugging Face 和 Microsoft Azure 之间的这种深度集成使组织能够利用开源 AI 的最佳优势，同时享受 Azure 云生态系统的可靠性、安全性和可扩展性。

< > 在 GitHub 上更新