集成概览

Hugging Face 推理提供商与日益增长的开发者工具、框架和平台生态系统协同工作。这些集成使您能够在现有的工作流程和开发环境中利用最先进的模型。

如果某个工具没有对推理提供商的显式支持，通常仍然可以通过其兼容 OpenAI 的 API 支持进行兼容。请查阅您的工具文档，了解是否可以将其配置为使用自定义端点。

为什么使用集成？

• 保留现有工具：使用您已知的工具配合推理提供商
• 访问数十种提供商：无需更改代码即可在提供商之间切换
• 零附加费用定价：享受与直接联系提供商相同的费率
• 单一 API 令牌：一个 HF 令牌即可用于所有提供商和模型

概述

此表列出了部分可与 Hugging Face 推理提供商配合使用的工具、库和应用程序。有关详细的设置说明，请遵循“资源”列中的链接。

集成	描述	资源
CrewAI	用于编排 AI 代理团队的框架	官方文档
NeMo Data Designer	合成数据集生成框架	HF 文档
GitHub Copilot Chat	VS Code 中的 AI 结对编程器	HF 文档
fast-agent	构建 MCP/ACP 驱动的代理、工作流程和评估的灵活框架	官方文档
Haystack	用于构建生产应用程序的开源 LLM 框架	官方文档
Inspect	AI 安全和评估框架	官方文档
LangChain	LLM 应用框架	官方文档
LiteLLM	100+ LLM 的统一接口	官方文档
LlamaIndex	LLM 应用的数据框架	官方文档
MacWhisper	macOS 的语音转文本应用程序	HF 文档
OpenCode	为终端构建的 AI 编码代理	官方文档 / HF 文档
PydanticAI	用于使用 Python 构建 AI 代理的框架	官方文档
Roo Code	AI 驱动的代码生成和重构	官方文档
smolagents	用于构建具有工具集成的 LLM 代理的框架	官方文档
Vision Agents	文本和视觉语言模型的实时 AI SDK	官方文档 / HF 文档

按类别集成

API 客户端

简化 LLM 访问的客户端库和网关。

• LiteLLM - 统一的接口，用于以相同格式调用 100+ LLM（官方文档）

应用

由 LLM 支持的最终用户应用程序和界面。

• MacWhisper - macOS 的语音转文本应用程序（HF 文档）

开发者工具

AI 驱动的编码助手和开发环境。

• GitHub Copilot Chat - VS Code 中的 AI 结对编程器（HF 文档）
• OpenCode - 为终端构建的 AI 编码代理（官方文档 / HF 文档）
• Roo Code - AI 驱动的代码生成和重构（官方文档）

评估框架

用于评估和确保 AI 安全性和性能的工具。

• Inspect - AI 安全和评估框架（官方文档）

LLM 框架

LLM 应用框架和编排平台。

• CrewAI - 用于编排 AI 代理团队的框架（官方文档）
• fast-agent - 构建 MCP/ACP 驱动的代理、工作流程和评估的灵活框架（官方文档）
• Haystack - 用于构建生产级 LLM 应用的开源框架（官方文档）
• LangChain - 开发 LLM 应用的流行框架（官方文档）
• LlamaIndex - 连接自定义数据到 LLM 的数据框架（官方文档）
• PydanticAI - 用于使用 Python 构建 AI 代理的框架（官方文档）
• smolagents - 用于构建具有工具集成的 LLM 代理的框架（官方文档）
• Vision Agents - 实时 AI 的文本和视觉语言模型 SDK（官方文档 / HF 文档）

合成数据

用于创建合成数据集的工具。

• NeMo Data Designer - NVIDIA NeMo 框架用于合成数据生成（HF 文档）

在 GitHub 上更新