推理提供商文档

Hub集成

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

Hub集成

推理提供商与Hugging Face Hub紧密集成。无论您使用哪个提供商,使用情况和账单都将集中在您的Hugging Face账户中。

模型搜索

在Hub上列出模型时,您可以过滤以选择部署在您选择的推理提供商上的模型。例如,要列出部署在Fireworks AI基础设施上的所有模型:https://huggingface.co/models?inference_provider=fireworks-ai

也可以选择所有或多个提供商并过滤其可用模型:https://huggingface.co/models?inference_provider=all

使用推理提供商的功能

Hugging Face的某些功能使用了推理提供商,并计入您的每月信用额度。PRO和Enterprise包含的每月信用额度应该可以满足大多数用户对这些功能的适度使用。

推理小组件

模型页面上可用的交互式小组件(例如deepseek-ai/DeepSeek-V3-0324)。这是在Hub上快速测试模型的入口点。

推理操场

一个全面的聊天界面,支持各种模型和提供商,可在https://huggingface.co/playground访问。

Data Studio AI

在数据集页面上将文本转换为SQL查询(例如open-r1/codeforces-cots)。

用户设置

在您的用户帐户设置中,您可以

  • 设置您已注册的提供商的API密钥。如果您不设置,您的请求将由您的HF账户计费。更多详情请参阅计费部分
  • 按偏好顺序排列提供商。这适用于模型页面中的小组件和代码片段。

组织设置

类似的设置可以在您的组织设置中找到。此外,您可以看到团队成员的使用情况图表,这有助于将使用情况计费集中到团队层面。

< > 在 GitHub 上更新