接口：BaseArgs

属性

accessToken

• 可选 accessToken: string

要使用的访问令牌。没有它，你将很快受到速率限制。

可以在 hf.co/settings/token 免费创建

如果你打算调用兼容的提供商，如 Sambanova、Together、Replicate...，你也可以传递外部推理提供商的密钥。

定义于

inference/src/types.ts:65

---

endpointUrl

• 可选 endpointUrl: string

要使用的端点 URL。如果未指定，将调用 huggingface.co/api/tasks 以获取任务的默认端点。

如果指定，将使用此 URL 而不是默认 URL。

定义于

inference/src/types.ts:82

---

model

• 可选 model: string

要使用的 HF 模型。

如果未指定，将调用 huggingface.co/api/tasks 以获取任务的默认模型。

/!\ 遗留行为允许这是一个 URL，但这已被弃用，并将在未来版本中移除。请改用 endpointUrl 参数。

定义于

inference/src/types.ts:75

---

provider

• 可选 provider: "black-forest-labs" | "cerebras" | "cohere" | "fal-ai" | "fireworks-ai" | "hf-inference" | "hyperbolic" | "nebius" | "novita" | "openai" | "replicate" | "sambanova" | "together"

设置一个推理提供商来运行此模型。

默认为你的用户设置中与此模型兼容的第一个提供商。

定义于

inference/src/types.ts:89

< > 在 GitHub 上更新