定价

使用 🤗 推理端点可在专用基础设施上轻松部署机器学习模型。创建端点时，您可以选择要部署的实例类型，并根据每小时费率扩展模型。具有有效订阅和信用卡信息的 Hugging Face 帐户可以使用 🤗 推理端点。在订阅期结束时，当成功部署的端点（准备好提供服务）处于“正在初始化”和“正在运行”状态时，用户或组织帐户将按使用的计算资源收费。

您可以在下方找到 🤗 推理端点所有可用实例的每小时定价，以及费用计算示例。虽然价格按小时显示，但实际费用按分钟计算。

CPU 实例

下表显示了当前可用的 CPU 实例及其每小时定价。如果在应用程序中无法选择实例类型，您需要请求配额才能使用它。

GPU 实例

下表显示了当前可用的 GPU 实例及其每小时定价。如果在应用程序中无法选择实例类型，您需要请求配额才能使用它。

加速器实例

下表显示了当前可用的自定义加速器实例及其每小时定价。如果在应用程序中无法选择实例类型，您需要请求配额才能使用它。

定价示例

以下定价场景示例展示了如何计算成本。您可以在上表中找到所有实例类型和大小的每小时费率。使用以下公式计算成本：

instance hourly rate * ((hours * # min replica) + (scale-up hrs * # additional replicas))

基本端点

• AWS CPU intel-spr x2 (2 个 vCPU 4GB RAM)
• 自动扩缩（最少 1 个副本，最多 1 个副本）

每小时费用

instance hourly rate * (hours * # min replica) = hourly cost
$0.067/hr * (1hr * 1 replica) = $0.067/hr

每月费用

instance hourly rate * (hours * # min replica) = monthly cost
$0.064/hr * (730hr * 1 replica) = $46.72/month

高级端点

• AWS GPU 小型（1 个 GPU 14GB RAM）
• 自动扩缩（最少 1 个副本，最多 3 个副本），每小时流量高峰会将端点从 1 个副本扩缩到 3 个副本，持续 15 分钟

每小时费用

instance hourly rate * ((hours * # min replica) + (scale-up hrs * # additional replicas)) = hourly cost
$0.5/hr * ((1hr * 1 replica) + (0.25hr * 2 replicas)) = $0.75/hr

每月费用

instance hourly rate * ((hours * # min replica) + (scale-up hrs * # additional replicas)) = monthly cost
$0.5/hr * ((730hr * 1 replica) + (182.5hr * 2 replicas)) = $547.5/month

配额

现在可在推理仪表板 https://ui.endpoints.huggingface.co 的“已用配额”下查看列出的可用配额。

显示的数字将引用已用实例数/可用实例配额。*暂停*的端点不会计入“已用”配额。*缩减到零*的端点将被计为“已用”配额——如果您想解锁此配额，只需暂停缩减到零的端点即可。

如果您想增加配额分配，请联系我们。PRO 用户和 Enterprise Hub 组织在请求时将获得更高的配额。