Inference Endpoints (dedicated) 文档
更新您的 Endpoint
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
更新您的 Endpoint
您可以更新 running
状态的 Endpoints 以更改部分配置。但是,如果您的 endpoint 处于 failed
状态,则需要创建新的 Endpoint。要更新您的 endpoint,您需要导航到“设置”选项卡。
您可以更新实例类型、自动扩缩配置、任务和仓库修订版本。
实例大小
您可以在 Endpoint 概览菜单中更新 Endpoint 的实例大小,以满足您不断变化的需求。例如,如果不需要那么多计算资源,您可以缩小到较小的实例类型;或者,如果需要增加计算能力,您可以升级到更大的实例类型。
您可以更新当前实例类型:CPU 或 GPU。无法从一种实例类型更新为另一种实例类型(从 CPU 到 GPU 或反之亦然)。

自动扩缩
您可以在设置菜单中更新 Endpoint 的自动扩缩配置。调整最小和最大副本数以向上或向下扩展您的 Endpoint。了解有关自动扩缩的更多信息,请点击此处。
任务
您可以在设置菜单中更新正在运行的 Endpoint 的任务。任务定义了您的 Endpoint 将使用的 pipeline
类型以及 Endpoint 概览上的推理小部件。
修订版本
您可以在设置菜单中更新 running
状态的 Endpoint 的修订版本。修订版本定义了您想要用于推理的模型仓库版本。