Optimum

概述

概念指南

Nvidia

AMD

Ryzen AI

Brevitas

Intel

AWS Trainium/Inferentia

Google TPUs

用于 Intel Gaudi

Furiosa

ExecuTorch

ONNX Runtime

导出器

BetterTransformer

Torch FX

LLM 量化

实用工具

您正在查看 main 版本，该版本需要从源代码安装. 如果您想进行常规 pip 安装，请查看最新的稳定版本 (v1.24.0)。

加入 Hugging Face 社区

并获得增强的文档体验

协作开发模型、数据集和 Spaces

通过加速推理获得更快的示例

切换文档主题

开始使用

🤗 Optimum-AMD

🤗 Optimum-AMD 是 🤗 Hugging Face 库与 AMD ROCm 堆栈和 AMD Ryzen AI 之间的接口。

深入指南和工具，可在 AMD GPU 上高效使用 Hugging Face 库。

使用针对 AMD Ryzen AI NPU 预优化的模型。