安装

🤗 Optimum 可以使用 pip 按如下方式安装

python -m pip install optimum

如果您想使用 🤗 Optimum 的特定于加速器的功能，您可以根据下表安装所需的依赖项

加速器	安装
ONNX Runtime	`pip install --upgrade --upgrade-strategy eager optimum[onnxruntime]`
Intel Neural Compressor	`pip install --upgrade --upgrade-strategy eager optimum[neural-compressor]`
OpenVINO	`pip install --upgrade --upgrade-strategy eager optimum[openvino]`
IPEX	`pip install --upgrade --upgrade-strategy eager optimum[ipex]`
NVIDIA TensorRT-LLM	`docker run -it --gpus all --ipc host huggingface/optimum-nvidia`
AMD Instinct GPU 和 Ryzen AI NPU	`pip install --upgrade --upgrade-strategy eager optimum[amd]`
AWS Trainium & Inferentia	`pip install --upgrade --upgrade-strategy eager optimum[neuronx]`
Habana Gaudi 处理器 (HPU)	`pip install --upgrade --upgrade-strategy eager optimum[habana]`
FuriosaAI	`pip install --upgrade --upgrade-strategy eager optimum[furiosa]`

需要 --upgrade --upgrade-strategy eager 选项以确保不同的包升级到最新的可能版本。

如果您想试用示例或需要代码的前沿版本，并且等不及新版本发布，您可以按如下方式从源代码安装基本库

python -m pip install git+https://github.com/huggingface/optimum.git

对于特定于加速器的功能，您可以通过将 optimum[accelerator_type] 附加到 pip 命令来安装它们，例如

python -m pip install optimum[onnxruntime]@git+https://github.com/huggingface/optimum.git