安装
🤗 Optimum 可以使用以下命令通过 pip 进行安装
python -m pip install optimum
如果您想使用 🤗 Optimum 的加速器特定功能，您可以根据下表安装所需的依赖项
| 加速器 | 安装 |
|---|---|
| ONNX 运行时 | pip install --upgrade --upgrade-strategy eager optimum[onnxruntime] |
| Intel 神经压缩器 | pip install --upgrade --upgrade-strategy eager optimum[neural-compressor] |
| OpenVINO | pip install --upgrade --upgrade-strategy eager optimum[openvino] |
| IPEX | pip install --upgrade --upgrade-strategy eager optimum[ipex] |
| NVIDIA TensorRT-LLM | docker run -it --gpus all --ipc host huggingface/optimum-nvidia |
| AMD Instinct GPU 和 Ryzen AI NPU | pip install --upgrade --upgrade-strategy eager optimum[amd] |
| AWS Trainum & Inferentia | pip install --upgrade --upgrade-strategy eager optimum[neuronx] |
| Habana Gaudi 处理器 (HPU) | pip install --upgrade --upgrade-strategy eager optimum[habana] |
| FuriosaAI | pip install --upgrade --upgrade-strategy eager optimum[furiosa] |
--upgrade --upgrade-strategy eager 选项用于确保将不同包升级到最新的版本。
如果您想尝试示例或需要代码的最新版本，并且不想等待新版本发布，您可以按照以下步骤从源代码安装基本库
python -m pip install git+https://github.com/huggingface/optimum.git
对于加速器特定功能，您可以通过将 optimum[accelerator_type] 附加到 pip 命令来安装它们，例如：
python -m pip install optimum[onnxruntime]@git+https://github.com/huggingface/optimum.git