Optimum 文档

安装

您正在查看 main 版本,该版本需要从源码安装。如果您想要常规 pip 安装,请查看最新的稳定版本 (v1.24.0)。
Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

安装

要安装 Optimum for Intel® Gaudi® AI 加速器,您首先需要按照官方安装指南安装 Intel Gaudi 软件和 Intel Gaudi AI 加速器驱动程序。然后,可以使用 pip 安装 Optimum for Intel Gaudi,如下所示

python -m pip install --upgrade-strategy eager optimum[habana]

要将 Microsoft® DeepSpeed 与 Intel Gaudi 设备一起使用,您还需要运行以下命令

python -m pip install git+https://github.com/HabanaAI/DeepSpeed.git@1.20.0

为了确保您安装了正确的 Intel Gaudi 软件,请运行 hl-smi 命令以确认系统中使用的软件版本,并在运行 DeepSpeed 安装时应用相同的版本;请查看 Intel Gaudi 支持矩阵,并确保您使用的是 DeepSpeed 的适当版本。

< > 在 GitHub 上更新