Optimum 文档
安装
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
安装
要安装 Optimum for Intel® Gaudi® AI 加速器,您首先需要按照官方安装指南安装 Intel Gaudi 软件和 Intel Gaudi AI 加速器驱动程序。然后,可以使用 pip
安装 Optimum for Intel Gaudi,如下所示
python -m pip install --upgrade-strategy eager optimum[habana]
要将 Microsoft® DeepSpeed 与 Intel Gaudi 设备一起使用,您还需要运行以下命令
python -m pip install git+https://github.com/HabanaAI/DeepSpeed.git@1.20.0
为了确保您安装了正确的 Intel Gaudi 软件,请运行 hl-smi
命令以确认系统中使用的软件版本,并在运行 DeepSpeed 安装时应用相同的版本;请查看 Intel Gaudi 支持矩阵,并确保您使用的是 DeepSpeed 的适当版本。