适用于 Intel Gaudi 的 Optimum

适用于 Intel Gaudi 的 Optimum 是 Transformers 和 Diffusers 库与 Intel® Gaudi® AI 加速器 (HPU) 之间的接口。它提供了一套工具，可以轻松地在单 HPU 和多 HPU 设置中加载、训练和推理各种下游任务的模型，如下表所示。

HPU 提供了快速的模型训练和推理，以及极佳的性价比。查看这篇关于 BERT 预训练的博文和这篇对比英特尔 Gaudi 2 与 NVIDIA A100 GPU 的博文以获取具体示例。如果您不熟悉 HPU，我们建议您查看我们的概念指南。

以下模型架构、任务和设备分布已在适用于 Intel Gaudi 的 Optimum 中得到验证

在下表中，✅ 表示单卡、多卡和 DeepSpeed 均已通过验证。

架构	训练	推理	任务
BERT	✅	✅	文本分类问答语言建模文本特征提取
RoBERTa	✅	✅	问答语言建模
ALBERT	✅	✅	问答语言建模
DistilBERT	✅	✅	问答语言建模
GPT2	✅	✅	语言建模文本生成
BLOOM(Z)		DeepSpeed	文本生成
StarCoder / StarCoder2	✅	单卡	语言建模文本生成
GPT-J	DeepSpeed	单卡 DeepSpeed	语言建模文本生成
GPT-Neo		单卡	文本生成
GPT-NeoX	DeepSpeed	DeepSpeed	语言建模文本生成
OPT		DeepSpeed	文本生成
Llama 2 / CodeLlama / Llama 3 / Llama Guard / Granite	✅	✅	语言建模文本生成问答文本分类 (Llama Guard)
StableLM		单卡	文本生成
Falcon	LoRA	✅	文本生成
CodeGen		单卡	文本生成
MPT		单卡	文本生成
Mistral		单卡	文本生成
Phi	✅	单卡	语言建模文本生成
Mixtral		单卡	文本生成
Gemma	✅	单卡	语言建模文本生成
Qwen2	单卡	单卡	语言建模文本生成
Qwen2-MoE		单卡	文本生成
Persimmon		单卡	文本生成
T5 / Flan T5	✅	✅	摘要翻译问答
BART		单卡	摘要翻译问答
ViT	✅	✅	图像分类
Swin	✅	✅	图像分类
Wav2Vec2	✅	✅	音频分类语音识别
Whisper	✅	✅	语音识别
SpeechT5		单卡	文本转语音
CLIP	✅	✅	对比图像-文本训练
BridgeTower	✅	✅	对比图像-文本训练
ESMFold		单卡	蛋白质折叠
Blip		单卡	视觉问答图像转文本
OWLViT		单卡	零样本目标检测
ClipSeg		单卡	对象分割
Llava / Llava-next		单卡	图像转文本
SAM		单卡	对象分割
VideoMAE		单卡	视频分类
TableTransformer		单卡	表格对象检测
DETR		单卡	目标检测

架构	训练	推理	任务
FastViT		单卡	图像分类

其他受 🤗 Transformers 和 🤗 Diffusers 库支持的模型和任务也可能有效。您可以参考此部分以了解如何使用 🤗 Optimum Habana。此外，此页面说明了如何修改 🤗 Transformers 库中的任何示例以使其与 🤗 Optimum Habana 协同工作。

学习基础知识并熟悉在 HPU 上使用 🤗 Optimum 训练 Transformers。如果您第一次使用 🤗 Optimum Habana，请从这里开始！

帮助您实现特定目标的实用指南。查看这些指南以了解如何使用 🤗 Optimum Habana 解决现实世界中的问题。

构建对重要主题（如 HPU）的更深入理解的高级解释。

🤗 Optimum Habana 的 Habana 类和方法的工作原理的技术描述。