Diffusers 文档

英特尔 Gaudi

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

英特尔 Gaudi

英特尔 Gaudi AI 加速器系列包括 英特尔 Gaudi 1英特尔 Gaudi 2英特尔 Gaudi 3。每台服务器都配备 8 个设备,称为 Habana 处理单元 (HPU),Gaudi 3 上提供 128GB 内存,Gaudi 2 上提供 96GB 内存,第一代 Gaudi 上提供 32GB 内存。有关底层硬件架构的更多详细信息,请查看 Gaudi 架构概述。

Diffusers 管道可以利用 HPU 加速,即使管道尚未添加到 Optimum for Intel Gaudi 中,也可以使用 GPU 迁移工具包

在您的管道上调用 .to("hpu"),将其移动到 HPU 设备,如下所示的 Flux:

import torch
from diffusers import DiffusionPipeline

pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16)
pipeline.to("hpu")

image = pipeline("An image of a squirrel in Picasso style").images[0]

对于 Gaudi 优化的扩散管道实现,我们建议使用 Optimum for Intel Gaudi

< > 在 GitHub 上更新