Diffusers 文档
英特尔 Gaudi
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
英特尔 Gaudi
英特尔 Gaudi AI 加速器系列包括 英特尔 Gaudi 1、英特尔 Gaudi 2 和 英特尔 Gaudi 3。每台服务器都配备 8 个设备,称为 Habana 处理单元 (HPU),Gaudi 3 上提供 128GB 内存,Gaudi 2 上提供 96GB 内存,第一代 Gaudi 上提供 32GB 内存。有关底层硬件架构的更多详细信息,请查看 Gaudi 架构概述。
Diffusers 管道可以利用 HPU 加速,即使管道尚未添加到 Optimum for Intel Gaudi 中,也可以使用 GPU 迁移工具包。
在您的管道上调用 .to("hpu")
,将其移动到 HPU 设备,如下所示的 Flux:
import torch
from diffusers import DiffusionPipeline
pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16)
pipeline.to("hpu")
image = pipeline("An image of a squirrel in Picasso style").images[0]
对于 Gaudi 优化的扩散管道实现,我们建议使用 Optimum for Intel Gaudi。