Intel Gaudi

Intel Gaudi AI 加速器系列包括 Intel Gaudi 1Intel Gaudi 2Intel Gaudi 3。每台服务器配备 8 个设备,称为 Habana 处理单元 (HPU),在 Gaudi 3 上提供 128GB 内存,在 Gaudi 2 上提供 96GB 内存,在第一代 Gaudi 上提供 32GB 内存。有关底层硬件架构的更多详细信息,请查看 Gaudi 架构 概述。

Diffusers 管道可以利用 HPU 加速,即使管道尚未添加到 Optimum for Intel Gaudi,也可以通过 GPU 迁移工具包 实现。

在您的管道上调用 .to("hpu") 以将其移动到 HPU 设备,如下所示为 Flux 示例:

import torch
from diffusers import DiffusionPipeline

pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16)
pipeline.to("hpu")

image = pipeline("一张松鼠在毕加索风格中的图像").images[0]

对于 Gaudi 优化的扩散管道实现,我们推荐使用 Optimum for Intel Gaudi

< > Update on GitHub