Diffusers 文档
xFormers
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
xFormers
我们推荐 xFormers 用于推理和训练。在我们的测试中，注意力块中执行的优化可以同时实现更快的速度和更低的内存消耗。
从 pip 安装 xFormers
pip install xformers
xFormers pip 包需要最新版本的 PyTorch。如果您需要使用旧版本的 PyTorch，我们建议从源代码安装 xFormers。
安装 xFormers 后，您可以使用 enable_xformers_memory_efficient_attention() 来实现更快的推理速度和更低的内存消耗，如本节所示。
根据这个问题，xFormers v0.0.16 在某些 GPU 上无法用于训练（微调或 DreamBooth）。如果您遇到此问题，请按照问题评论中的说明安装开发版本。