Diffusers 文档
xFormers
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
xFormers
我们推荐 xFormers 用于推理和训练。在我们的测试中，注意力模块中执行的优化既能提高速度又能减少内存消耗。
从 pip 安装 xFormers
pip install xformers
xFormers pip 包需要最新版本的 PyTorch。如果您需要使用以前版本的 PyTorch，那么我们建议从源代码安装 xFormers。
安装 xFormers 后，您可以使用 enable_xformers_memory_efficient_attention() 来获得更快的推理速度和更低的内存消耗，如本节所示。
根据此问题，xFormers v0.0.16 不能用于某些 GPU 中的训练（微调或 DreamBooth）。如果您遇到此问题，请安装问题评论中指示的开发版本。