xFormers
我们推荐使用 xFormers 进行推理和训练。在我们的测试中，注意力块中执行的优化可以实现更快的速度和更低的内存消耗。
从 pip 安装 xFormers
pip install xformers
xFormers 的 pip 包需要最新版本的 PyTorch。如果您需要使用旧版本的 PyTorch，则建议您 从源代码安装 xFormers。
安装 xFormers 后，您可以使用 enable_xformers_memory_efficient_attention() 来实现更快的推理和更低的内存消耗，如本 部分 所示。
根据此 问题，xFormers v0.0.16 无法在某些 GPU 上用于训练（微调或 DreamBooth）。如果您遇到此问题，请按照问题评论中指示的步骤安装开发版本。