PEFT
🤗 PEFT(参数高效微调)是一个库,用于有效地将大型预训练模型适配到各种下游应用,无需微调模型的所有参数,因为这成本过高。PEFT 方法仅微调少量(额外)模型参数,从而显著降低计算和存储成本,同时获得与完全微调模型相当的性能。这使得在消费级硬件上训练和存储大型语言模型 (LLM) 更加容易。
PEFT 与 Transformers、Diffusers 和 Accelerate 库集成,提供了一种更快、更简单的方法来加载、训练和使用大型模型进行推理。
< > 在 GitHub 上更新