AWS Trainium & Inferentia 文档
🚀 教程：如何微调和运行 LLM
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
🚀 教程：如何微调和运行 LLM
了解如何使用 AWS Trainium 运行和微调模型以获得最佳性能。
Llama 3
使用 LoRA 微调 Llama 3 8B
Qwen 3
使用 LoRA 微调 Qwen3 8B
SageMaker 上的 Llama 3.2
在 SageMaker Hyperpod 上持续预训练 Llama 3.2 1B
你将学到什么
这些教程将指导您完成在 AWS Trainium 上微调大型语言模型的完整过程。
- 📊 数据准备：加载并预处理数据集以进行监督微调。
- 🔧 模型配置：设置 LoRA 适配器和分布式训练参数。
- ⚡ 训练优化：利用张量并行、梯度检查点和混合精度。
- 💾 检查点管理：整合和合并模型检查点以便部署。
- 🚀 模型部署：导出和测试您微调后的模型以进行推理。
选择最适合您用例的教程，立即开始在 AWS Trainium 上微调您的 LLM 吧！