转自;NLP工程化

大模型微调十诫：关于将微调模型部署到生产环境的十条建议：

（1）不要盲目微调模型，先尝试使用提示的方式满足需求。只有当提示无法达到质量、性能或成本目标时，才考虑微调。

（2）一定要编写提示。通过提示证明任务是可行的，作为微调的基线。如果提示就可以达到要求，微调可以进一步提升；如果提示不起作用，微调成功的可能性就很低。

（3）一定要检查数据质量。删除或修正问题数据。数据质量直接决定模型质量。

（4）使用真实数据进行微调。即使存在一些不完美的数据也没关系，只要整体分布正确就可以。

（5）留出部分数据作为测试集。不要将所有数据都用于训练。

（6）选择合适的模型规模。不要使用过大的模型，也不要使用过小的模型。规模要匹配任务难度。

（7）编写快速的评估指标。可以多次每天评估，以便快速迭代。

（8）同时编写完整的评估。定期进行完整评估，确保快速指标和最终指标一致。

（9）不要执行一次性的模型训练后就结束。持续优化模型和管道。

（10）不要死板地遵循这些建议。根据具体情形调整建议的适用性。

想要掌握如何将大模型的力量发挥到极致吗？叶老师带您深入了解 Llama Factory —— 一款革命性的大模型微调工具。9月22日晚，实战专家1小时讲解让您轻松上手，学习如何使用 Llama Factory 微调模型。

加下方微信或评论留言，即可参加线上直播分享，叶老师亲自指导，互动沟通，全面掌握Llama Factory。关注享粉丝福利，限时免费CSDN听直播后的录播讲解。
 

LLaMA Factory 支持多种预训练模型和微调算法。它提供灵活的运算精度和优化算法选择，以及丰富的实验监控工具。开源特性和社区支持使其易于使用，适合各类用户快速提升模型性能。

图片

参考文献：

[1] https://docs.google.com/presentation/d/1IIRrTED0w716OsU_-PL5bONL0Pq_7E8alewvcJO1BCE/edit#slide=id.g2721fb6713e_0_44