上篇文章《从LoRA到OFT:Qwen2.5-VL在昇腾910B与4090上的多模态微调实践与踩坑记录》通过系统化的对比实验,回答了多模态微调中的三个基础问题:“选什么方法”(LoRA/Full/Freeze/OFT对比)、“用什么配置”(60+组超参数组合)、“达到什么效果”(ROUGE-L/BLEU-4指标)。这些结果为后续工作奠定了实验基线,但也留下了更深层的疑问:为何相同方法在不同数据集上表现迥异?为何某些超参数的微小调整会引发性能剧变?如何在未见过的任务上快速找到最优配置?
本文是对前文实验数据的二次挖掘与机理解析。我们将关注点从"做了什么实验"转移到"实验揭示了什么规律",实验视角从"结果对比"转向"过程解析"。本篇聚焦于适用于所有微调方法的通用训练流程超参数,包括训练轮数、批处理策略、学习率调度、梯度管理、精度控制等核心维度。
通过对这些超参数在llava这一通用大样本数据集和sign这一专业小样本数据集上的训练曲线、资源消耗、性能边界的深度剖析,结合对不同版本LLamafactory源代码对应部分的解读以及运行时日志的比较分析,我们揭示超参数调整背后的作用机制与普适规律。本文提供损失函数分析、资源-性能的量化权衡、以及可复用的调优决策框架,旨在将前文的经验性发现升华为具有迁移能力的工程知识,帮助实践者从海量实验数据中提炼规律,在面对新任务时能够快速定位关键参数、预判调整方向、缩短迭代周期。
文章目录

不同超参对应损失下降曲线及测试效果比较
一、训练流程与优化相关超参数
1. 训练轮数(Epoch)
参数意义:Epoch 是指整个训练集被模型完整遍历一次。它直接决定模型看到训练样本的次数,从而影响拟合程度与过拟合风险。
在实验中的影响:
- 大样本(llava):LoRA 在 3→6 epoch 有小幅提升,过多 epoch(如 30)反而出现性能下降,说明在大样本/通用任务上容易出现“过训练”或学习率/正则配置不匹配的情况。
- 小样本(sign):更多 epoch 带来显著改进(3→15 epoch 性能大幅上升)
订阅专栏 解锁全文
460




被折叠的 条评论
为什么被折叠?



