多任务微调时损失函数设计踩坑实录
最近在做多任务微调项目，想通过自定义损失函数来平衡不同任务的重要性，结果踩了不少坑。记录一下过程。
问题背景
我们有三个任务：文本分类、问答和摘要生成。最初直接用原始的交叉熵损失，发现模型在任务间互相干扰，效果很不稳定。
第一次尝试 - 简单加权
# 按经验设置权重
loss = 0.5 * task1_loss + 0.3 * task2_loss + 0.2 * task3_loss
问题：权重需要手动调节，且不同数据集效果差异很大。
第二次尝试 - 动态权重
# 基于梯度范数动态调整
loss = (w1 * loss1) / (torch.norm(grad1) + 1e-8) +
(w2 * loss2) / (torch.norm(grad2) + 1e-8)
问题：梯度计算复杂，且容易出现数值不稳定。
最终方案 - Loss Weighting with Uncertainty
# 使用不确定性权重方法
log_vars = nn.Parameter(torch.zeros(3))
loss = (torch.exp(-log_vars[0]) * loss1 + log_vars[0]) +
(torch.exp(-log_vars[1]) * loss2 + log_vars[1]) +
(torch.exp(-log_vars[2]) * loss3 + log_vars[2])
这个方法在实践中效果最好，通过学习任务不确定性来自动调节权重。注意使用LoRA微调时要确保每个任务的LoRA层独立训练，避免相互干扰。
关键教训
- 多任务损失函数设计需要考虑任务间相关性
- 动态权重比静态权重更有效
- LoRA微调中要保持任务间的参数解耦
建议在实际项目中先用简单加权，再逐步尝试不确定性权重方法。
讨论