训练集与测试集分布差异导致的问题分析
在LLM微调工程化实践中，训练集与测试集分布差异是常见但容易被忽视的问题。本文通过具体案例分析该问题并提供可复现的解决方案。
问题现象
以医疗问答场景为例，训练集主要包含常见疾病咨询，而测试集突然引入了罕见病相关问题。使用LoRA微调后，模型在训练集上表现良好（准确率95%），但在测试集上大幅下降（准确率40%）。
复现步骤
- 数据分布分析：
import pandas as pd
from sklearn.feature_extraction.text import TfidfVectorizer
df_train = pd.read_csv('train_data.csv')
df_test = pd.read_csv('test_data.csv')
# 计算TF-IDF向量并分析分布差异
vectorizer = TfidfVectorizer(max_features=1000)
train_vectors = vectorizer.fit_transform(df_train['question'])
test_vectors = vectorizer.transform(df_test['question'])
# 可视化分布差异
import matplotlib.pyplot as plt
plt.hist(train_vectors.sum(axis=1), alpha=0.5, label='Train')
plt.hist(test_vectors.sum(axis=1), alpha=0.5, label='Test')
plt.legend()
- LoRA微调验证：
from peft import get_peft_model, LoraConfig
import torch
# 配置LoRA参数
peft_config = LoraConfig(
r=8,
lora_alpha=32,
target_modules=["q_proj", "v_proj"],
lora_dropout=0.05,
bias="none",
task_type="CAUSAL_LM"
)
# 微调模型
model = get_peft_model(model, peft_config)
解决方案
- 数据重采样：通过分层抽样确保训练集与测试集分布一致
- 领域适应性微调：使用多任务学习，增加罕见病数据权重
- 评估策略调整：构建跨域验证集，提前发现分布偏差问题
讨论