大语言模型微调中的数据采样方法

大语言模型微调中的数据采样方法

在大语言模型微调实践中，数据采样策略直接影响模型性能。本文分享几种实用的数据采样方法。

1. 基于数据质量的加权采样

对于包含不同质量标签的数据集，可采用加权采样：

import numpy as np
from sklearn.utils import resample

def weighted_sampling(data, weights, sample_size):
    # 根据质量分数进行加权
    indices = np.random.choice(len(data), size=sample_size, p=weights)
    return [data[i] for i in indices]

# 示例使用
quality_scores = [0.8, 0.9, 0.7, 0.95, 0.6]
weights = np.array(quality_scores) / sum(quality_scores)
sampled_data = weighted_sampling(raw_data, weights, 1000)

2. 分层采样确保多样性

为避免数据偏差，可按任务类型分层采样：

from sklearn.model_selection import train_test_split

def stratified_sampling(data, labels, sample_size):
    # 按标签分层抽样
    train_data, _ = train_test_split(
        data, test_size=sample_size, stratify=labels, random_state=42
    )
    return train_data

3. 在线采样策略

对于持续更新的数据流，采用滑动窗口采样：

import collections

class SlidingWindowSampler:
    def __init__(self, window_size=1000):
        self.window = collections.deque(maxlen=window_size)
    
    def add(self, item):
        self.window.append(item)
    
    def sample(self, sample_size):
        return np.random.choice(list(self.window), size=min(sample_size, len(self.window)))

实际部署中，建议先在验证集上测试不同采样策略的效果，再决定最终方案。