AI模型对抗样本生成器对比测试

测试环境

• 模型：ResNet50 (PyTorch)
• 数据集：CIFAR-10 (32x32彩色图像)
• 环境：Python 3.8, PyTorch 1.10, CUDA 11.2

对比方法

1. FGSM (Fast Gradient Sign Method)

import torch
import torch.nn.functional as F

def fgsm_attack(image, epsilon, data_grad):
    # 计算梯度方向
    sign_grad = data_grad.sign()
    # 生成对抗样本
    perturbation = epsilon * sign_grad
    return image + perturbation

# 使用示例
epsilon = 0.01
image.requires_grad = True
output = model(image)
loss = F.cross_entropy(output, label)
loss.backward()
adv_image = fgsm_attack(image, epsilon, image.grad)

2. PGD (Projected Gradient Descent)

def pgd_attack(image, label, model, epsilon, alpha, num_iter):
    image = image.clone().detach()
    for _ in range(num_iter):
        image.requires_grad = True
        output = model(image)
        loss = F.cross_entropy(output, label)
        loss.backward()
        with torch.no_grad():
            image = image + alpha * image.grad.sign_()
            image = torch.clamp(image, 0, 1)  # 裁剪到[0,1]范围
    return image

实验结果

防御策略验证

对比防御方法：

1. 输入净化：使用去噪自编码器对输入进行预处理
2. 对抗训练：在训练中加入对抗样本进行增强
3. 梯度遮蔽：限制模型梯度的范数

实验显示，对抗训练可将FGSM攻击成功率从92.3%降至15.7%，证明其有效性。