0.前言


在人工智能迅猛发展的今天,深度学习模型已在图像识别、自然语言处理等领域展现出惊人的能力。然而,这些看似强大的模型却存在着令人惊讶的脆弱性——只需对输入数据添加人眼难以察觉的微小扰动,就能让最先进的分类器产生完全错误的判断。这种现象被称为"对抗攻击",它揭示了当前AI系统在安全性和鲁棒性方面的重大挑战。

​

对抗攻击不仅是学术研究的热点,更有着重要的现实意义。从自动驾驶车辆的错误识别到人脸验证系统的被欺骗,对抗样本的存在对AI在实际应用中的可靠性提出了严峻考验。理解对抗攻击的机理,既是提升模型防御能力的前提,也是推动AI安全发展的重要环节。

​

本文将以经典的FGSM攻击为例,通过完整的代码实现和详细的原理分析,深入探讨对抗攻击的工作机制。我们将从数学推导到代码实现,从理论分析到实验验证,全方位解析这一有趣而又重要的现象。

1. 对抗攻击的基本概念

什么是对抗攻击?

对抗攻击是通过对输入数据添加人眼难以察觉的微小扰动,使机器学习模型产生错误预测的技术。

攻击流程概览

原始图像 → 模型正确分类 → 添加精心计算的扰动 → 对抗样本 → 模型错误分类

2. FGSM攻击的数学原理

核心思想

FGSM基于一阶泰勒展开:

L(θ, x + δ) ≈ L(θ, x) + ∇ₓL(θ, x) · δ

其中:

L 是损失函数

θ 是模型参数

x 是输入图像

δ 是扰动

优化目标

找到使损失函数增加最快的扰动方向:

max δ: L(θ, x + δ)
约束条件: ||δ||∞ ≤ ε


解这个优化问题得到:

原始梯度: [0.2, -0.5, 0.8]
符号梯度: [1, -1, 1]
最终扰动: [ε, -ε, ε]

δ = ε · sign(∇ₓL(θ, x))

3. 详细步骤分解

步骤1: 准备阶段

​

def __init__(self, model, epsilon=0.03):
    self.model = model
    self.epsilon = epsilon
  • 模型选择: 选择要攻击的目标模型
  • ε参数设置: 控制扰动大小,通常0.01-0.1

步骤2: 前向传播与损失计算

​

image.requires_grad = True
output = self.model(image)
loss = nn.functional.cross_entropy(output, label)

详细解释:

image.requires_grad = True: 告诉PyTorch需要计算输入图像的梯度

前向传播: 图像通过模型得到预测输出

损失计算: 使用交叉熵损失衡量预测与真实标签的差异

textLoss = -Σ y_true · log(y_pred)

步骤3: 反向传播计算梯度

​

self.model.zero_grad()
loss.backward()


梯度计算过程:

∇ₓL = ∂L/∂x = [∂L/∂x₁, ∂L/∂x₂, ..., ∂L/∂xₙ]

每个元素表示:改变对应像素值时,损失函数的变化率

正值表示:增加该像素值会使损失增加(模型更可能错误分类)

负值表示:减少该像素值会使损失增加

​

步骤4: 生成扰动

perturbation = self.epsilon * image.grad.sign()

sign()函数的作用:

sign(∇ₓL) = 
    +1  if ∇ₓL > 0
     0  if ∇ₓL = 0  
    -1  if ∇ₓL < 0

为什么用sign而不是原始梯度?

计算效率: 只关心方向,不关心大小

L∞约束: 确保扰动均匀分布,符合人类视觉不易察觉的特性

稳定性: 避免梯度爆炸问题

步骤5: 生成对抗样本

​

perturbed_image = image + perturbation
perturbed_image = torch.clamp(perturbed_image, 0, 1)

约束条件:

image + perturbation: 沿梯度方向添加扰动

torch.clamp(_, 0, 1): 确保像素值仍在有效范围内[0,1]

4. 可视化理解

梯度符号的意义

假设有3个像素的梯度:

原始梯度: [0.2, -0.5, 0.8]
符号梯度: [1, -1, 1]
最终扰动: [ε, -ε, ε]

在特征空间的解释

↗ 对抗样本 (错误分类)
                  /
原始样本 (正确分类) 
                  \
                    ↘ 沿梯度方向移动ε距离



5.实例展示


​

我使用的是预训练的ResNet模型,图片是从网上随机下载的一张图片

​

在运行我们的代码后,可以看见该模型在识别该图片类型时一开始就识别错了,但是这对我们的实验无影响,因为我们要做的是扰乱ai一开始识别的类型,在图中也可以看到,我们也是成功的扰乱了ai的识别

​

下面是这段代码的流程,可以参考一下:

​

架构逻辑:

数据准备 → 模型加载 → 原始预测 → 生成对抗样本 → 对抗预测 → 结果可视化


代码板块逻辑:

1. 初始化设置 (__init__ 部分)

#确保不乱码
plt.rcParams['font.sans-serif'] = ['SimHei', 'Microsoft YaHei', 'DejaVu Sans']

class EvasionAttack:
    def __init__(self, model, epsilon=0.03):
        self.model = model    # 要攻击的目标模型
        self.epsilon = epsilon # 攻击强度参数

逻辑:准备攻击环境和攻击器参数

​

2. 核心攻击逻辑 (fgsm_attack 方法)

​

def fgsm_attack(self, image, label):
    image.requires_grad = True           # 1. 开启梯度追踪
    output = self.model(image)           # 2. 前向传播
    loss = cross_entropy(output, label)  # 3. 计算损失
    loss.backward()                      # 4. 反向传播求梯度
    perturbation = epsilon * image.grad.sign()  # 5. 生成扰动
    perturbed_image = image + perturbation      # 6. 应用扰动

攻击流程逻辑:

  1. 梯度计算:让PyTorch追踪输入图像的梯度
  2. 损失导向:基于真实标签计算损失,确保扰动方向正确
  3. 符号扰动:取梯度符号,保证扰动方向最有效
  4. 强度控制:用epsilon控制扰动大小
  5. 范围约束:用clamp确保生成的图像像素值合法

​

3. 数据流逻辑

模型加载

model = models.resnet18(weights=IMAGENET1K_V1)
model.eval()  # 评估模式关闭dropout等训练专用层

逻辑:加载预训练模型 → 设置为推理模式

图像处理

transform = Compose([
    Resize(256),      # 统一尺寸
    CenterCrop(224),  # 中心裁剪
    ToTensor(),       # 转为张量 + 归一化到[0,1]
])

逻辑:确保输入格式与模型训练时一致

​

4. 攻击执行逻辑

# 原始预测
original_output = model(image)
original_pred = argmax(original_output)

# 生成对抗样本
adversarial_image, perturbation = attack.fgsm_attack(image, true_label)

# 对抗预测(攻击效果)
adversarial_output = model(adversarial_image)
adversarial_pred = argmax(adversarial_output)

验证逻辑:比较 original_pred 与 adversarial_pred

​

5. 可视化逻辑

fig, axes = plt.subplots(1, 4, figsize=(15, 5))

# 四宫格对比:
1. 原始图像 + 原始预测
2. 对抗样本 + 对抗预测  
3. 扰动模式(放大显示)
4. 像素级差异图

分析逻辑:通过多角度可视化理解攻击效果


关键:

1. 梯度利用思想

# FGSM核心:利用模型梯度信息
perturbation = epsilon * image.grad.sign()

原理:沿着损失函数增长最快的方向添加扰动

优势:计算高效,一次前向+反向传播即可

2. 人眼不可感知原则

perturbed_image = torch.clamp(perturbed_image, 0, 1)

扰动要足够小,人眼难以察觉

但要足够大,能改变模型预测

3. 端到端验证

print(f"攻击成功: {original_pred != adversarial_pred}")

自动验证攻击是否真正改变了模型输出

6.结语

本次实验成功验证了FGSM对抗攻击的有效性。尽管目标模型初始识别存在偏差,但通过精心计算的微小扰动,我们仍成功改变了其预测结果,这充分揭示了深度学习模型的脆弱性。