论文标题

Taxonomy Driven Fast Adversarial Training 基于分类的快速对抗训练

论文链接

Taxonomy Driven Fast Adversarial Training论文下载

论文作者

Kun Tong, Chengze Jiang, Jie Gui, Yuan Cao

内容简介

本文提出了一种新的对抗训练方法——基于分类的快速对抗训练（TDAT），旨在提高神经网络的鲁棒性并解决单步对抗训练中的灾难性过拟合（CO）问题。研究表明，CO的发生与对抗样本的分类有关，TDAT通过联合优化学习目标、损失函数和初始化方法，显著提升了神经网络的鲁棒性，减少了误分类样本的影响，并在训练过程中有效防止CO的发生。实验结果显示，TDAT在CIFAR-10、CIFAR-100、Tiny ImageNet和ImageNet-100数据集上，相较于其他快速对抗训练方法，取得了更高的鲁棒精度，且几乎不增加额外的计算和内存资源消耗。

分点关键点

1. 灾难性过拟合（CO）问题

   • CO是单步对抗训练中的一个主要问题，导致模型在测试集上的鲁棒性显著下降。本文通过对对抗样本的分类分析，揭示了CO的根本原因，并提出了新的解决方案。

2. 基于分类的快速对抗训练（TDAT）

   • TDAT结合了动态标签松弛、批次动量初始化和基于分类的损失函数，系统性地改进了对抗训练的效果。该方法在不增加计算和内存开销的情况下，显著提高了神经网络的鲁棒性。

3. 实验结果

   • 在多个标准数据集上进行的实验表明，TDAT在对抗攻击下的鲁棒精度优于现有的单步和多步对抗训练方法，验证了其有效性和优越性。

4. 动态标签松弛与初始化方法

   • 通过动态标签松弛，TDAT能够更好地引导神经网络更新，从而提高鲁棒性。同时，批次动量初始化方法增强了对抗样本的多样性，进一步稳定了训练过程。

论文代码

代码链接：https://github.com/bookman233/TDAT

中文关键词

1. 对抗训练
2. 灾难性过拟合
3. 神经网络
4. 鲁棒性
5. 动态标签松弛
6. 批次动量初始化

AAAI论文合集：

AAAI论文合集

希望这些论文能帮到你！如果觉得有用，记得点赞关注哦~ 后续还会更新更多论文合集！！