ImageNet-Adversarial-Training 实战拆解用对抗训练加特征去噪驯服看不见的攻击【免费下载链接】ImageNet-Adversarial-TrainingImageNet classifier with state-of-the-art adversarial robustness项目地址: https://gitcode.com/gh_mirrors/im/ImageNet-Adversarial-TrainingImageNet-Adversarial-Training 是一个把 ImageNet 图像分类器打造成强对抗鲁棒性模型的完整开源方案它把最先进的对抗训练与特征去噪层组合在一起让你既能复现论文级结果也能亲手评估、训练自己的鲁棒分类器。这篇文章会从模型为什么会被骗讲起一路带你跑通评估与训练全程不需要读论文。先讲一个让人后怕的场景测试集满分上路就翻车想象你训练好了一个图像分类器在测试集上准确率漂亮得能贴进简历。可当它真正上岗时问题来了——一张在你眼里毫无异样的猫的照片模型却斩钉截铁地说是烤面包机一个贴了块小胶带的停车标志模型当成限速牌。这不是玄学而是一类专门的攻击手法攻击者给原始图片加上一层人眼几乎察觉不到的微小扰动对 ImageNet 而言通常限制每个像素最多只能改动 16/255 的量级就能让模型信心满满地给出错误答案。这类样本被称为对抗样本而模型抵御它们的能力就叫对抗鲁棒性。对这个仓库你可以把它理解成一句话一套经过实战检验的抗揍训练法专门用来养出面对对抗样本也不轻易失守的 ImageNet 分类器。它由 CVPR 2019 论文 Feature Denoising for Improving Adversarial Robustness 的官方代码沉淀而来核心是两大招的组合拳——大规模对抗训练加特征去噪层。看懂对手PGD 攻击是怎么一步步逼近的要想知道怎么防守先得明白攻击者的套路。项目用的主力攻击方法是PGD投影梯度下降一个非常直观的迭代过程先从一张加了随机噪声的图片出发每一轮都计算梯度朝着让模型更确信错误答案的方向把像素挪一小步每挪一步都做一次投影确保任何像素都没超出允许的扰动上限比如 16/255重复几十、几百甚至上千轮直到攻击效果稳定。打个比方这就像攻击者在预算内篡改试卷答案——每道题的改动不能超过额度但可以反复微调直到把正确答案改成错误答案。迭代轮数越多改动越精细攻击越致命。你可以把轮数理解为攻击者的耐心指数。这套攻击逻辑就写在 adv_model.py 的PGDAttacker里训练和评估都复用它代码里还保留了两个很讲究的细节攻击目标标签是随机选的更贴近真实威胁并且 80% 的批次从随机噪声点起步、20% 从干净图起步防止模型只学会对付一种攻击起点。项目的两大招一边挨打一边练再加装净化器第一招对抗训练把攻击变成陪练传统训练只用正常图片模型根本没见过被打过的样本自然毫无防备。这个项目的做法是每次训练迭代都现场生成一批对抗样本喂给模型一起学。模型一边挨打一边调整参数慢慢就练出了对扰动的肌肉记忆。这套流程不是简单拼个损失函数而是把 PGD 攻击内联进训练图里见 main.py 的训练入口和 adv_model.py 的AdvImageNetModel。配合标签平滑、BN 在攻击阶段固定等工程细节保证了挨打训练的稳定性。第二招特征去噪给特征图装净化器如果只靠对抗训练模型往往要在正常精度和抗揍能力之间做痛苦取舍。这个项目的精妙之处在于对抗扰动在特征空间里同样会留下噪声痕迹那干脆在网络里加一层净化器。这个净化器叫非局部去噪层它让特征图上的每个位置都和与之相似的其他位置互相投票、互相加权平均从而把孤立的异常响应抹平。可以类比降噪耳机——识别出背景噪声的规律然后把它抵消掉。实现上denoising与non_local_op这两个函数位于 resnet_model.py而模型怎么拼装这些层则由 nets.py 决定ResNetDenoise在 ResNet 的四个主要阶段res2 到 res5末尾各插一个去噪块ResNeXtDenoiseAll更激进在 ResNeXt 101 的每一个残差块后面都接一个非局部去噪层——这也是拿下 CAAD 2018 黑盒防御赛道冠军的那套配置。用数字说话这套组合拳有多能扛先看项目主图它直观展示了各模型在 2000 轮 PGD 攻击下的命运图中四条线越往右攻击越猛掉得越狠但加装去噪层的 ResNet-152黄线始终守在最上面2000 轮攻击后仍保有 42.6% 的准确率。要知道此前所有模型在这类极限攻击下准确率都不超过 1%——这是质变不是量变。再给你一张鲁棒性体检报告数据取自 INSTRUCTIONS.md 的模型库错误率越低越好模型无扰动输入失误率PGD-10 失误率PGD-100 失误率PGD-1000 失误率ResNet152普通对抗训练37.7%47.5%58.3%61.0%ResNet152 去噪层34.7%44.3%54.5%57.2%ResNeXt101 全量去噪31.6%44.0%55.6%59.6%两个值得圈出来的结论加去噪层不只是更抗揍正常图片上的表现反而更好——ResNet152 的干净图失误率从 37.7% 降到 34.7%说明净化器没有牺牲精度甚至做了正向正则。面对 1000 轮高强度攻击去噪模型比普通模型少错约 4 个百分点优势随攻击变强而拉大这正是越硬的仗越能打。动手第一步给预训练模型做体检好消息是项目把门槛压得很低你不需要先训练下载一个模型权重就能立刻验证鲁棒性。环境上准备好 TensorFlow ≥ 1.6、Tensorpack、OpenCV 和 horovod按 INSTRUCTIONS.md 装齐即可。单卡评估白盒鲁棒性一条命令搞定python main.py --eval --load /path/to/model_checkpoint --data /path/to/imagenet \ --attack-iter 100 --attack-epsilon 16.0 --arch ResNetDenoise -d 152用人话解释这行命令加载你下载的模型权重让攻击者以 16/255 的像素扰动上限迭代 100 轮看模型被攻击后的表现。把--attack-iter设成 0就只看正常图片的准确率。注意评估结果会有 ±0.3% 左右的波动因为攻击目标标签和攻击起点是随机生成的——这不是 bug是攻击本身的随机性。嫌单卡太慢攻击迭代 N 轮评估时间就放大 N 倍。加速的办法是用 MPI 把任务摊到多张卡上比如 8 卡并行mpirun -np 8 python main.py --eval --load /path/to/model_checkpoint --data /path/to/imagenet \ --attack-iter 100 --attack-epsilon 16.0 --arch ResNetDenoise -d 152进阶从零训练你自己的鲁棒模型如果你有自己的 GPU 集群想复现甚至魔改这套训练流程项目同样提供了完整链路。对抗训练非常吃算力论文里用了 128 张 V100建议 GPU 资源充足时再动手。训练分两步。第一步在每一台机器上各启动一个数据服务进程把 ImageNet 数据喂给训练端./third_party/serve-data.py --data /path/to/imagenet/ --batch 32第二步用 MPI 拉起分布式训练作业--attack-iter决定训练时用几轮攻击设 0 就是普通 ImageNet 训练mpirun -np 16 -H host1:8,host2:8 --output-filename train.log \ -bind-to none -map-by slot -mca pml ob1 \ -x NCCL_IB_CUDA_SUPPORT1 -x NCCL_IB_DISABLE0 -x NCCL_DEBUGINFO \ -x PATH -x PYTHONPATH -x LD_LIBRARY_PATH \ python main.py --data /path/to/imagenet \ --batch 32 --attack-iter 30 --attack-epsilon 16.0 --arch ResNetDenoise -d 152训练期间代码还会定期做分布式白盒评估相当于边练边考。如果你的集群用 Slurm 管理项目在 slurm/ 目录里放了现成的作业脚本train.sh 和 eval.sh照着改改数据路径就能提交。这里也要给你打个心理预防针鲁棒性不是免费的。以 30 轮攻击训练为例ResNet152 普通对抗训练在 128 张 V100 上要约52 小时加上去噪层约90 小时。想好预算再上车。三个容易被忽略、却能显著提升体验的细节1. 老显卡用户先别急着用加速开关。如果你用的是 Volta 架构 GPU 且 CUDA ≥ 9.2、TF ≥ 1.12给训练命令加--use-fp16xla标志能启用 XLA 优化的 FP16 PGD 攻击训练时间直接砍半代价只是约 3% 的鲁棒性损失——性价比极高。硬件不满足就别硬开会直接报错。2. 想测黑盒鲁棒性不用自己写攻击脚本。项目内置了--eval-directory模式对指定目录里的每张图输出预测标签python main.py --eval-directory /path/to/images --prediction-file predictions.txt \ --load X101-DenseDenoise.npz -d 101 --arch ResNeXtDenoiseAll --batch 20生成的 predictions.txt 就是你模型的黑盒预测结果CAAD 2018 的夺冠提交本质上就是这条命令的产物。3. 想快速玩推理还有个轻量入口。inference-example.py 只需一张图片和一个权重文件就能输出 Top-5 预测非常适合拿来做攻击实验的靶场。下一步就现在这个仓库的真正价值在于它把论文里世界级鲁棒性的每一个螺丝钉都摊开在了你面前——攻击器在 adv_model.py网络拼装在 nets.py去噪原语在 resnet_model.py部署脚本在 slurm/ 和 third_party/。你既可以当用户下载权重做评估也可以当研究者改结构、调参数、发起新一轮攻防。建议你的行动路径是先克隆仓库下载一个 Denoise 模型权重用单卡命令跑一次--attack-iter 10的评估亲眼看看被攻击前后的准确率落差再试着把--attack-iter提到 100感受攻击变强后模型是如何稳住阵脚的。等你真正跑通这一圈对对抗鲁棒性的理解会比读十篇科普都扎实。克隆地址https://gitcode.com/gh_mirrors/im/ImageNet-Adversarial-Training。祝你攻防愉快。【免费下载链接】ImageNet-Adversarial-TrainingImageNet classifier with state-of-the-art adversarial robustness项目地址: https://gitcode.com/gh_mirrors/im/ImageNet-Adversarial-Training创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
ImageNet-Adversarial-Training 实战拆解用对抗训练加特征去噪驯服看不见的攻击【免费下载链接】ImageNet-Adversarial-TrainingImageNet classifier with state-of-the-art adversarial robustness项目地址: https://gitcode.com/gh_mirrors/im/ImageNet-Adversarial-TrainingImageNet-Adversarial-Training 是一个把 ImageNet 图像分类器打造成强对抗鲁棒性模型的完整开源方案它把最先进的对抗训练与特征去噪层组合在一起让你既能复现论文级结果也能亲手评估、训练自己的鲁棒分类器。这篇文章会从模型为什么会被骗讲起一路带你跑通评估与训练全程不需要读论文。先讲一个让人后怕的场景测试集满分上路就翻车想象你训练好了一个图像分类器在测试集上准确率漂亮得能贴进简历。可当它真正上岗时问题来了——一张在你眼里毫无异样的猫的照片模型却斩钉截铁地说是烤面包机一个贴了块小胶带的停车标志模型当成限速牌。这不是玄学而是一类专门的攻击手法攻击者给原始图片加上一层人眼几乎察觉不到的微小扰动对 ImageNet 而言通常限制每个像素最多只能改动 16/255 的量级就能让模型信心满满地给出错误答案。这类样本被称为对抗样本而模型抵御它们的能力就叫对抗鲁棒性。对这个仓库你可以把它理解成一句话一套经过实战检验的抗揍训练法专门用来养出面对对抗样本也不轻易失守的 ImageNet 分类器。它由 CVPR 2019 论文 Feature Denoising for Improving Adversarial Robustness 的官方代码沉淀而来核心是两大招的组合拳——大规模对抗训练加特征去噪层。看懂对手PGD 攻击是怎么一步步逼近的要想知道怎么防守先得明白攻击者的套路。项目用的主力攻击方法是PGD投影梯度下降一个非常直观的迭代过程先从一张加了随机噪声的图片出发每一轮都计算梯度朝着让模型更确信错误答案的方向把像素挪一小步每挪一步都做一次投影确保任何像素都没超出允许的扰动上限比如 16/255重复几十、几百甚至上千轮直到攻击效果稳定。打个比方这就像攻击者在预算内篡改试卷答案——每道题的改动不能超过额度但可以反复微调直到把正确答案改成错误答案。迭代轮数越多改动越精细攻击越致命。你可以把轮数理解为攻击者的耐心指数。这套攻击逻辑就写在 adv_model.py 的PGDAttacker里训练和评估都复用它代码里还保留了两个很讲究的细节攻击目标标签是随机选的更贴近真实威胁并且 80% 的批次从随机噪声点起步、20% 从干净图起步防止模型只学会对付一种攻击起点。项目的两大招一边挨打一边练再加装净化器第一招对抗训练把攻击变成陪练传统训练只用正常图片模型根本没见过被打过的样本自然毫无防备。这个项目的做法是每次训练迭代都现场生成一批对抗样本喂给模型一起学。模型一边挨打一边调整参数慢慢就练出了对扰动的肌肉记忆。这套流程不是简单拼个损失函数而是把 PGD 攻击内联进训练图里见 main.py 的训练入口和 adv_model.py 的AdvImageNetModel。配合标签平滑、BN 在攻击阶段固定等工程细节保证了挨打训练的稳定性。第二招特征去噪给特征图装净化器如果只靠对抗训练模型往往要在正常精度和抗揍能力之间做痛苦取舍。这个项目的精妙之处在于对抗扰动在特征空间里同样会留下噪声痕迹那干脆在网络里加一层净化器。这个净化器叫非局部去噪层它让特征图上的每个位置都和与之相似的其他位置互相投票、互相加权平均从而把孤立的异常响应抹平。可以类比降噪耳机——识别出背景噪声的规律然后把它抵消掉。实现上denoising与non_local_op这两个函数位于 resnet_model.py而模型怎么拼装这些层则由 nets.py 决定ResNetDenoise在 ResNet 的四个主要阶段res2 到 res5末尾各插一个去噪块ResNeXtDenoiseAll更激进在 ResNeXt 101 的每一个残差块后面都接一个非局部去噪层——这也是拿下 CAAD 2018 黑盒防御赛道冠军的那套配置。用数字说话这套组合拳有多能扛先看项目主图它直观展示了各模型在 2000 轮 PGD 攻击下的命运图中四条线越往右攻击越猛掉得越狠但加装去噪层的 ResNet-152黄线始终守在最上面2000 轮攻击后仍保有 42.6% 的准确率。要知道此前所有模型在这类极限攻击下准确率都不超过 1%——这是质变不是量变。再给你一张鲁棒性体检报告数据取自 INSTRUCTIONS.md 的模型库错误率越低越好模型无扰动输入失误率PGD-10 失误率PGD-100 失误率PGD-1000 失误率ResNet152普通对抗训练37.7%47.5%58.3%61.0%ResNet152 去噪层34.7%44.3%54.5%57.2%ResNeXt101 全量去噪31.6%44.0%55.6%59.6%两个值得圈出来的结论加去噪层不只是更抗揍正常图片上的表现反而更好——ResNet152 的干净图失误率从 37.7% 降到 34.7%说明净化器没有牺牲精度甚至做了正向正则。面对 1000 轮高强度攻击去噪模型比普通模型少错约 4 个百分点优势随攻击变强而拉大这正是越硬的仗越能打。动手第一步给预训练模型做体检好消息是项目把门槛压得很低你不需要先训练下载一个模型权重就能立刻验证鲁棒性。环境上准备好 TensorFlow ≥ 1.6、Tensorpack、OpenCV 和 horovod按 INSTRUCTIONS.md 装齐即可。单卡评估白盒鲁棒性一条命令搞定python main.py --eval --load /path/to/model_checkpoint --data /path/to/imagenet \ --attack-iter 100 --attack-epsilon 16.0 --arch ResNetDenoise -d 152用人话解释这行命令加载你下载的模型权重让攻击者以 16/255 的像素扰动上限迭代 100 轮看模型被攻击后的表现。把--attack-iter设成 0就只看正常图片的准确率。注意评估结果会有 ±0.3% 左右的波动因为攻击目标标签和攻击起点是随机生成的——这不是 bug是攻击本身的随机性。嫌单卡太慢攻击迭代 N 轮评估时间就放大 N 倍。加速的办法是用 MPI 把任务摊到多张卡上比如 8 卡并行mpirun -np 8 python main.py --eval --load /path/to/model_checkpoint --data /path/to/imagenet \ --attack-iter 100 --attack-epsilon 16.0 --arch ResNetDenoise -d 152进阶从零训练你自己的鲁棒模型如果你有自己的 GPU 集群想复现甚至魔改这套训练流程项目同样提供了完整链路。对抗训练非常吃算力论文里用了 128 张 V100建议 GPU 资源充足时再动手。训练分两步。第一步在每一台机器上各启动一个数据服务进程把 ImageNet 数据喂给训练端./third_party/serve-data.py --data /path/to/imagenet/ --batch 32第二步用 MPI 拉起分布式训练作业--attack-iter决定训练时用几轮攻击设 0 就是普通 ImageNet 训练mpirun -np 16 -H host1:8,host2:8 --output-filename train.log \ -bind-to none -map-by slot -mca pml ob1 \ -x NCCL_IB_CUDA_SUPPORT1 -x NCCL_IB_DISABLE0 -x NCCL_DEBUGINFO \ -x PATH -x PYTHONPATH -x LD_LIBRARY_PATH \ python main.py --data /path/to/imagenet \ --batch 32 --attack-iter 30 --attack-epsilon 16.0 --arch ResNetDenoise -d 152训练期间代码还会定期做分布式白盒评估相当于边练边考。如果你的集群用 Slurm 管理项目在 slurm/ 目录里放了现成的作业脚本train.sh 和 eval.sh照着改改数据路径就能提交。这里也要给你打个心理预防针鲁棒性不是免费的。以 30 轮攻击训练为例ResNet152 普通对抗训练在 128 张 V100 上要约52 小时加上去噪层约90 小时。想好预算再上车。三个容易被忽略、却能显著提升体验的细节1. 老显卡用户先别急着用加速开关。如果你用的是 Volta 架构 GPU 且 CUDA ≥ 9.2、TF ≥ 1.12给训练命令加--use-fp16xla标志能启用 XLA 优化的 FP16 PGD 攻击训练时间直接砍半代价只是约 3% 的鲁棒性损失——性价比极高。硬件不满足就别硬开会直接报错。2. 想测黑盒鲁棒性不用自己写攻击脚本。项目内置了--eval-directory模式对指定目录里的每张图输出预测标签python main.py --eval-directory /path/to/images --prediction-file predictions.txt \ --load X101-DenseDenoise.npz -d 101 --arch ResNeXtDenoiseAll --batch 20生成的 predictions.txt 就是你模型的黑盒预测结果CAAD 2018 的夺冠提交本质上就是这条命令的产物。3. 想快速玩推理还有个轻量入口。inference-example.py 只需一张图片和一个权重文件就能输出 Top-5 预测非常适合拿来做攻击实验的靶场。下一步就现在这个仓库的真正价值在于它把论文里世界级鲁棒性的每一个螺丝钉都摊开在了你面前——攻击器在 adv_model.py网络拼装在 nets.py去噪原语在 resnet_model.py部署脚本在 slurm/ 和 third_party/。你既可以当用户下载权重做评估也可以当研究者改结构、调参数、发起新一轮攻防。建议你的行动路径是先克隆仓库下载一个 Denoise 模型权重用单卡命令跑一次--attack-iter 10的评估亲眼看看被攻击前后的准确率落差再试着把--attack-iter提到 100感受攻击变强后模型是如何稳住阵脚的。等你真正跑通这一圈对对抗鲁棒性的理解会比读十篇科普都扎实。克隆地址https://gitcode.com/gh_mirrors/im/ImageNet-Adversarial-Training。祝你攻防愉快。【免费下载链接】ImageNet-Adversarial-TrainingImageNet classifier with state-of-the-art adversarial robustness项目地址: https://gitcode.com/gh_mirrors/im/ImageNet-Adversarial-Training创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
