MindSpore1.5下MindArmour的应用总结

操作系统：Ubuntu

安装

版本：

 

打开相关的脚本代码：

将代码中的device_target改成CPU

加载数据集，引入家在数据所需以来，并设置运行环境、Log信息

建立模型，这里以LeNet模型为例

训练LeNet5模型

测试模型，获取测试数据集，并且计算测试数据集在原模型上的准确率

调用MindAmour提供的FGSM接口进行对抗性攻击

测试FGSM对抗样本在原始模型上的准确率

NAD接口进行防御

计算测试数据集在防御模型上的准确率

测试对抗样本在防御模型上的准确率

 

下发训练命令：

训练结果：测试集在原模型上的分类准确率为97.576，FGSM对抗样本在原模型上的分类准确率为51.913，误分类率48%左右，说明原模型对于对抗样本鲁棒性较差，测试集在防御模型上的分类准确率为96.434%，FGSM生成的对抗样本在防御后模型上的分类准确率为86.769%，误分类率不足14%，说明NAD防御确实是有效的。