随笔分类 - 神经网络对抗攻击
摘要：①目前，针对对抗样本出现的原因主要有三种观点：流形中的低概率区域解释；线性解释；此外，还有一种观点认为线性解释存在局限性，即当前的猜想都不能令人信服。 ②对抗样本的几种典型生成方式：F-BFGS法、FGS法、迭代法、迭代最小可能类法及其他方法。 ③对抗样本具有迁移性是对抗样本攻击的原因，该属性意味着
阅读全文
摘要：①通过对原始样本加入微小扰动所生成的对抗样本能够有效欺骗深度学习模型，并将生成对抗样本的方式称为对抗攻击。 ②对抗攻击能够使深度学习以高置信度的方式给出错误的输出，实现针对深度学习检测服务的逃逸攻击。 ③深度学习缺乏可解释性由其自身结构和运行机理决定，具体表现在以下3个方面： （1）深度神经网络的神
阅读全文
