深度学习系统在许多任务中表现出色.但研究表明,如果在原有输入上叠加一个很小的恶意噪声,其效果就会受到严重影响.这种恶意样本被称为对抗样本.针对此前对抗样本生成方法在威胁模型下考虑的不足,本文提出了一种黑盒模型下的对抗样本生成方法.该方案通过黑盒优化技术,对输入样本做多维高斯建模并逐步迭代优化进行对抗样本的求解.在标准测试数据集上的测试表明,本文方法可以不需要了解模型具体参数和结构就能以100％的成功率生成对抗样本.
深度学习 对抗样本 黑盒优化 计算机安全