专利名称:基于贝叶斯优化的查询高效的黑盒对抗攻击专利类型:发明专利
发明人:S·N·舒克拉,A·K·萨胡,D·维尔莫特,J·Z·柯尔特申请号:CN202011007795.0
申请日:20200923
公开号:CN112633309A
公开日:
20210409
专利内容由知识产权出版社提供
摘要:描述了对神经网络分类器实行对抗攻击。构造输入输出对的数据集,输入输出对的每个输入元素是从搜索空间中随机挑选的,输入输出对的每个输出元素指示针对对应输入元素的神经网络分类器的预测输出。在输入输出对的数据集上利用高斯过程来优化获取函数,以从数据集中到最佳扰动输入元素。对最佳扰动输入元素进行上采样以生成经上采样的最佳输入元素。经上采样的最佳输入元素被添加到原始输入以生成候选输入。查询神经网络分类器,以确定针对候选输入的分类器预测。计算分类器预测的分数。响应于分类器预测为不正确的,接受候选输入作为成功的对抗攻击。 申请人:罗伯特·博世有限公司
地址:德国斯图加特
国籍:DE