(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111217626.4 (22)申请日 2021.10.19 (71)申请人 百度在线网络技 术 （北京） 有限公司 地址 100085 北京市海淀区上地十街10号 百度大厦三层 (72)发明人 熊俊峰　王洋　 (74)专利代理 机构 北京同立钧成知识产权代理 有限公司 1 1205 代理人 孙静　臧建明 (51)Int.Cl. G06K 9/62(2006.01) G06N 20/00(2019.01) (54)发明名称 对抗样本图像的获取方法、 装置和电子设备 (57)摘要 本公开提供了一种对抗样本图像的获取方 法、 装置和电子设备， 涉及图像分类等人工智能 技术领域。 具体实现方案为： 在获取对抗样本图 像时， 先分别获取多个样本图像和多个对抗算子 各自的比例和对抗参数； 并根据多个对抗算子各 自的比例， 从多个样本图像中确定待对抗处理的 多个待处理样本图像； 再基于多个待处理样本图 像各自对应的对抗算子的对抗参数， 对多个待处 理样本图像进行处理， 得到对抗样本图像， 从而 获取到对抗样本图像。 采用多个对抗算子的对抗 参数， 对样本图像进行对抗处理， 能够提升对抗 样本图像 扰动范数大小的统一 性。 权利要求书3页 说明书11页 附图4页 CN 113887651 A 2022.01.04 CN 113887651 A 1.一种对抗样本图像的获取 方法， 包括： 获取多个样本图像、 以及多个对抗 算子各自的比例和对抗 参数； 根据所述多个对抗算子各自的比例， 从多个样本图像中确定待对抗处理 的多个待处理 样本图像； 其中， 所述多个待处 理样本图像对应有各自的对抗 算子； 基于所述多个待处理样本图像各自对应的对抗算子的对抗参数， 对所述多个待处理样 本图像进行处 理， 得到对抗样本图像。 2.根据权利要求1所述的方法， 其中， 所述基于所述多个待处理样本图像各自对应的对 抗算子的对抗 参数， 对所述多个待处 理样本图像进行处 理， 得到对抗样本图像， 包括： 基于所述多个待处理样本图像各自对应的对抗算子的对抗参数， 对所述多个待处理样 本图像进行处 理， 得到所述多个待处 理样本图像各自对应的逆 归一化对抗样本； 对所述多个待处理样本 图像各自对应的逆归一化对抗样本， 进行归一化处理， 得到所 述多个待处 理样本图像各自对应的归一 化对抗样本； 根据所述多个待处理样本图像、 以及所述多个待处理样本图像各自对应的归一化对抗 样本， 得到所述对抗样本图像。 3.根据权利要求2所述的方法， 其中， 所述多个待处理样本图像为归一化处理后的样本 图像； 所述基于所述多个待处理样本图像各自对应的对抗算子的对抗参数， 对所述多个待处 理样本图像进行处 理， 得到所述多个待处 理样本图像各自对应的逆 归一化对抗样本， 包括： 对所述多个待处理样本图像进行逆归一化处理， 得到所述多个处理样本图像各自对应 的逆归一化样本图像； 基于所述多个待处理样本图像各自对应的对抗算子的对抗参数， 对所述多个处理样本 图像各自对应的逆归一化样本图像进 行对抗处理， 得到所述多个待处理样本图像各自对应 的逆归一化对抗样本 。 4.根据权利要求2或3所述的方法， 其中， 所述根据 所述多个待处理样本图像、 以及所述 多个待处 理样本图像各自对应的归一 化对抗样本， 得到所述对抗样本图像， 包括： 将所述多个待处理样本图像各自对应的归一化对抗样本输入至图像处理模型中， 得到 各归一化对抗样本对应的标签信息； 若所述待处理样本图像对应的标签信 息， 和其对应的归一化对抗样本图像对应的标签 信息相同， 则将所述归一 化对抗样本图像确定为所述对抗样本图像。 5.根据权利要求1 ‑4任一项所述的方法， 所述方法还 包括： 获取训练样本 图像集合； 其中， 所述训练样本 图像集合中包括所述多个样本 图像中未 进行对抗处理的多个样本图像和多个对抗样本图像， 以及各目标样本图像对应的标签信 息， 且所述目标样本图像为所述多个样本图像和所述多个对抗样本图像中的任一样本图 像； 将所述各目标样本图像分别 输入至所述图像处理模型中， 得到所述各目标样本图像对 应的预测标签信息； 根据所述各目标样本图像对应的预测标签信 息和所述标签信 息， 更新所述图像处理模 型的网络参数。 6.根据权利要求5所述的方法， 其中， 所述根据所述各目标样本图像对应的预测标签信权　利　要　求　书 1/3 页 2 CN 113887651 A 2息和所述标签信息， 更新所述图像处 理模型的网络参数， 包括： 针对所述各目标样本图像， 根据所述目标样本图像对应的预测标签信 息和所述标签信 息， 确定所述目标样本图像对应的损失函数； 根据所述各目标样本图像对应的损失函数， 更新所述图像处 理模型的网络参数。 7.根据权利要求6所述的方法， 其中， 所述根据所述各目标样本 图像对应的损 失函数， 更新所述图像处 理模型的网络参数， 包括： 确定所述各目标样本图像对应的损失函数对应的平均损失函数； 根据所述平均损失函数， 更新所述图像处 理模型的网络参数。 8.一种对抗样本图像的获取装置， 包括： 第一获取 单元， 用于获取多个样本图像、 以及多个对抗 算子各自的比例和对抗 参数； 第一处理单元， 用于根据所述多个对抗算子各自的比例， 从多个样本 图像中确定待对 抗处理的多个待处 理样本图像； 其中， 所述多个待处 理样本图像对应有各自的对抗 算子； 第二处理单元， 用于基于所述多个待处理样本 图像各自对应的对抗算子的对抗参数， 对所述多个待处 理样本图像进行处 理， 得到对抗样本图像。 9.根据权利要求8所述的装置， 其中， 所述第二处理单元包括第一处理模块、 第二处理 模块以及第三处 理模块； 所述第一处理模块， 用于基于所述多个待处理样本图像各自对应的对抗算子的对抗参 数， 对所述多个待处理样本图像进行处理， 得到所述多个待处理样本图像各自对应的逆归 一化对抗样本； 所述第二处理模块， 用于对所述多个待处理样本 图像各自对应的逆归一化对抗样本， 进行归一 化处理， 得到所述多个待处 理样本图像各自对应的归一 化对抗样本； 所述第三处理模块， 用于根据所述多个待处理样本 图像、 以及所述多个待处理样本 图 像各自对应的归一 化对抗样本， 得到所述对抗样本图像。 10.根据权利要求9所述的装置， 其中， 所述多个待处理样本图像为归一化处理后的样 本图像； 所述第一处 理模块包括第一处 理子模块、 第二处 理子模块； 所述第一处理子模块， 用于对所述多个待处理样本 图像进行逆归一化处理， 得到所述 多个处理样本图像各自对应的逆 归一化样本图像； 所述第二处理子模块， 用于基于所述多个待处理样本图像各自对应的对抗算子的对抗 参数， 对所述多个处理样本图像各自对应的逆归一化样本图像进行对抗处理， 得到所述多 个待处理样本图像各自对应的逆 归一化对抗样本 。 11.根据权利要求9或10所述的装置， 其中， 所述第三处理模块包括第三处理子模块和 第四处理子模块； 所述第三处理子模块， 用于将所述多个待处理样本图像各自对应的归一化对抗样本输 入至图像处 理模型中， 得到各归一 化对抗样本对应的标签信息； 所述第四处理子模块， 用于若所述待处理样本 图像对应的标签信息， 和其对应的归一 化对抗样本图像对应的标签信息相同， 则将所述归一化对抗样本图像确定为所述对抗样本 图像。 12.根据权利要求8 ‑11任一项所述的装置， 所述装置还包括第二获取单元、 第 三处理单 元以及更新单 元；权　利　要　求　书 2/3 页 3 CN 113887651 A 3