(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210910777.6 (22)申请日 2022.07.29 (71)申请人 重庆长安汽车股份有限公司 地址 400020 重庆市江北区鱼嘴镇长安汽 车全球研发中心 (72)发明人 马金燕　罗咏刚　胡小琼　胡伟红　 杨俱成　 (74)专利代理 机构 北京清亦华知识产权代理事 务所(普通 合伙) 11201 专利代理师 张伟 (51)Int.Cl. G06F 21/57(2013.01) G06V 20/56(2022.01) G06V 10/774(2022.01) G06V 10/80(2022.01)G06V 10/82(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 自动驾驶目标检测系统的漏洞检测方法、 装 置及电子设备 (57)摘要 本申请涉及自动驾驶技术领域， 特别涉及一 种自动驾驶目标检测系统的漏洞检测方法、 装置 及电子设备， 其中， 方法包括： 采集车辆周围的实 际图像； 将实际图像输入至预先训练的对抗样本 生成模型中， 输出实际图像的实际对抗样本， 其 中， 对抗样 本生成模型由基于携带有真实标签信 息的训练数据训练得到； 基于实际对抗样本进行 目标感知检测， 得到实际感知结果， 并在实际感 知结果满足预设条件时， 判定自动驾驶目标检测 系统无漏洞， 否则判定自动驾驶目标检测系统存 在漏洞。 由此， 解决了相关技术中， 基于梯度迭代 生成对抗样本， 效率较低， 生成的对抗样本定向 攻击性不足， 对自动驾驶目标检测系统的漏洞检 测效率较低、 准确度较低， 无法满足实际使用的 需要等问题。 权利要求书2页 说明书10页 附图3页 CN 115374446 A 2022.11.22 CN 115374446 A 1.一种自动驾驶目标检测系统的漏洞检测方法， 其特 征在于， 包括以下步骤： 采集车辆周围的实际图像； 将所述实际图像输入至预先训练的对抗样本生成模型中， 输出所述实际图像的实际对 抗样本， 其中， 所述对抗样本生成模型由基于携带有真实标签信息的训练数据训练得到； 基于所述实 际对抗样本进行目标感知检测， 得到实 际感知结果， 并在所述实 际感知结 果满足预设条件时， 判定 自动驾驶 目标检测系统无漏洞， 否则判定所述自动驾驶 目标检测 系统存在漏洞。 2.根据权利要求1所述的方法， 其特征在于， 所述将所述实际图像输入至预先训练完成 的对抗样本生成模型中， 输出 所述实际图像的实际对抗样本， 包括： 将所述实际图像输入预设图像编码器中， 输出 所述实际图像的图像特 征； 将所述实际图像输入预设类别标签编码器中， 输出 所述实际图像的类别标签特 征； 融合所述图像特征和所述类别标签特征， 得到融合特征， 并将所述融合特征输入预设 解码器中， 输出实际对抗扰动； 将所述实际图像和所述实际对抗扰动进行叠加， 得到所述实际图像的实际对抗样本 。 3.根据权利要求1所述的方法， 其特征在于， 在将所述实际图像和所述实际对抗扰动进 行叠加之前， 包括： 利用预设平滑 投影策略对所述实际对抗扰动进行平滑投影， 使得所述实际对抗扰动处 于预设扰动范围之内。 4.根据权利要求1 ‑3任意一项所述的方法， 其特征在于， 所述预设条件为所述实际感知 结果与所述实际图像对应的真实标签信息一 致。 5.一种自动驾驶目标检测系统的漏洞检测方法， 其特 征在于， 包括以下步骤： 获取基于携带有真实标签信息的训练数据； 将所述训练数据输入至预设图像编码器中， 输出所述训练数据的图像特征， 将所述实 际图像输入预设类别标签编码器中， 输出 所述训练数据的类别标签特 征； 融合所述图像特征和所述类别标签特征， 得到融合特征， 并将所述融合特征输入预设 解码器中， 输出训练对抗扰动， 并将所述训练数据和所述训练对抗扰动进 行叠加， 得到所述 训练数据的训练对抗样本； 将所述对抗样本输入所述自动驾驶目标检测系统的替代网络， 输出训练感知结果， 并 基于所述训练感知结果与所述真实标签信息计算训练损失值； 通过反向传播更新所述预设图像编码器和所述预设加码器的参数， 直到所述损失值小 于预设值， 或者， 满足预设迭代停止条件时， 得到对抗样本生成模型， 基于所述对抗样本生 成模型生成实际图像的实际对抗样本， 并利用所述实际对抗样本检测所述自动 驾驶目标检 测系统的漏洞。 6.根据权利要求5所述的方法， 其特征在于， 在将所述训练数据和所述训练对抗扰动进 行叠加之前， 包括： 利用预设平滑 投影策略对所述训练对抗扰动进行平滑投影， 使得所述训练对抗扰动处 于预设扰动范围之内。 7.一种自动驾驶目标检测系统的漏洞检测装置， 其特 征在于， 包括： 采集模块， 用于采集车辆周围的实际图像；权　利　要　求　书 1/2 页 2 CN 115374446 A 2输入模块， 用于将所述实 际图像输入至预先训练的对抗样本生成模型中， 输出所述实 际图像的实际对抗样本， 其中， 所述对抗样本生成模型 由基于携带有真实标签信息的训练 数据训练得到； 检测模块， 用于基于所述实际对抗样本进行目标感知检测， 得到实际感知结果， 并在所 述实际感知结果满足预设条件时， 判定自动驾驶 目标检测系统无漏洞， 否则判定所述自动 驾驶目标检测系统存在漏洞。 8.一种自动驾驶目标检测系统的漏洞检测装置， 其特 征在于， 包括： 获取模块， 用于获取基于携带有真实标签信息的训练数据； 训练模块， 用于将所述训练数据输入至预设图像编码器中， 输出所述训练数据的图像 特征， 将所述 实际图像输入 预设类别标签编 码器中， 输出所述训练数据的类别标签特征； 融 合所述图像特征和所述类别标签特征， 得到融合特征， 并将所述融合特征输入预设解码器 中， 输出训练对抗扰动， 并将所述训练数据和所述训练对抗扰动进 行叠加， 得到所述训练数 据的训练对抗样本； 将所述对抗样本输入所述自动驾驶 目标检测系统的替代网络， 输出训 练感知结果， 并基于所述训练感知结果与所述真实标签信息计算训练损失值； 通过反向传 播更新所述预设图像编码 器和所述预设加码 器的参数， 直到所述损失值小于预设值， 或者， 满足预设迭代停止条件时， 得到对抗样本生成模型， 基于所述对抗样本生成模型生成实际 图像的实际对抗样本， 并利用所述实际对抗样本检测所述自动驾驶目标检测系统的漏洞。 9.一种电子设备， 其特征在于， 包括： 存储器、 处理器及存储在所述存储器上并可在所 述处理器上运行的计算机程序， 所述处理器执行所述程序， 以实现如权利要求 1‑6任一项所 述的自动驾驶目标检测系统的漏洞检测方法。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 该程序被处理器 执行， 以用于实现如权利要求1 ‑6任一项所述的自动驾驶目标检测系统的漏洞检测方法。权　利　要　求　书 2/2 页 3 CN 115374446 A 3