物理级行人重识别对抗攻击
计算机学院(国家示范性软件学院)
A Stealthy Attack Method in the Physical World
行人重识别(Person Re-identification)又被称为行人再识别,是利用计算机视觉算法对跨设备的行人图像或视频进行匹配,利用多个摄像头捕捉行人的外观或姿态特征,实现跨摄像头行人识别。随着深度学习技术的不断演进,基于深度学习算法的行人重识别系统在准确率和检索速度上有了大幅度的提升,使得基于深度学习的高性能的行人重识别系统成为智慧城市的重要组成部分。
但是,作为视觉模式匹配的代表,re-ID 是否继承深度神经网络的漏洞仍待探讨。检查 re-ID 系统的稳健性非常重要,因为 re-ID 系统的不安全性可能会造成严重损失,例如,犯罪分子可能会利用对抗性干扰来欺骗视频监控系统。
最近对抗攻击的相关表明,一些难以察觉的对抗性扰动可能会导致最先进的深度神经网络产生错误的识别结果。例如AdvPattern的攻击方法在T恤上生成了的方块型攻击图案实现了对抗攻击的物理级别的应用,从而使穿着特殊T恤的行人可以成功地欺骗行人重识别模型,隐藏身份。但是AdvPattern没有考虑到攻击图案由于行走等动作而发生的遮挡情况,导致攻击失效。
本项目将基于AdbPattern的成果,对该攻击运用到物理层面,通过提升AdvPattern的色彩空间转换损失容错能力,实现物理级别的对抗攻击,并开发原型系统。