我院NIS&P团队在人工智能系统安全方面的成果“advPattern: Physical-world Attacks on Deep Person Re-identification via Adversarially Transformable Patterns”(面向深度行人重识别的物理世界攻击)被IEEE ICCV 2019(国际计算机视觉大会)录用。该论文主要由2017级硕士生郑思言和宋梦凯完成,指导教师为王志波教授和王骞教授。据悉,自1987年ICCV首次举办后30多年来,我校首次以第一单位 在ICCV上发表长文,实现了在该重大会议上长文发表零的突破。
该论文深入研究了智能监控系统的安全性问题,提出面向行人重识别技术的反制技术,设计鲁棒的物理世界可行的对抗性图案,通过将图案印制在衣服上,使得跨摄像头匹配失效,达到针对智能监控系统的逃逸与伪装目的。某种程度上,可以认为制作了一件“隐形衣”。该成果可用于国防军事与社会生活的多种安全引用场景中,对监控系统的安全防御提出了挑战.。
此外,近期团队在人工智能安全方面的另一成果“Invisible Adversarial Attack against Deep Neural Networks: An Adaptive Penalization Approach”被网络与安全领域的A类期刊IEEE Transactions on Dependable and Secure Computing录用。该论文针对已有的对抗性攻击方案不够隐蔽问题,提出了基于图像特征的自适应攻击方案,利用图案本身的纹理特征和人眼的视觉敏感差异来掩盖对抗性噪声,实现隐蔽攻击的目的。该成果可用于攻击人脸识别、自动驾驶汽车等系统,对系统的安全性设计提出了更高的要求。该成果同样由2017级硕士生宋梦凯和郑思言完成,指导教师为王志波教授和王骞教授。
IEEE ICCV全称是IEEE International Conference on Computer Vision,即国际计算机视觉大会,由IEEE主办,与计算机视觉模式识别会议(CVPR)和欧洲计算机视觉会议(ECCV)并称计算机视觉方向的三大顶级会议,被澳大利亚ICT学术会议排名和中国计算机学会等机构评为最高级别学术会议,在业内具有极高的评价。不同于在美国每年召开一次的CVPR和只在欧洲召开的ECCV,ICCV在世界范围内每两年召开一次。2019年ICCV将在韩国首尔举办,ICCV会议时间通常在四到五天,相关领域的专家将会展示最新的研究成果。