视觉目标跟踪的对抗攻击及防御

活动介绍

上海白玉兰开源开放研究院发起的“青年学者论坛”，意在为国内外大数据及人工智能领域的优秀青年学者，搭建一个非正式交流平台。我们诚邀发表在国际顶会的论文作者，以第一视角介绍其学术观点、研究细节、成果展现、相关领域前沿方向等话题，促进观点碰撞及交流合作。

此次是“青年学者论坛”第五期活动，青年学者论坛讲师及志愿者持续招募中。
如有意愿，请与我们联系，欢迎广大同学们积极参与。
Email：chengh@baiyulan.org.cn （邮件主题：青年学者论坛）
微信：chhao01 （验证消息：青年学者论坛）

活动安排

• 摘要

视觉目标跟踪是计算机视觉领域的热点话题之一，在实际生活生产中具有广泛应用。卷积神经网络（CNN）的发展大幅度提升了视觉目标跟踪算法的性能。但与此同时，卷积神经网络的非线性性也影响了现有算法的鲁棒性。具体来说，将人眼不可察觉的特定微小扰动添加在输入图像上就会导致训练好的深度神经网络无法进行正确预测。目前对抗攻击的研究大多集中在静态图片的任务上，比如图像分类、语义分割等。
我们提出了一种针对目标跟踪的时序序列白盒攻击算法，在引入微弱扰动的条件下，大幅度降低了现有目标跟踪器的性能；同时，提出一种相对应的防御算法，一定程度上恢复原有目标跟踪器的性能。
此外，我们提出了一种黑盒攻击算法IoU Attack，在深度跟踪器的模型和参数未知的情形下进行对抗攻击。

相关论文

• IoU Attack: Towards Temporally Coherent Black-Box Adversarial Attack for Visual Object Tracking.
  Shuai Jia, Yibing Song, Chao Ma, and Xiaokang Yang.
  IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2021.
• Robust tracking against adversarial attacks.
  Shuai Jia, Chao Ma, Yibing Song, and Xiaokang Yang. European Conference on Computer Vision (ECCV), 2020.

讲师介绍

贾率，上海交通大学人工智能研究院在读博士生，主要研究兴趣集中于视觉目标追踪、对抗攻击及防御等深度学习理论与方法研究。
目前以第一作者身份已在CVPR，ECCV等会议发表论文2篇。

评议人

沈为，上海交通大学人工智能研究院副教授，毕业于华中科技大学并获博士学位，曾担任约翰·霍普金斯大学计算机科学系的助理研究员。
在IEEE Trans. PAMI, IEEE Trans. Image Processing, NIPS, ICML, ICCV, CVPR, ECCV and MICCAI等计算机视觉及深度学习顶级会议及期刊上发表40余篇文章。

关于活动

主办方
上海白玉兰开源开放研究院（简称：白玉兰开源），是在⼯信部信发司、上海市经信委的指导下，依托上海交通⼤学⼈⼯智能研究院，由梅宏院⼠担任⾸席科学家的产业研究院。2020.07.11在世界人工智能大会上，由浦东新区区委书记翁祖亮，上海交通大学党委书记杨振斌揭牌成立，定位⾮盈利的创新平台机构。成立初衷的发展目标是，推进⼈⼯智能软件框架研发与开源，与国内外知名开源社区互联互通，汇聚国内外开发者智慧，特别是国际知名开源开发者与科学家，以开源社区平台为牵引，以提升先进算法和模型的可复现性为⽬标，推动⼈⼯智能领域开源软件的国际规则互认，在重点领域形成“算⼒、算法、数据、场景、合规”⼀体化的⼈⼯智能社区，建设国际⼈⼯智能开发⽣态⽹络的关键节点。

• 协办方：上海交通大学人工智能研究院
• 直播平台：示说(https://slidestalk.com)
• 合作社区：示说网