金沙威尼斯欢乐娱人城梁彬教授团队研究论文被S&P 2025录用

近日，梁彬教授团队研究论文被国际顶级学术会议IEEE S&P 2025录用（录用率14.3%）。IEEE S&P（IEEE Symposium on Security and Privacy）创立于1980年，是信息安全领域最具影响力的最高旗舰会议，也是中国计算机学会（CCF）推荐的A类国际学术会议和金沙威尼斯欢乐娱人城A+类会议。

论文题目：Fight Fire with Fire: Combating Adversarial Patch Attacks using Pattern-randomized
Defensive Patches

论文作者：冯佳男，李佳纯，苗长青，黄建军，游伟，石文昌，梁彬

通讯作者：梁彬

论文简介：近年来，目标检测模型已广泛应用于自动驾驶、视频监控等各类现实任务中。然而，这类模型容易受到对抗性补丁攻击，包括隐藏攻击和误分类攻击。如何保护目标检测模型免受对抗性补丁攻击，已成为一个重要且紧迫的研究课题。本文在人工智能安全攻防中引入软件安全防御思想，提出了一种全新的防御方法，采用在输入中引入防御性补丁的方式检测对抗补丁攻击。我们提出了两种防御补丁，Canary和Woodpecker，分别用于探测对抗补丁的存在和抵消对抗补丁的攻击效果。并通过实施随机注入策略，保证了方法的鲁棒性。实验表明所提出方法能有效检测未知的攻击方法和defense-aware的攻击方法，时间开销小，且不用修改原始目标模型。本文方法为对抗补丁防御提供了一种全新的、有效的方案。

学生作者简介：

冯佳男，金沙威尼斯欢乐娱人城信息安全专业2022级博士生，导师为梁彬教授。主要研究方向为人工智能安全。