喜报 | 必赢官网本科生吴翰、区冠彦的学术论文被人工智能领域的国际顶级会议CVPR 2024接收

喜  报

近日，565net必赢客户端2020级本科生吴翰、区冠彦以共同第一作者身份投稿的学术论文Improving Transferable Targeted Adversarial Attacks with Model Self-Enhancement被人工智能领域的国际顶级会议CVPR 2024接收。

CVPR，全称为国际计算机视觉与模式识别会议(IEEE/CVF Computer Vision and Pattern Recognition Conference)，是全球人工智能与计算机视觉领域最具影响力的国际顶级学术会议之一。在中国计算机学会（CCF）推荐的国际学术会议中，CVPR为人工智能领域的A类会议；在谷歌学术公布的最新学术出版物影响力榜单中，CVPR在工程和计算机科学领域的所有学术出版物中排名第一，h5-index为422。

CVPR始办于1983年，是由IEEE计算机协会（IEEE Computer Society）和计算机视觉基金会（Computer Vision Foundation）共同主办的一年一度的国际学术会议，会议主题涵盖了计算机视觉与模式识别的各个细分领域。

论文介绍

随着深度神经网络在现实世界场景中的应用日渐广泛，其所面临的安全威胁也日益加剧。为评估并解决深度神经网络的安全隐患，许多针对深度神经网络鲁棒性的评测方法已被提出。作为评测深度神经网络鲁棒性的常用手段之一，对抗攻击技术近年来受到了广泛关注和深入研究。

根据攻击目标的差异，对抗攻击可以分为非定向攻击和定向攻击两类。前者旨在引导目标模型做出误分类，而后者则在此基础上进一步要求将目标模型的分类结果引导至特定的目标类别。在迁移攻击的场景下进行定向攻击，也就是定向迁移攻击，还要求在未知目标模型的情况下，利用已知的源模型来生成对抗样本，并且使得目标模型可以将生成的对抗样本识别为攻击者指定的目标类别。因此，定向迁移攻击成功的关键就在于增强由源模型生成的定向对抗样本的可迁移性。

然而，尽管在进行非定向迁移攻击时表现出色，现有对抗攻击方法在进行定向迁移攻击时，仍存在着较大的不足。针对这一问题，该论文发现，对抗扰动对泛化能力较弱的源模型的过度拟合，会在一定程度上削弱其进行定向攻击时的可迁移性。为此，该论文提出了一种模型增强方法，通过增强源模型、提高模型泛化性来提高其所生成的定向对抗样本的可迁移性。针对多种类别的深度神经网络和实际商业应用的测试表明，相比于前沿的基准方法，该论文提出的方法能生成更具有可迁移性的定向对抗样本。

指导老师介绍

学院构建以全程导师制为基础的学术育人体系，吴翰同学和区冠彦同学在本科大二阶段便加入了吴炜滨助理教授的课题组接受全面的科研训练和开展学术研究。

吴炜滨，565net必赢客户端助理教授，硕士生导师，中国计算机学会软件工程专业委员会执行委员。主要研究方向包括可信人工智能、深度学习、计算机视觉、自然语言处理、智能软件工程等，重点关注深度学习的可靠性、安全性、可解释性与隐私性。主持或参与了国家自然科学基金、香港研资局、深圳科创委等多个基金项目，是多个国际顶级会议和期刊的审稿人，如AAAI、ICLR、ICCV、ACL、TPAMI、TKDE等。近年来在NeurIPS、CVPR、ICSE等人工智能、计算机视觉、软件工程领域的CCF A类国际顶级会议上发表论文15篇。

感想和经验分享

吴翰：在这篇论文的实验测试和论文撰写过程中，我深刻感受到了团队合作的重要性。从集体讨论到问题协商，这篇论文的实验推进离不开各位团队成员的有效沟通、互相尊重和紧密协作。我还想在此衷心感谢我们的导师吴老师，他在我们面对难题时提供了许多专业指导和学术建议，为我们完成这项研究提供了关键支撑。

区冠彦：在本科期间发表一篇论文是令人激动的，也是辛苦的。在吴老师的实验室里，我付出了许多时间和努力，从接触机器学习开始，到动手实践写出代码，复现前人的方法，最终找到突破点，改进现有方法。这个过程使我从以前单纯的接收和学习知识，成长为能够进行科研创新，为我将来的研究生阶段学习打下了良好基础。我非常感谢吴老师对我的耐心指导和共同作者吴翰同学的紧密合作，他们不仅是这项研究工作成功的关键，也给了我许多启发和建议。