西电新闻网讯（通讯员 张蕾）近日，西电网信院马卓教授团队最新研究成果“Need for Speed: Taming Backdoor Attacks with Speed and Precision”被第45届国际信息安全顶会IEEE Symposium on Security and Privacy（IEEE S&P 2024）全文收录。

IEEE S&P又称Oakland，与ACM CCS、USENIX Security、NDSS并列称为安全领域的四大国际顶级学术会议，其近十年的平均录用率约为13%，发表难度在四大顶会里最高，被中国计算机学会（CCF）认定为A类会议。该会议收录的论文代表着相关研究领域的最高水平，在业界具有广泛而深远的影响。

“Need for Speed: Taming Backdoor Attacks with Speed and Precision”第一作者为beoplay体育提现马卓教授，通信作者为beoplay体育提现杨易龙博士生和刘洋副教授，合作作者包括北京大学杨仝长聘副教授、beoplay体育提现李腾副教授以及浙江大学秦湛研究员。该文章聚焦于深度神经网络后门识别和移除方案的高效性提升，主要贡献如下：现代深度神经网络模型（DNNs）需要大量数据才能达到最佳性能，人们已经依赖从多种开源途径获取大量训练数据集。这种不可信方式可能会导致训练时发生后门攻击，即攻击者在训练数据集中注入一小部分有毒训练样本，将后门植入模型，导致在运行时触发有毒样本的错误分类。为了减轻这种攻击，研究者提出了许多防御方法，如检测并移除有毒样本或纠正受害DNN模型的权重。然而，在面对大规模训练数据集时，这些方法效率显著低下，导致现实世界中实用性不高。该研究提出了一种轻量级的后门识别和移除方案，名为ReBack。具体来讲，ReBack首先提取出可疑和良性的样本子集，然后使用基于“平均和差分”的方法来快速识别后门目标标签；接着，ReBack提出了一种新的反向工程方法，仅使用基本算子就能恢复出准确的触发器。实验表明，对于拥有750个标签的ImageNet数据集，ReBack可以在大约2小时内防御后门攻击，显示出比现有方法快18.5倍至214倍的效率提升。在移除后门的过程中，由于恢复的触发器与真实触发器的余弦相似度达到99%，后门攻击成功率可以降低到0.05%。

ReBack工作流程

该成果向外界展示了beoplay体育提现在人工智能安全领域研究的领先成果，标志其在该领域的研究得到了国际同行的高度认可。