喜报 | 网安学子荣获多模态大语言模型红队安全挑战赛冠军

随着多模态大语言模型的快速发展和广泛应用，其强大的理解与生成能力备受学界和业界瞩目。然而，这些模型在安全性和鲁棒性方面的潜在风险引发了广泛关切。为了探索多模态大语言模型的潜在安全风险和脆弱性，本次挑战赛旨在邀请参赛者扮演“红队”角色，通过提交精心设计的图像文本对，试图触发模型产生有害、不当甚至非法的内容，用以评估并揭示这些模型在安全防护方面的潜在缺陷。比赛共收到全球100多支队伍报名，含初赛、复赛、决赛三个阶段。

在初赛阶段，参赛者需提交600个图像文本对，用以评测多模态大模型的安全性以及攻击方法的优越性。“Renaissance”队伍提出了一种创新的基于排版的图文结合越狱攻击方法，在100多支参赛队伍中脱颖而出，以初赛第一名、复赛第一名的成绩挺进现场决赛。7月29日下午，会议现场的决赛答辩准时开始，我院研究生一年级准新生马腾第一个进行了汇报，介绍队伍所使用的攻击方法，回答了评委的问题。队伍创新的越狱攻击方法获得了评委们的一致好评，荣获现场决赛第一名的好成绩，总赛程第一名。