大创风采 | 深度伪造检测及对抗防御方法

 

 

—————— 小组简介 ——————

 

项目主题

深度伪造检测及对抗防御方法

 

项目负责人和成员

朱奕帆，项目负责人，网络空间安全学院2021级本科生

刘瑾茜，成员，网络空间安全学院2021级本科生

陈琳，成员，网络空间安全学院2021级本科生

吴凡，成员，网络空间安全学院2021级本科生

朱司琪，成员，网络空间安全学院2021级本科生

 

立项等级

校级

 

项目评级

优秀

 

—————— 项目介绍 ——————

 

　　深度伪造Deepfake的恶意应用给个人隐私、社会稳定甚至国家安全等带来了极大的威胁。针对Deepfake的潜在危害，小组创新性地提出了将主动防御与数字水印技术结合的新方案。一方面通过在待保护图像中添加不宜觉察的对抗噪声，使得含噪图片输入到Deepfake之后会生成严重失真的图像，而非攻击者预期的输出图片，实现对特定图像的主动保护；另一方面，进一步在含噪图片中嵌入鲁棒水印，这样即使待保护图像被用于深度伪造，依然可以通过所嵌入的水印信息对伪造图片的来源以及真实性进行认证，为图片提供双重保护。

 

▲项目组提出的防御与检测思路

 

　　经过为期一年的研究与实践，小组成员将自动调整步长的APGD(Auto Projected Gradient Descent)攻击算法引入到Deepfake主动防御。实验数据表明，改进后方法生成的对抗扰动的防御效果要明显由于原始PGD算法，可以在尽可能保证含噪图像视觉质量的情况下，破坏Deepfake的生成。此外，基于DCT域DC分量的零水印算法可以确保即使在待保护图象中添加的对抗扰动失效，图片被Deepfake成功用于伪造，也可以根据伪造的图象进行身份认证、溯源取证等。最后，小组成员共同开发一个针对Deepfake图像伪造的保护平台，面向在社交平台发布的人脸图片的群体，实现对个人因私的双重保护。

 

—————— 小组心得体会 ——————

 

　　在项目合作研究的过程中，小组成员在现有专业课程学习的基础上，自学了零水印算法、深度学习模型训练和网页开发等新的知识，并将其运用到了实际项目中，激发了对科研工作的兴趣和热爱。项目进行过程中，团队成员也意识到了团结协作、合理分工的重要性，遇到瓶颈时与导师或者成员之间沟通交流往往能激发灵感，找到新的方向。深度伪造主动防御技术以及数字水印技术在身份识别、保护知识产权等方面具有广泛的应用前景，未来小组成员将更深入地投身于相关技术的研究和创新。

 

—————— 导师介绍 ——————

 

▲黄方军教授

 

　　黄方军，网络空间安全学院教授、博导。2005年于华中科技大学获得博士学位。2009.6-2010.6期间获国家留学基金资助在美国新泽西理工学院电子与计算机工程系从事博士后研究。2013.9-2014.8期间获韩国高等教育财团资助在韩国高丽大学担任KFAS学者。目前主要研究领域为人工智能安全、信息隐藏与数字取证等。

 

导师寄语

　　深度伪造检测及对抗防御方法的研究，是目前人工智能安全领域的热点问题。项目组几位同学在项目实施过程中积极主动、勤于思考，并将课本上所学的知识真正运用到了实际项目中，圆满达到了项目的预期目标。在未来的道路上，希望小组成员们继续保持对科学的热情，不断追求创新，勇攀科技高峰。

 

** 欢迎关注 **