中国科学院信息工程研究所孟国柱副研究员讲座报告成功举行

2021723日下午,中国科学院信息工程研究所孟国柱副研究员就“深度学习的隐私攻防技术研究”这一主题与本实验室教师和研究生进行了分享和交流。本次讲座由本实验室林昶廷老师主持。

孟国柱副研究员,2017年博士毕业于新加坡南洋理工大学,2018年加入中国科学院信息工程研究所;2019年获ACM中国SIGSAC科技新星。主要研究方向包括人工智能安全与隐私、移动安全分析和测试,在软件工程和信息安全领域的顶级或权威期刊和会议发表论文30余篇。

讲座开始,孟国柱副研究员首先介绍了人工智能以及人工智能系统的安全性问题,接着对深度学习中的隐私问题进行详细介绍。针对模型窃取攻击需要多次查询的缺点,孟老师从互信息、神经元序列、关联矩阵、类概率四个方面来介绍数据约减方法,该算法可减少对于目标模型的查询次数从而优化模型窃取攻击。

报告结束后,老师和同学积极向孟国柱研究员提出自己的问题和想法,如“模型萃取是否可转变为模型压缩,压缩后模型精度是否有较大影响”“DeepObliviate方案中数据序列位置差异是否导致影响效果”等问题,孟研究员都一一进行回答。最后,讲座在老师和同学们的热烈讨论中结束。