分论坛 > 武汉 > 新闻动态
当信息安全遇到人工智能,是天作之合还是狭路相逢?
2022-04-28 阅读量:148 小字

论坛编号:CCF-YO-21-WH-6FT

2022年4月23日,中国计算机学会青年计算机科技论坛(CCF YOCSEF)武汉分论坛举办了线上技术论坛(论坛编号:CCF-YO-21-WH-6FT)。本次论坛以“当信息安全遇到人工智能,是天作之合还是狭路相逢?”为主题,邀请了伊利诺伊理工大学、华中科技大学、武汉大学、武汉科技大学的专家和学者作为论坛嘉宾进行发言和技术思辨讨论。本次论坛由YOCSEF武汉AC、武汉理工大学教授李琳,YOCSEF武汉候任AC、武汉科技大学副教授朱子奇共同担任执行主席;YOCSEF武汉候任AC、中南民族大学教授叶正,YOCSEF武汉候任AC、中国地质大学副教授孙琨共同担任线上执行主席;武汉科技大学为本次论坛提供了支持。

本期技术论坛,邀约信息安全人工智能领域相关专家学者,针对“当信息安全遇到人工智能,是天作之合还是狭路相逢?”进行主题讨论。介绍了人工智能技术应用于解决信息安全问题成为信息安全技术的发展方向,探讨了信息安全与人工智能的交叉与融中存在的若干重要问题,把握人工智能和信息安全相融合未来发展的潜在机遇。


“当信息安全遇到人工智能,是天作之合还是狭路相逢?”技术论坛

论坛的引导发言环节邀请了3位嘉宾,分别是:美国伊利诺伊理工大学的谢尚玉博士、华中科技大学的李珩博士以及武汉大学的欧长海教授。

谢尚玉博士是伊利诺伊理工大学计算机科学博士研究生,本科毕业于上海交通大学IEEE试点班。谢尚玉博士带来了题为“基于深度学习的视频识别系统的对抗攻击和防御”的引导发言。报告中谢尚玉博士介绍机器学习应用中广泛存在得对抗攻击,并结合图像和视频领域分析了当前主流对抗攻击的局限性。然后介绍所提出的广泛适用的U3D攻击模型,不仅可以用于黑盒攻击,而且可达到实时攻击效果。扰动生成U3D noise,其优点计算容易,无认为痕迹,参数少。


基于深度学习的视频识别系统的对抗攻击和防御


接下来,华中科技大学电子信息与通信学院博士生李珩以“基于安卓恶意软件的对抗样本防御研究”进行引导发言。李珩针对国内安卓生态,介绍了当前安卓环境所面临的安全威胁和人工智能方法在该领域的重要应用。传统检测方法主要是与数据库特征进行比对,检测效果较低,无法处理复杂恶意代码。重点介绍所研究的轻量级检测方法,该方法基于神经网络的宽度学习方法,摒弃传统机器学习思路,该方法不仅可以实现轻量级网络、能在设备端进行训练,还可以进行增量学习。此外还介绍了基于图的检测方法,并引入自然语言处理中word2vec的算法,取得了很好的检测效果。

基于安卓恶意软件的对抗样本防御研究

随后,武汉大学欧长海教授以“机器学习侧信道分析:原理、现状与发展趋势”为题目,介绍了侧信道分析的原理和发展现状。在基于机器学习的侧信道分析应用中,他介绍了使用多层感知机进行密码分析、逆向工程等案例。最后,针对部分模型训练需要高昂成本,但窃取模型的成本低廉这一问题,欧教授介绍了他们在MNIST数据集上的卷积神经网络的攻击实验过程与结果。


机器学习侧信道分析:原理、现状与发展趋势

在思辨环节,参与论坛的所有专家和老师就以下三个议题进行了激烈的探讨:(1)人工智能时代面临哪些信息安全风险和挑战?(2)人工智能技术的快速发展对于信息安全技术的发展带来哪些机遇?(3)在人工智能和信息安全深度融合的大时代下,如何培养人工智能+信息安全的创新型复合型人才?这三个问题也是目前人工智能与信息安全在行业和人才培养方面共同关心的问题。

思辨点1:人工智能时代面临哪些信息安全风险和挑战?

针对人工智能时代面临哪些信息安全风险和挑战?”,专家和老师们围绕2个子问题进行了讨论:诸如人脸识别、声音识别、视频识别等人工智能前沿技术的应用面临哪些信息安全风险?针对这些信息安全风险,有哪些对应的措施和技术?

武汉科技大学的李鹏教授认为:人工智能和大数据的关系越来越紧密,首先要考虑数据本身的安全,比如脱敏;其次是用户的安全,比如海豚声攻击;最后是技术上的安全,比如对抗攻击。针对这类问题,需要更可靠的软件和硬件技术进行防范。

华中科技大学的程孟凡教授认为:安全威胁无处不在,人工智能技术类似一个放大器,会放大攻击的效应。他举了一个例子,在光领域内,一个房间禁止电磁波泄露,我们无法用电磁的方式对内部进行探测。如果打一束激光在墙上,房间里说话的人声波引起墙面的震动,导致激光反射发生变化,那么结合人工智能技术有可能部分恢复声音信号。类似地,人讲话声音可能引起光纤的震动,进而引起了其中光信号的变化,这也可能造成信息被窃取或者泄露。

伊利诺伊理工大学的谢尚玉博士认为:从机器学习角度来说,我们需要关注模型安全和数据隐私,并可以用相应的隐私保护技术保护在训练过程中敏感数据不被泄露。现在做的比较多的是数字攻击,物理层面的攻击比较少。对抗样本是真实存在的,机器学习模型可能忽视了这些样本导致泛化性不足,如果让机器学习注意这些样本,那么泛化性的问题也能得到解决

华中科技大学的李珩博士认为:目前的模型已经广泛部署在不同的设备上,但是这些模型的参数仍可能被窃取。同态加密、分布式系统可以解决模型参数的问题。针对对抗样本,去噪或者重构的技术可以去除扰动,增强抵御对抗样本攻击的能力。

武汉大学的欧长海教授认为:安全会成为人工智能的趋势,但改进现有网络的代价会比较大。未来的一个趋势是如何构建安全的人工智能算法,以及如何将人工智能算法用于安全评估。此外,对海量数据进行安全防护也是一个很有挑战性的问题。

在“人工智能技术的快速发展对于信息安全技术的发展带来哪些机遇?”这一问题上,专家和老师们围绕2个子问题进行了讨论:人工智能领域的哪些新技术能够促进信息安全领域的技术发展?人工智能技术的发展为信息安全技术带来新的挑战?

思辨点2:人工智能技术的快速发展对于信息安全技术的发展带来哪些机遇?

伊利诺伊理工大学的谢尚玉博士认为:人工智能安全属于信息安全范畴,隐私主要涉及到用户数据。机器学习中的记忆性攻击是一个很好的例子,但在减少隐私攻击风险的同时,模型本身的效果可能会变差,具有一定难度。

华中科技大学的李珩博士认为:信息安全中临界样本比较难,如何处理这些未见过的漏洞是一个比较大的挑战。人工智能中的0样本学习、小样本学习可能会对这个问题有帮助。未来的挑战主要是人们对隐私的关注会更加强烈。

武汉大学的欧长海教授认为:攻防是螺旋式发展的,人工智能对数据强大的分析能力带来了很多遍历,会促使大家进一步思考数据安全的问题。

武汉科技大学的李鹏教授认为:在某种场景下,可以学习人的手势对wifi信号造成的扰动信息,进而对人的姿势进行推断。这个例子说明人工智能如果和其他领域结合,会带来更多的安全性挑战。

思辨点3:在人工智能和信息安全深度融合的大时代下,如何培养人工智能+信息安全的创新型复合型人才?

最后讨论了在人工智能和信息安全深度融合的大时代下,如何培养人工智能+信息安全的创新型复合型人才?”,专家和与会人员交流如何培养具备人工智能知识的信息安全专业人才?如何培养具备安全意识的人工智能专业人才?

武汉大学的欧长海教授认为:这两方面的人才是比较紧缺的,学生如果对人工智能感兴趣,很支持他们从事相关研究。同时,要尽量突出安全特色,从考虑人工智能的安全性切入。

伊利诺伊理工大学的谢尚玉博士认为:在自己曾经参加过的一个案例中,要对用户行为进行风险预测,但又不能过多获取用户的隐私数据,因此采用了同态加密的技术。一些大企业给学生提供了part time实习的机会,可以把研究应用到实际中,这是一个不错的模式。

华中科技大学程孟凡教授认为:目前的课程设置方面以计算机为主,同时包含了很多交叉的课程,但是要把所有知识讲的很深入是很难的。因此,科研上可以有更多的交流和协同的机制,不同学科领域之间融合的接口对行业发展具有重要意义

参会者云合影

本次论坛历时三个小时,吸引了100余人线上参与,通过引导发言、论坛思辨,讨论了信息安全和人工智能发展中的主要问题和困惑,探讨了如何培养具备安全意识的人工智能专业人才以及如何培养具备人工智能知识的信息安全专业人才的途径。通过本次技术论坛中各位专家和老师的发言与讨论,将更好地推动人工智能与信息安全专业的融合发展与相互促进。

本次活动由武汉科技大学“红色字节”师生联合党支部、信息安全教工党支部、华中农业大学信息学院大数据系党支部提供了活动的会务和直播支持等方面的协助。


热门动态
2017-10-20
2017年10月17日下2点至4点半,由CCF YOCSEF武汉分论坛与哈...
CCF聚焦
会员权益
会员故事
会员荣誉
入会流程
返回顶部