可信智能系统：机理、技术与未来|CNCC2021

王伟

北京交通大学 教授

CCF 青年计算机科技论坛(YOCSEF)学术委员会委员；CCF出版工作委员会执行委员；CCF区块链专业委员会首批委员。北京交通大学计算机与信息技术学院教授，博士生导师，信息安全系主任，智能交通数据安全与隐私保护技术北京市重点实验室副主任。主要研究可信智能，隐私计算和区块链安全等。主持国家重点研发计划“城市智能系统可信任机理与关键技术”课题，以及国家自然科学基金等项目20余项。在TDSC，TIFS，TMC，Ubicomp等期刊和会议上发表论文100余篇，入选爱思唯尔(Elsevier)2020年 “中国高被引学者” 。2009和2010年连续两年获欧洲ERCIM“Alain Bensoussan”研究学者支持(ERCIM Fellowship)。2018年获省部级科技进步二等奖；2020年获教育部科技进步二等奖。目前担任期刊Computers & Security编委，期刊Frontiers of Computer Science青年AE和《网络空间安全》期刊编委。

张彦

挪威奥斯陆大学

CCF高级会员，CCF区块链专委会委员，CCF杰出演讲者。挪威奥斯陆大学信息工程学院教授，IEEE Fellow，IET Fellow。入选欧洲科学院院士，挪威皇家科学院院士，挪威工程院院士，2018-2020连续三年全球“高被引科学家”，2021/2020年Guide2Research TOP 1000计算机科学和电子领域全球顶尖科学家榜单。分别于新加坡南洋理工大学、北京航空航天大学和南京邮电大学获博士、硕士和学士学位。近期主要研究方向为新一代无线通信网络和智能安全物联网。现任IEEE绿色通信与计算技术委员会主席，IEEE通信学会杰出讲师, IEEE车载技术学会杰出讲师，IEEE车载技术学会Fellowship and Scholarship评选委员会委员。现任11个IEEE Transactions/Magazine期刊编委，包括IEEE Network Magazine; IEEE Communications Surveys & Tutorials；IEEE Transactions on Industrial Informatics; IEEE Transactions on Vehicular Technology; IEEE Transactions on Sustainable Computing; IEEE Transactions on Green Communications and Networking; IEEE Transactions on Networks Science and Engineering；IEEE Internet of Things Journal；IEEE Systems Journal; IEEE Vehicular Technology Magazine；以及IEEE Blockchain Technical Briefs。并现任或曾任国内多个核心期刊编委，包括中国通信，计算机科学，通信与信息网络学报，物联网学报, 及数字通信与网络。

张彦

挪威奥斯陆大学信息工程学院教授，IEEE Fellow，欧洲科学院院士，CCF区块链专委会委员

报告题目：区块链融合数字孪生：研究前沿与展望

报告摘要：报告首先介绍区块链与数字孪生的关键技术概念及未来智能物联网系统发展所面临的新挑战。然后介绍课题组将区块链作为可信基础设施与数字孪生相融合所做出的前沿研究工作——面向数字孪生边缘网络（DITEN: Digital Twin Edge Networks）、6G、车联网、及工业物联网等典型场景的区块链融合数字孪生技术。最后，将对区块链和数字孪生融合的研究方向作出展望。

讲者简介：张彦，挪威奥斯陆大学信息工程学院教授，IEEE Fellow, IET Fellow。入选欧洲科学院院士，挪威皇家科学院院士，挪威工程院院士，2018-2020连续三年全球“高被引科学家”，2021/2020年Guide2Research TOP 1000计算机科学和电子领域全球顶尖科学家榜单。分别于新加坡南洋理工大学、北京航空航天大学和南京邮电大学获博士、硕士和学士学位。近期主要研究方向为新一代无线通信网络和智能安全物联网。现任IEEE绿色通信与计算技术委员会主席，IEEE通信学会杰出讲师, IEEE车载技术学会杰出讲师，IEEE车载技术学会Fellowship and Scholarship评选委员会委员。任CCF高级会员，CCF区块链专委会委员，并获评2019年CCF杰出演讲者。现任11个IEEE Transactions/Magazine期刊编委，包括IEEE Network Magazine; IEEE Communications Surveys & Tutorials；IEEE Transactions on Industrial Informatics; IEEE Transactions on Vehicular Technology; IEEE Transactions on Sustainable Computing; IEEE Transactions on Green Communications and Networking; IEEE Transactions on Networks Science and Engineering；IEEE Internet of Things Journal；IEEE Systems Journal; IEEE Vehicular Technology Magazine；以及IEEE Blockchain Technical Briefs。并现任或曾任国内多个核心期刊编委，包括中国通信，计算机科学，通信与信息网络学报，物联网学报, 及数字通信与网络。

陈恺

中科院信工所 研究员，CCF系统软件专委会常委

报告题目：人工智能安全对抗

报告摘要：人工智能技术的出现和广泛使用带来了前所未有的安全问题。本报告将围绕人工智能安全对抗展开，介绍人工智能对抗攻击、模型窃取等攻击手段，重点介绍针对攻击的防御措施——神经网络的手术刀，在神经元层次进行模型的修复；最后也将讲述模型的知识产权保护手段以及数据遗忘等隐私相关问题。

讲者简介：陈恺，中国科学院信息工程研究所研究员，中国科学院大学教授、博士生导师。信息安全国家重点实验室副主任，《信息安全学报》编辑部主任。2010年获中国科学院研究生院博士学位。中国计算机学会-系统软件专委会常委、人工智能学会-人工智能与安全专委会常委、中国保密协会-隐私保护专委会常委。主要研究领域包括系统安全、人工智能安全。在IEEE S&P、USENIX Security、ACM CCS、ICSE、ASE、TIFS、TDSC、TMC等发表论文100余篇；曾主持国家自然科学基金（重点项目）、国家重点研发项目课题等国家、部委课题40余项。RAID 2019大会副主席，S&P、USENIX Security、CCS等A类会议程序委员会成员。获得国家“万人计划”青年拔尖人才、北京市自然科学基金“杰出青年”基金、北京市智源青年科学家、北京市“科技新星”等资助。

沈超

西安交通大学 教授

报告题目：智能系统可信安全与测试

报告摘要：人工智能浪潮正在深刻赋能人类生产和生活的各个方面，基于“深度学习+大数据+高性能计算”的解决方案为许多复杂任务（例如无人驾驶、视觉处理等）提供了有效解决途径，在某些特定领域其能力已经接近甚至超越人类。然而在美好蓝图之下，智能系统本身及其在数据、模型和代码等方面的可信问题也逐渐暴露出来，智能系统的可信安全已经成为一个不容忽视的问题。本次报告将分析智能系统所面临的可信安全风险，并讨论智能系统的可信安全与测试修复。

讲者简介：沈超，西安交通大学电子与信息学部教授、博士生导师，网络空间安全学院副院长，国家优秀青年科学基金获得者、阿里巴巴达摩院青橙奖获得者、麻省理工科技评论MIT TR35 China入选者、教育部霍英东青年教师一等奖获得者。目前主要从事可信人工智能、智能系统控制和与安全、智能软件安全与测试、电力系统安全的研究工作。承担国家自然科学基金、国家重点研发计划课题、863计划课题等部委与企业项目30余项。研究成果发表人工智能、网络安全、软件工程、控制工程领域顶级国际期刊和会议论文80余篇，获得IJCAI-DCM等8次国内外学术会议最佳/优秀论文的奖励，7篇论文入选ESI高被引论文，授权与申请国内外专利30余项，获省部级科学技术奖一等奖1项、二等奖2项，主持研制了多个重要系统并应用于多个大型企事业单位。担任IEEE Trans. Dependable Secure Computing等9个国际期刊的副编辑或编委、以及ACM CCS、NDSS等20余个国内外学术会议的组织委员会成员或程序委员会成员。

纪守领

浙江大学 教授，CCF YOCSEF杭州主席，CCF区块链专委委员

报告题目：安全可信的人工智能：模型后门攻防

报告摘要：随着计算技术的飞速发展，深度学习被广泛应用于众多智能系统中。然而，应用繁荣的同时，深度学习系统安全性也遭受对抗样例、后门攻击等层出不穷的威胁。本次报告将围绕人工智能可信安全技术，重点探讨卷积神经网络、图神经网络、自然语言预处理模型等深度学习系统的后门攻防方法。

讲者简介：纪守领，浙江大学“百人计划”研究员、博士生导师、浙江大学滨江研究院国产信创研究中心副主任，获佐治亚理工学院电子与计算机工程博士学位、佐治亚州立大学计算机科学博士学位，入选国家和省部级人才计划。主要研究方向为人工智能与安全、数据驱动安全、软件与系统安全和大数据分析，发表论文100余篇，包括IEEE S&P, USENIX Security, ACM CCS等CCF A类论文80余篇，研制的多个系统在大型平台上获得部署应用。获国家优秀留学生奖、8项最佳论文奖、浙江大学先进工作者等奖项。

边凯归

北京大学 副教授

报告题目：融合移动与视觉感知的智能可信认证

报告摘要：自从智能手机问世以来，移动设备有两次主要的性能提升，第一次是传感器的丰富提升了移动感知能力，第二次是算力的提升使得移动设备得以借助人工智能算法特别是计算机视觉模型对目标事物进行感知与识别。然而，移动与视觉感知能力的提升都对可信认证系统安全性提出了挑战。首先，通过收集传感器数据可以对密码系统发起旁路攻击猜测用户身份信息，其次通过分析移动摄像头捕获的视频内容可以识别用户认证信息输入。为了解决以上问题，研究者们在设计可信认证系统时，需要融合移动与视觉感知融合技术，才能在移动和智能时代更好排除认证漏洞。同时，针对移动/视觉感知与认证系统结合的可信性、可用性、使用成本等限制条件进行分析，为未来实际应用提供技术参考。

讲者简介：边凯归，北京大学网络信息系统研究所副所长、副教授，入选国家高层次人才计划，北京智源青年科学家，杭州钱江特聘专家。研究兴趣为物联网，可信智能与网络安全。获计算机网络领域5个学术会议最佳论文奖，教育部高等学校自然科学一等奖，IEEE国际通信学会亚太地区杰出青年研究者奖，IEEE海因里希-赫兹奖（最佳通信快报奖），IEEE国际通信学会杰出讲者（智能物联网、边缘计算）。主持国家重点研发计划课题、国家自然基金等项目，担任2个SCI期刊编委。