人工智能软件系统的质量保障丨CNCC技术论坛

北京大学教授， 973项目首席科学家。任北京大学高可信软件技术教育部重点实验室常务副主任，国务院学位委员会学科评议组成员（软件工程），中国计算机学会会士与常务理事，中国计算机学会系统软件专业委员会主任，任IEEE TSE/TR 编委，Empirical Software Engineering编委，《软件学报》执行主编，《计算机学报》副主编。主要研究领域包括：软件需求工程、知识工程、和基于知识的软件工程等，出版英文专著3部，中文编著1部，发表论文150余篇。2006年获得国家杰出青年科学基金资助。

博士，南京大学计算机科学与技术系教授、南京大学计算机软件研究所副所长。长期从事面向开放环境的软件技术研究，近期尤其关注软件自适应、智能化软件系统的质量保障等方向。作为负责人承担了国家973、863项目课题、自然科学基金重大项目课题等多项重要科研项目，在包括IEEE TSE、TC、《中国科学》和ICSE、FSE、ASE等在内的重要学术期刊和会议发表论文百余篇，曾两次获得国家科技进步二等奖（分别为第2、第4完成人），入选教育部新世纪优秀人才支持计划、获中创软件人才奖等荣誉。

报告一 可验证的机器学习

报告摘要：复杂软件和系统越来越多地引入基于机器学习的学习赋能构件。这是人们认识和驾驭系统复杂性的途径，也是应对环境不确定性、动态性和开放性的必然。同时机器学习固有的不确定性也颠覆着当前软件工程和系统设计方法与技术，智能软件的可靠安全成为了系统的新瓶颈。本报告将从深度神经网络、深度学习算法、学习赋能构件与系统集成三个层面，探讨基于形式化方法抽象和推理深度神经网络的可能途径，期望有助于形成可验证的机器学习理论和技术、学习赋能构件的合约设计和系统集成方法，支撑智能软件系统的可靠、安全设计与保证。

报告人简介：王戟，国防科技大学计算机学院研究员国家杰出青年基金获得者，教育部长江学者特聘教授。中国计算机学会杰出会员、理事，中国计算机学会形式化方法专业委员会主任。主要从事可信软件、智能软件、新型软件技术和系统的研究。

报告二 可信AI的挑战及SE4AI的初步研究思路

报告摘要：随着大数据、深度学习的快速发展，AI已大量应用于各种产品，同时也带来了很多风险，包括安全、可靠、公平性、伦理等挑战，如何开发出可信的AI，是当前学术界和工业界面临的挑战。另外从开发人员视角来看，AI软件开发和传统软件有很大不同。传统软件是分析需求、通过编程得到程序，对结果能进行有效测试，而AI软件开发，通常是分析需求，收集数据，开发合适模型/算法进行训练，得到的训练好模型程序。二者开发方式的巨大差别，也导致开发过程、质量保证方法与技术都有很大的差别。本报告将从产业界的视角阐述AI质量保证的挑战，并对SE4AI研究方向及需求给出初步思考。

报告人简介：王伟，华为TTE LAB CTO 21年大型软件平台及软件系统领域工作经验的技术开发、架构设计与技术管理经验，先后担任平台架构师、平台产品经理、开发部管理部部长、海外研究所所长、技术战略规划等职位，是软件第一代/第二代平台构建的主要参与者，有丰富的大规模团队（3000+）研发管理、软件工程能力建设经验，在大数据、AI、媒体、物联网、可信技术等领域的趋势和产品落地方面有深入理解。

报告三 无人驾驶事故分析

报告摘要：Autonomous driving attracts lots of attention in recent years. Both startups and OEMs are rushed to commercialize autonomous driving techniques. The current consensus of the community is to realize "eyes off" for consumer vehicles, i.e., Level 3. One big issue for commercializing autonomous driving is safety. In this talk, safety issue will be discussed from technical perspectives with a few well-known accidences.

报告人简介：中山大学数据科学与计算机学院教授,无人系统研究所所长、博士生导师。1999年复旦大学本科，2005年荷兰莱顿大学硕士，2010年瑞士苏黎世理工大学博士。2011-2012年，在德国fortiss研究所担任研究组长，2012-2015年在德国慕尼黑工业大学担任高级研究员。研究方向为嵌入式/CPS系统及类脑计算的基础理论及其工业应用。工业领域涉及无人驾驶，医疗器械，仿生机器人。他曾于2014年入选青年海外高层次人才引进计划, 2010年国家优秀自费留生，及多项最佳论文/提名。作为项目负责人承担广东省重点研发，广州市深圳市重点研发，自然科学基金等项目。他任Elsevier期刊Circuits, Systems, and Computers编辑，IET Cyber-Systems and Robotics副编辑，《Engineering》青年编辑，CCF“智能机器人”副秘书长，CCF“嵌入式系统”专业委员会委员，自动化学会“机器人智能”，“车辆控制与智能化”专业委员会委员。曾指导学生获第四届互联网+大学生创新创业大赛国家铜奖，第十一届“挑战杯”大学生创业计划竞赛国家银奖。

报告四 检测神经网络体系结构中的数值计算缺陷

报告摘要：现有神经网络缺陷检测技术主要关注训练好的神经网络模型。与之相比，检测神经网络体系结构（如TensorFlow程序）中的缺陷可以提供很多额外好处：1. 体系结构发行商需要提供质量保障；2. 避免缺陷在多个模型中反复出现和重复检测；3. 避免训练中出现的缺陷；4. 体系结构上的缺陷不涉及训练数据，更容易定位和修复。在本报告中，我汇报我们基于抽象解释建立的首个神经网络体系结构静态分析方法，用于检测神经网络上的一类常见缺陷——数值计算缺陷。

报告人简介：熊英飞于2009年从日本东京大学获得博士学位，2009-2011年在加拿大滑铁卢大学工作，2012年加入北京大学，现任新体制长聘副教授。熊英飞的研究兴趣是程序设计语言和软件工程，特别是程序分析、综合和修复。他提出了理论和方法降低程序编写和缺陷修复的代价。比如，基于差别的双向变换框架是最广泛使用的双向变换框架之一，ACS将程序修复技术在公共数据集上的正确率从此前不到40%提升到70%以上。他的工作也被工业界采用，比如新一代Linux内核配置项目、燕云DaaS系统、华为公司等。他是SATE18的程序委员会联合主席，也在ICSE、FSE、ASE、ISSTA等会议担任PC。

报告五 人工智能安全攻防对抗

报告摘要：近年来出现的人工智能技术对攻防对抗产生了重要影响。一方面它可辅助传统攻防手段，使其智能化与高效化；另一方面，其自身的安全问题，如对抗样本、神经网络后门等，也时刻威胁着自动驾驶、面部识别支付等多种应用。这次报告将就这两方面展开，包括自然语言理解与深度学习等人工智能技术在传统攻防中的应用，也将会对自动驾驶目标识别系统以及语音识别系统等进行智能化对抗。

报告人简介：陈恺，男，博士。中国科学院信息工程研究所，研究员、博士生导师，中国科学院大学教授。信息安全国家重点实验室副主任，《信息安全学报》编辑部主任。中国计算机学会系统软件专委会常委。主要研究领域包括软件与系统安全、人工智能安全。在S&P、USENIX Security、CCS等高水平会议期刊发表论文100余篇；曾主持国家自然科学基金重点项目等40余项。入选国家“万人计划”青年拔尖人才、北京市“杰青”、北京市智源青年科学家等。

报告六 软件缺陷学习

报告摘要：软件是计算机系统的灵魂，软件的质量是计算机系统安全可靠运行的保障。随着智能化不断深入，实现人工智能的软件系统不断增加，如何能够保证智能化软件系统正确、可靠的运行，已成为软件研究者和软件开发人员所面临的巨大挑战。机器学习是人工智能领域的重要研究领域，是实现智能化的重要途径。本报告将探讨如何基于机器学习技术来学习智能化软件的缺陷模式，从而有效识别智能化软件系统的潜在缺陷。

报告人简介：黎铭，博士生导师，人工智能学院副院长。国家优秀青年基金获得者、教育部新世纪人才。主要从事软件挖掘、机器学习方面的研究工作。在《IEEE Trans KDE》等国内外重要学术刊物和IJCAI、ICML 等重要国际会议发表论文三十余篇，被国际同行他引两千余次。曾作为主要成员获国家自然科学二等奖、教育部自然科学一等奖等。应邀担任《Frontiers of Computer Science》Associate Editor、《自动化学报》编委、国际软件挖掘系列研讨会Software Mining、PAKDD首届博士研讨会DSDM'11主席、国际会议IEEE ICDM的领域主席、IJCAI、AAAI的资深程序委员以及KDD、NIPS等多种一流国际会议程序委员；现任ACM数据挖掘中国分会执委、中国计算机学会人工智能与模式识别专委会委员、中国人工智能学会机器学习专委会常务委员等。