AI的可解释和可信 | CNCC2021

近年，人工智能技术发展迅猛，已经赋能诸多行业，提高社会效率，如，对医学影像的快速处理，辅助医生诊断，在新冠期间发挥重要作用等。然而，人工智能技术在可解释和可信等方面还存在较大的进步空间。如何从软件视角看AI赋能系统的可信性；因果启发的稳定学习理论和方法对解决不稳定、不可解释等问题存在哪些机遇和挑战；进化计算与群体智能行为主义算法具有行为可观察、可感知、可认识、可解释和可调控等优势，这类人工智能算法是否会弥补连接主义算法可解释性差的不足；更多借鉴脑的结构和功能的深度学习模型是否更具可解释性；如何设计更具鲁棒性的多模态聚类算法。本论坛通过以上视角探讨相关问题。

金芝

北京大学教授，CCF会士与常务理事，CCF系统软件专业委员会主任

金芝，北京大学教授，任北京大学高可信软件技术教育部重点实验室常务副主任，国务院学位委员会学科评议组成员（软件工程），CCF会士与常务理事，CCF系统软件专业委员会主任，任IEEE TSE/TR Association Editor，Empirical Software Engineering编委，《软件学报》执行主编，《计算机学报》副主编。曾获教育部科技进步一等奖、CCF科学技术奖技术发明一等奖等。主要研究领域包括：软件需求工程、知识工程、和基于知识的软件工程等，出版英文专著3部，中文编著1部，发表论文150余篇。2006年获得国家杰出青年科学基金资助。

题目：从软件视角看AI赋能系统的可信性

摘要：随着人工智能应用的不断拓展，其技术实施的风险与隐患逐渐显露出来，挑战着人们对人工智能的信任，引出可信人工智能的问题。本报告将阐述三个观点，第一，可信的问题需要站在系统的角度而不仅仅是站在技术的角度去讨论；第二，AI赋能系统的可信性是经典可信属性的延伸；第三，在软件系统的视角下，AI赋能系统需要在架构层提供可信保障。

崔鹏

清华大学计算机系长聘副教授，博士生导师

崔鹏，清华大学计算机系长聘副教授，博士生导师。研究兴趣聚焦于大数据驱动的因果推理和稳定预测、大规模网络表征学习等。在数据挖掘及人工智能领域顶级国际会议发表论文100余篇，先后5次获得顶级国际会议或期刊论文奖，并先后两次入选数据挖掘领域顶级国际会议KDD最佳论文专刊。担任IEEE TKDE、ACM TOMM、ACM TIST、IEEE TBD等国际顶级期刊编委。曾获得国家自然科学二等奖、教育部自然科学一等奖、电子学会自然科学一等奖、北京市科技进步一等奖、CCF青年科学家奖、国际计算机协会（ACM）杰出科学家。

题目：因果启发的稳定学习

摘要：近年来人工智能技术的发展，在诸多垂直领域取得了性能突破。但当我们将这些技术应用于医疗、司法、工业生产等风险敏感领域时，发现当前人工智能在稳定性、可解释性、公平性、可回溯性等“四性”方面存在严重缺陷。究其深层次原因，当前统计机器学习的基础——关联统计自身不稳定、不可解释、不公平、不可回溯可能是问题的根源。相对于关联统计，因果统计在保证“四性”方面具有更好的理论基础。但如何将因果统计融入机器学习框架，是一个开放并有挑战的基础性问题。本报告中，讲者将重点介绍将因果推理引入预测性问题所提出的稳定学习理论和方法，及其在解决OOD泛化问题方面的机会和挑战。

詹志辉

华南理工大学计算机科学与工程学院教授，博士生导师，CCF人工智能与模式识别专委会和协同计算专委会委员，CCF优秀博士学位论文奖获得者

詹志辉，博士，华南理工大学计算机科学与工程学院教授，博士生导师，IEEE计算智能学会杰出青年奖获得者、教育部青年长江学者、国家优青、爱思唯尔中国高被引学者、广东省首批青年珠江学者和广东省杰青。曾获首批吴文俊人工智能优秀青年奖、IEEE计算智能学会全球杰出博士学位论文奖和中国计算机学会（CCF）优秀博士学位论文奖。现任中国图学学会图学大数据专委会副主任、广州计算机学会副理事长、ACM广州分会副主席、中国人工智能学会青工委常委和中国自动化学会青工委委员，是CCF人工智能与模式识别专委会和协同计算专委会委员。主要研究领域包括人工智能、进化计算、深度学习和群体智能及其应用，担任进化计算领域顶尖国际学术期刊 IEEE Transactions on Evolutionary Computation(SCI，IF=11.554，JCR一区)的Associate Editor以及JCR一区国际学术期刊Neurocomputing和Memetic Computing的编委。近年来在进化计算与群体智能的自适应控制、全局化搜索、多种群协同、分布式处理和应用拓展等方面取得了一系列创新性的成果，针对大规模优化、动态优化、多峰值优化、多目标优化、约束优化和昂贵优化等复杂优化问题提出了多个新型进化计算与群体智能算法，并面向智慧城市和智慧医疗等领域开展应用研究。

题目：可感知与可调控的大规模群体智能优化算法

摘要：最优化和智能化是人类活动的核心追求，也是人工智能未来发展的必然趋势。随着物联网、云计算、大数据、5G等技术的发展，越来越多的最优化问题呈现出大规模、动态、多峰值、约束、多目标、计算昂贵等新的挑战，给优化算法带来了极大的困难。进化计算与群体智能是一类模拟自然界生物进化过程和群体动物智能行为的先进人工智能算法。进化计算与群体智能作为人工智能中行为主义的典型代表，不同于可解释性差的连接主义算法，是一种具有行为可观察、可感知、可认识、可解释和可调控等优势的动态人工智能算法，近年来被广泛应用于知识发现、搜索优化和问题求解，拓展人类智能。然而，传统群体进化计算方法在大规模复杂优化问题中仍然存在全局搜索能力不足、整体求解速度过慢等问题。因此，本报告对可感知与可调控的群体智能算法在求解大规模复杂优化问题中的研究进行介绍，包括我们近年来从分布式协同、自适应控制和并行化处理等思路对进化计算与群体智能算法进行状态感知和自动调控，从而提出的可以提高全局搜索能力和加快整体求解速度的多种高效大规模进化群智能优化算法。本报告介绍的高效能大规模优化方法将为求解现代超复杂优化问题提供重要途径，推动人工智能的新发展。

胡晓林

清华大学计算机系长聘副教授

胡晓林，清华大学计算机系长聘副教授。2007年在香港中文大学获得自动化与计算机辅助工程专业博士学位，然后在清华大学计算机系从事博士后研究，2009年留校任教至今。他的研究领域包括人工神经网络和计算神经科学，主要兴趣包括开发受脑启发的计算模型和揭示大脑处理视听觉信息的机制。在IEEE Transactions, PLoS Computational Biology等国际期刊和CVPR, NIPS, AAAI等国际会议上发表论文100余篇。他目前是IEEE Transactions on Image Processing和Cognitive Neurodynamics的编委，曾担任IEEE Transactions on Neural Networks and Learning Systems的编委。曾获教育部自然科学奖一等奖（排名第3）和吴文俊人工智能自然科学二等奖（排名第1）。

题目: 深度学习与神经科学的交互

摘要：几十年前深度学习受神经科学的启发而起源，但之后二者基本平行发展，少有交互。随着深度学习再次崛起，近年来二者在某些方面开始出现融合的迹象。一方面，通过借鉴更多的脑的结构和功能，人们提出了一些更有效的深度学习模型。另一方面，通过对深度学习模型的特点进行分析，人们加深了对脑的信息处理机制的理解。本报告将介绍本实验室近期在这两个方面的进展。

刘新旺

国防科技大学计算机学院教授，博士生导师

刘新旺，国防科技大学计算机学院教授，博士生导师。国家自然科学基金优秀青年基金获得者。主要研究兴趣包括核算法、多视图聚类算法、深度聚类等。发表IEEE Trans及CCF A类论文70余篇，包括IEEET-PAMI、IEEE T-KDE、IEEET-IP、ICML、NeurIPS、CVPR、ICCV、AAAI、IJCAI等。谷歌学术引用4300余次。担任AAAI 2020-2021、IJCAI2020-2021等国际人工智能顶级会议的资深程序委员会委员，以及Information Fusion的编委。主持科技部“新一代人工智能” 重大项目、国家自然科学基金面上项目、青年基金各一项，研究成果曾获湖南省自然科学一等奖。

题目：鲁棒多模态聚类算法最新进展

摘要：提出了矩阵范数正则化多模态聚类算法以降低冗余性和增强多样性；提出了缺失多模态分类、聚类算法以解决具有缺失模态的分类、聚类等学习问题；提出了噪声多模态分类、聚类算法以解决具有噪声模态的分类、聚类等学习问题。