产业共话：大规模预训练的商业应用及技术发展方向 | CNCC2021

李世鹏

深圳人工智能与机器人研究院

主题报告1：连接认知科学与认知智能：新人工智能发展之路？

人工智能发展迅猛，各种新技术日新月异，同时也出现一些瓶颈。让我们暂停一下步伐，看看认知科学的发展，对认知智能的发展有没有启示？认知科学的很多发现，可以在认知智能的研究中起到指导作用，以大规模的模型，以及大规模在人的认知过程中采集的真实数据，也许可以更准确地模拟人的认知过程。“像婴儿一样开始，像孩子一样学习”，也许是一条可行的新人工智能发展之路？大规模预训练模型可能仅仅是一个新的时代的开始。

邹月娴

北京大学

主题报告2：预训练模型在视觉理解上的应用与发展

视觉理解是计算机视觉领域的前沿研究热点，涉及视觉场景的感知与认知，涵盖图像分类、目标检测、行为识别、时序动作定位(TAL)等单模态任务，也包括视觉描述(VC)和语言查询视频定位(VG)等跨模态任务。随着深度学习的快速发展，基于大规模标注数据的视觉预训练模型、视觉-语言预训练模型、语言预训练模型助力多个下游任务取得了SOTA的性能。然而现有预训练任务通常与下游任务存在较大的语义鸿沟，并非在所有下游任务上可以获得性能增益。本次讲座将首先介绍视觉理解任务研究现状，预训练模型方法演进及其在视觉理解任务上的应用，最后分享细粒度跨模态预训练方法及其在视觉定位上的最新研究成果。

郑冶枫

腾讯天衍实验室

主题报告4：预训练模型在医学影像分析上的应用

由于隐私和监管问题，医学影像的获得特别困难。同时医学影像的标注经常需要医学专业知识，只有专家才能准确标注。这些都导致有标注的医学影像数据极其稀少。预训练是解决标注样本稀缺的有效手段，然而由于自然图像与医学影像的差异，在自然图像上预训练好的模型迁移到医学影像上效果往往参差不齐。同时很多医学成像模态是3维的（比如CT和核磁共振成像），业界更加缺乏预训练好的3维影像分析模型。本次讲座将介绍我们近期在医学影像预训练上的一些工作，比如，Med3D项目采取积少成多的方法，将业界的多个公开3维医学影像数据聚拢起来，联合预训练一个多模态、多器官的模型；我们也提出魔方变换的自监督学习算法，预训练时只需要3维医学影像而不需要任何标签；最后将介绍一种基于对比学习和Transformer架构的预训练方法。

孙宇

百度

主题报告5：百度文心ERNIE预训练技术与平台

近年来，预训练语言模型在自然语言处理领域发展迅速，并获得广泛应用。2019年，百度率先提出了基于知识增强预训练技术ERNIE，取得世界级突破。2020年，ERNIE又在语言生成、跨模态理解、多语言理解等方向取得突破，先后提出了ERNIE-GEN、ERNIE-VIL、ERNIE-M等模型，取得几十项SOTA，登顶十余项世界权威评测榜首。2021年，百度发布知识增强大模型ERNIE3.0，刷新50余个中文NLP基准，并登顶SuperGLUE榜首。ERNIE广泛应用于搜索引擎、金融风控、智能客服等产品，覆盖金融、通信、教育、互联网等行业。本次报告主要包含百度文心ERNIE预训练技术的最新进展、应用情况以及未来发展方向。

王磊

平安科技

主题报告6：大规模预训练模型在金融领域应用中面临的主要问题与应对技术探索

大规模预训练模型在最近几年获得了蓬勃发展，其在各行各业的应用也逐渐普遍起来。在金融领域应用这些大规模预训练模型解决场景问题给我们带来了很多便利，但也面临一些问题。其中两个问题尤其值得关注：一是大规模预训练模型基于大语料训练，其在解决金融领域问题时不可避免的会引入过多背景信息，这些信息的存在可能在我们建立领域文本认知模型时引入了噪音；二是基于大规模预训练模型建立的各类NLP模型，其性能确有提升，但金融领域天然容错性低，目前不少模型的结果需要人工核对后才可使用，这阻碍了实际的商业应用。如何解决这些问题是值得思考的，为抛砖引玉，针对上述两个问题我们将分别介绍语义空间分解及置信度评估两类技术探索。

陈杰

北京大学副教授，围绕计算机视觉和医学图像分析展开研究，发表期刊和会议论文约100余篇，代表论文包括国际顶级刊物TPAMI，IJCV，TSMC，TIP，TNNLS以及国际顶级会议CVPR，ICCV，NeurIPS等。Google Scholar 引用4700余次，单篇文章的最高引用达到了1100次，次高引用900余次。近五年先后获国家自然科学基金项目3项，主持广东重点项目1项，广东应急项目1项，作为课题负责人主持工信部5G+医疗健康应用试点项目。获国家科技进步二等奖两次（2005，2015）。担任国际顶级期刊TPAMI和IJCV的客座编辑、TVCJ的编委、国际顶级会议的研讨会共同主席，例如（ICCV，CVPR，ECCV和ACM MM）。

宋彦

宋彦教授现为香港中文大学（深圳） 副教授。宋教授的研究方向包括自然语言处理、信息检索和抽取、文本表征学习等。其著作多次被国际权威组织或会议收录，如国际计算语言学协会（ACL），美国人工智能协会（AAAI），自然语言处理的经验方法会议（EMNLP），国际人工智能联合会议（IJCAI）等等。

除学术论文著作颇丰外，宋教授还拥有丰富的实践经历。他于2010年在微软亚洲研究院担任访问研究员，参与构建了第一个大规模中文组合范畴语法树库和语法分析器；于2011至2012年担任华盛顿大学访问学者；后于2013至2017年加入微软人工智能研究中心，成为“微软小冰”项目的创始人之一；在2017到2019年间，他加入腾讯人工智能实验室，作为自然语言理解（NLU）团队首席研究员，领导构建了腾讯AI Lab大规模中文词向量数据集（包括800万中文词），该数据集成为2018年十大人工智能开源数据集。目前，宋教授正作为研究科学家，于深圳市大数据研究院进行医疗文本表征学习研究。

何径舟

何径舟，百度深圳研发中心自然语言处理部技术总监，螺旋桨 PaddleHelix 生物计算平台负责人。何径舟毕业于北京大学计算机系，有 10 年以上人工智能技术研发和管理经验，主要研究领域包括自然语言处理、机器学习、生物计算、智能机器人等。何径舟深度参与了知识增强的语义理解技术与平台文心ERNIE、大规模隐变量对话模型 PLATO 、飞桨图学习框架 PGL 、飞桨强化学习框架 PARL 、生物计算平台螺旋桨 PaddleHelix 、小度机器人等代表性工作，带领团队夺得十余项国际比赛和权威榜单冠军，4 次斩获百度最高奖。何径舟是 200 余项 AI 专利发明人，曾获中国专利优秀奖，受聘中国专利审查技术专家。何径舟也是中国人工智能学会（CAAI）会员，香港人工智能与机器人学会（HKSAIR）会员，中文信息学会（CIPS）青年工作委员会委员。

陈小军

陈小军，深圳大学计算机与软件学院副教授，大数据技术与应用研究所助理所长，CCF YOCSEF深圳AC委员，2020年度主席。曾参与过多项国家863项目以及中国科学院战略性先导科技专项。领导开发开源数据挖掘平台AlphaMiner v1.1-v2.5版本，在国内外多所学校做教学软件使用。2010年开始，领导开发AlphaMiner云计算版本，并在2010及2011年深圳中国国际高新技术成果交易会予以展示。曾参与中科院战略先导专项开发了基于互联网的云计算大数据挖掘平台。从事数据挖掘、机器学习研究十余年，在相关的国际学术期刊和会议上发表SCI/EI检索论文近50篇，包括CCF A 类/一区论文20余篇（发表在KDD、ICCV、IJCAI、AAAI、SIGIR、TKDE，TNNLS上），CCF B/C类论文十余篇。主要研究内容涉及聚类算法、特征选择算法、有监督及半监督学习算法、基因数据聚类分析及图像分析等。

张彤

张彤，鹏城实验室助理研究员，CCF女工委委员，CCF YOCSEF深圳AC委员，深圳市女科技工作者协会副会长，深圳市海外高层次人才，国家优秀自费留学生奖学金获得者，博士毕业于澳大利亚悉尼大学，2015-2019在英国伦敦大学国王学院从事博士后研究工作。主要研究方向为多模态多维度医学影像分析，受邀担任多个顶级期刊及会议的审稿人，多次受邀在国内外学术会议上给主题/邀请报告，谷歌学术引用1300余次。