2021年12月22日，“CCF走进高校”活动来到了东北林业大学。本次报告很荣幸地邀请了北京大学崔斌教授、北京理工大学袁野教授、北京邮电大学马占宇教授、杜军平教授。活动由东北林业大学信息与计算机工程学院科研院长景维鹏教授主持。由于疫情防控要求，本次活动采取线上线下会议结合的方式，共吸引了线上线下总计334名观众。

报告人合影

线下会场

崔斌教授介绍了大规模分布式深度学习框架的发展现状，从功能性、复杂性和易用性等角度分析了深度学习框架面临的挑战和存在的问题，继而详细地介绍了新的分布式深度学习系统——河图。河图系统是由崔教授及其研究团队自主研制的，支持所有主流通信框架、并行模式、同步协议以及常见优化方案；支持统一分布式计算图中间表达，编译后适配多种通信算子；支持半自动以及自动并行模式，硬件自适应感知最优分布式部署方案。崔教授重点介绍了河图系统面向复杂模型和硬件环境的优化进展以及在自动化并行训练方面的探索，并在最后展望了河图系统的未来发展方向。

崔斌教授正在进行学术报告

  随着数字经济时代的到来，多源异构数据不断地飞速增长，给管理和分析这些海量大规模数据带来了全新的挑战。大数据联邦管理为应对这些挑战提供了新的思路。袁野教授结合实际应用案例从数据湖、跨域数据以及跨机构数据等方面介绍了大数据联邦管理的特点，分析了大数据联邦管理面临的问题，并提出了一套新的大数据联邦管理和分析框架。最后，袁教授总结并展望了大数据联邦管理的发展趋势和研究突破口。

袁野教授正在进行学术报告

作为深度学习的重要组成，深度神经网络存在着结构过于复杂、注意力等功能机制不明确以及观测数据不完备等问题，其优化方法的研究面临着挑战。马占宇教授聚焦基于概率模型表达的深度神经网络优化方法研究，针对传统分布的Dropout正则化会引入系统偏差、传统注意力机制的可解释性较弱以及观测数据的不完备导致的泛化能力不足等问题，提出了基于非高斯先验的深度神经网络正则化框架、基于非高斯先验的深度神经网络注意力机制和基于混合模型的输出特征不确定性估计方法等，有效的降低了网络复杂度、较好的解释了模型的注意力机制，并提升了预测结果的可信程度。最后，马教授也对未来的相关研究工作做了展望。

马占宇教授正在进行学术报告

   杜军平教授的汇报主题是面向智慧旅游的跨媒体大数据智能分析与处理的新应用。智慧旅游是借助于物联网、云计算、人工智能和大数据等技术，使旅游物理资源和信息资源高度系统化整合的全新旅游形态。杜教授首先介绍了面向智慧旅游的跨媒体大数据智能分析与处理技术的发展趋势，接着具体介绍了智慧旅游系统总体架构及信息感知、跨媒体旅游大数据的语义学习和内容识别、跨媒体旅游大数据挖掘、基于群智感知的游客行为与突发事件预测等方面的研究与论证工作，最后，展示了杜教授研究团队在智慧旅游方面取得的最新研究成果及应用情况。

杜军平教授正在进行学术报告

本次活动持续2个多小时，四位特邀讲者围绕深度学习、大数据分析与管理方面的前沿问题做了精彩的报告，内容深入浅出，语言生动有趣！这次活动为东北林业大学师生提供了一次近距离与学术大咖交流学习的机会，参会者纷纷表示通过本次报告会所获良多，进一步了解了大数据领域的前沿研究动态和创新成果，帮助大家开拓了学术视野。

听众感言

克劲松 学生 东北林业大学 研一

今天下午有幸参与第827场CCF走进高校活动，活动邀请到了北京大学崔斌、北京理工大学袁野、北京邮电大学马占宇、北京邮电大学杜军平四位国内人工智能大数据领域知名教授的线上学术报告，听后我收获颇丰。

崔斌教授介绍了面向超大模型的分布式深度学习框架——河图，河图是由崔斌教授带领的PKU-DAIR实验室自主研发的AI框架，相比现有的老牌分布式深度学习框架，在系统功能性、系统复杂性和系统易用性上有诸多创新贡献，如自动分布式并行策略、一致性协议和通信架构、GPU算子优化等方面。在报告上崔老师重点介绍了河图面向复杂模型和硬件环境的优化进展以及在自动化并行训练上的探索，最后总结了机器学习现阶段的进展与目前面临的问题。

袁野教授介绍了数据联邦技术的概念，阐述了数据联邦技术提供了一种为数据提供抽象的数据接口的能力，为我们介绍了隐私安全可控的数据联邦技术，然后又对目前国内外的数据管理分析现状进行了总结并对行业的未来进行了展望。

马占宇教授作了 “基于概率模型表达的深度神经网络优化”的报告。在报告中，马教授提出了基于非高斯先验的深度神经网络正则化框架、基于非高斯先验的深度神经网络注意力机制等对深度神经网络的优化方法，并展示了在各行业的应用结果来说明了优化的结果非常优秀，极大地增进了我对深度神经网络的认识和理解。

杜军平教授介绍了面向智慧旅游的跨媒体大数据智能分析与处理技术的发展趋势，以及她的研究团队在跨媒体旅游大数据的语义学习和内容识别、跨媒体旅游大数据挖掘、基于群智感知的游客行为与突发事件预测等方面取得的成果与应用，激发了我对智慧旅游相关研究的浓厚兴趣。

四位教授的讲解十分透彻，加深了我对人工智能、大数据领域研究的认识和理解，对我日后的研究学习有着很大的帮助，也为我们可能遇到的问题提供了更多的选择与解决方案。感谢CCF与学校提供的这次机会，希望以后能够得到更多这样的机会。

李彦芳 学生 东北林业大学 研一

今天下午，我参加了第827场CCF走进东北林业大学的活动，有幸聆听了北京大学崔斌、北京理工大学袁野、北京邮电大学马占宇、杜军平等四位教授的学术报告，收获颇丰。

在报告会上，崔斌教授做了题为“河图：面向超大模型的分布式深度学习框架”的报告，崔教授介绍了河图的特性和设计理念，剖析了目前“大模型”发展情况，最后重点介绍了河图面向复杂模型和硬件环境的优化进展以及在自动化并行训练上的探索。袁野教授结合实际应用分析了大数据联邦的特点、以及大数据联邦管理与分析面临的研究挑战，介绍一套大数据联邦管理和分析框架，并展望大数据联邦管理的发展趋势。马占宇教授提出深度神经网络存在着结构过于复杂、注意力等功能机制不明确以及观测数据不完备等问题，介绍了他的团队在基于概率模型表达的深度神经网络优化方面的研究工作进展。杜军平教授作题为“面向智慧旅游的跨媒体大数据智能分析与处理”的报告，介绍面向智慧旅游的跨媒体大数据智能分析与处理技术的发展趋势，对智慧旅游系统总体架构及信息感知、跨媒体旅游大数据的语义学习和内容识别、跨媒体旅游大数据挖掘，以及基于群智感知的游客行为与突发事件预测等深入分析，并介绍团队在智慧旅游方面取得的最新研究成果。

四位专家的报告以“深度学习与大数据分析技术前沿”为探讨方向，多视角、多方位地展现了深度学习与大数据分析领域的研究魅力，极大地激发了我的科研兴趣，为我开拓课题研究思路提供了宝贵的经验，希望今后能有更多机会聆听专家们的报告。

廖辉 学生 东北林业大学 研一

本周三（2021年12月22日）下午，我院邀请四位国内知名专家做关于深度学习与大数据分析技术前沿的学术报告会，我有幸在线下会场参与了本次活动，收获多多。

崔教授介绍了他的课题组自主研发的面向超大模型的自动并行分布式深度学习框架——河图的特性和设计理念，剖析了“大模型”发展现状，重点介绍了河图面向复杂模型和硬件环境的优化进展以及在自动化并行训练上的探索。袁野教授以面向大数据联邦的管理与分析的主题，介绍了数字经济时代海量多源异构数据管理平台从传统数据库、数据仓库向数据中台、数据湖和跨域数据平台快速迭代。袁教授结合实际应用，介绍了在该迭代过程中，大规模数据管理与分析面临的挑战及解决思路与方案。马占宇教授提出作为深度学习的重要组成，深度神经网络存在着结构过于复杂、注意力等功能机制不明确以及观测数据不完备等问题。为此，马教授团队从深度神经网络正则化框架、深度神经网络注意力机制以及输出特征不确定性估计方法三个方面对深度神经网络模型进行优化。本次报告马教授对前两个问题进行了详细的讲解。其中基于非高斯先验的深度神经网络正则化框架利用非高斯概率模型，更准确的描述Dropout掩膜分布，自适应的实现神经网络神经元的丢弃，其性能在不同的数据集上都得到了统计学上显著的提升。基于非高斯先验的深度神经网络注意力机制研究在深度神经网络注意力模块中引入非高斯概率模型，建立基于概率规则的深度神经网络注意力机制学习和推理方法，从统计学角度提高了可解释性和鲁棒性。最后，杜军平教授介绍了面向智慧旅游的跨媒体大数据智能分析与处理的新应用及其发展趋势，对智慧旅游系统总体架构及信息感知、跨媒体旅游大数据的语义学习和内容识别、跨媒体旅游大数据挖掘，以及基于群智感知的游客行为与突发事件预测等进行深入分析，并介绍团队在智慧旅游方面取得的最新研究成果。

四位教授结合自身求学及科研经历向大家传授了宝贵的治学经验，让与会的同学们对自己所学的专业知识以及对以后的职业规划有了更加清晰的认识，对所有师生来说都是一场极为难得的学习与交流经历。

苏玮琪 学生 东北林业大学 研二

今天我参加了CCF走进东北林业大学的学术报告会，报告会邀请了北京大学崔斌教授、北京理工大学袁野教授，北京邮电大学马占宇教授和杜军平教授。他们分别就各自领域的最新研究做了精彩的报告。

崔斌教授以“河图：面向超大模型的分布式深度学习框架”为题做报告，报告内容紧跟时代主题，以深度学习理论为基础，给我们展示了他的研究团队自主研发的河图系统的特性和设计理念，令我们大开眼界，最后给我们提供了河图的使用方法以及相关领域内的文章，让我们有机会可以亲身尝试领略“河图”的风采，相信有了这个工具，大大方便了我们对深度学习算法的而研究，这将会更加激发我们对深度学习的热情，期待能在该领域新的研究成就。

袁野教授以面向大数据联邦的管理与分析为主题，介绍大数据联邦的特点以及大数据联邦管理与分析带来的研究挑战，并分享了他的研究团队在大数据联邦管理和分析框架的研究成果，让我们了解到了大数据时代联邦学习的应用。

马占宇教授团队针对基于传统分布的Dropout正则化会引入系统偏差、传统注意力机制的可解释性较弱以及观测数据的不完备导致的泛化能力不足等问题，介绍了基于非高斯先验的深度神经网络正则化框架、基于非高斯先验的深度神经网络注意力机制和基于混合模型的输出特征不确定性估计方法等相关领域的最新研究成果，使我对深度神经网络优化产生了浓厚的兴趣。

杜军平教授介绍了面向智慧旅游的跨媒体大数据智能分析与处理的新应用。她通过不同的应用场景，向我们介绍的大数据时代人工智能方法在智慧旅游方面的多种应用案例，激发我们对大数据应用创新研究的兴趣。

通过四位教授的报告，让我们了解到了深度学习领域的前沿知识，各位教授对相关研究领域未来发展趋势的展望，为我们今后的科研道路指引了方向。希望今后学院多举办此类活动，提供更多机会和领域内高水平专家进行科研交流。