CNCC资助参会 | 上海交大刘学渊参会心得

CNCC2023于10月26日在沈阳召开，今年是疫情后恢复线下参会的第一年，大会的规模是空前的，1.3万名参会者齐聚沈水之畔，共同探讨“发展数字基础设施，支撑数字中国建设”的解决方案和美好愿景。这是我第一次线下参加CNCC，通过这次会议，我开阔了眼界，增进了与同行之间的交流和学习，受益良多，故籍此机会记录并分享我的一点心得体会。

我是2021年初成为CCF学生会员的，而倘若论起开始接触CCF并参与其组织活动的时间，可能还要提早到2019年。此前我对CNCC早有耳闻，但囿于种种原因，始终未能参加，今年十分感谢CCF和交大计算机系提供的宝贵契机，使我有机会能更直观、便捷地了解行业的前沿动态，获得与业内专家学者和同行面对面交流的机会。我是一名研究计算机体系结构方向的博士研究生，从事神经网络加速器架构和GPGPU架构研究超过4年。在本届CNCC大会中，有不少和我研究方向强相关的分论坛，甚至也包括校内其他研究所老师做的报告，于我而言，是十分惊喜和难得的。3天会期内，我参加了多场论坛和报告，包括国产算力和软件如何支撑大模型系统、NVIDIA AI全栈技术解决方案、异构数据流计算系统、处理器设计自动化、AI计算论坛等，这些论坛内容相当充实，分别从大模型算力底座、支持大模型的架构设计、AI在处理器架构设计中的应用、软硬结合思想在架构设计中的体现和非冯诺依曼架构的探索等角度出发，立足于前沿技术和理论，为我们展现了最新的AI技术与处理器架构设计相结合的新思路。

实际上，近年来AI技术的飞跃式发展很大程度上推动了计算机系统架构的创新，不同模型、数据和算法对架构设计提出了不同的要求和挑战，当传统CPU无法高效应对大规模结构化数据时，GPGPU以其极高的并行处理能力解决了这个问题，而当非结构化数据出现，通用计算的性能和能效提升出现瓶颈时，AI加速器应运而生。目前，随着神经网络模型的规模越来越大，数据的分布愈发复杂，导致AI加速器也面临诸多挑战，包括：计算资源利用率低，数据搬移开销大，多节点传输效率低等问题，因此，算法-架构协同设计的重要性日益凸显，通过算法发现或构造出相对规则的数据以适应高度并行的硬件，抑或是发挥算法上的创新降低传输和计算量，从而提高神经网络在加速器上的执行性能；在大模型时代，新的瓶颈落在了数据传输上，目前学术界和工业界都在努力解决这个问题，并且已经出现了一些有价值的研究成果，这需要我们转变思维，以新的视角来看待和设计支持大模型的硬件架构，这与传统神经网络模型的设计是不相同的。从本届CNCC技术论坛的主题设置来看，大模型俨然成为新的热潮和趋势，无论是聚焦于学术研究还是服务于国家和社会的发展，大模型的创新和应用都至关重要。作为体系结构方向的研究者，我们应致力于设计提供更加强大和高效的算力底座，尽快提出和形成自主可控的硬件生态，助力上层算法和应用的发展。

本届大会给我带来的另一个收获是让我看到了国内其他同行的研究深度，明确了自己的工作和先进研究成果的差距。其实，震惊之余带给我的更多是一种紧迫感，在有限的时间内，在所剩不多的博士研究生涯中，如何进一步深挖研究的深度，做宽研究的厚度，把一个问题想到底、做到底，是我需要思考和解决的问题。

最后，再次感谢CCF提供的学习和交流机会，希望CCF能够举办更多更高质量的大型学术交流活动，一方面增进行业内的交流合作，另一方面创造跨领域融合的机遇。真诚希望CNCC越办越好，祝愿CCF在国内计算机事业发展中发挥更重要、更积极、更具影响力的作用。