人工智能是数字经济发展的核心动力,人工智能芯片是人工智能时代的技术核心之一。2021年,国家“十四五”规划纲要和2035年远景目标纲要指出,我国新一代人工智能产业将聚焦高端芯片等关键领域,这从国家战略的高度肯定了人工智能芯片行业的重要性。人工智能芯片目前也已成为科技、产业和社会关注的焦点,学术界从各种不同的技术路线对人工智能芯片性能的提升进行探索,世界各国也涌现出了诸多各有侧重点的人工智能芯片公司,从算法、架构和软硬件协同等不同的维度去实现高性能的计算。针对人工智能芯片热潮,中国计算机学会(CCF)青年计算机科技论坛(YOCSEF)广州分论坛学术委员会于2022年12月3日以线上视频会议的形式举办了YOCSEF大湾区IT创新论坛——“人工智能芯片的机遇与挑战”观点论坛,共论我国AI芯片发展现状与未来之路,探讨粤港澳大湾区在其中的定位与机遇。
图1 论坛背景
此次论坛由YOCSEF广州AC委员姚恩义(华南理工大学)和YOCSEF广州副主席曾衍瀚(广州大学)共同担任执行主席,YOCSEF广州AC委员吴国凯担任线上微论坛主席, YOCSEF广州学术委员会、华南理工大学微电子学院和广州大学电子与通信工程学院共同承办,荔峰科技(广州)有限公司提供赞助支持。YOCSEF广州主席黄栋(华南农业大学),YOCSEF广州学术秘书蓝连涛(华南农业大学)、姜思羽(广东外语外贸大学),YOCSEF广州AC委员刘同来(仲恺农业工程学院),以及来自全国多所高校及企事业单位共200多人线上参加了此次论坛。
论坛首先由华南理工大学微电子学院、集成电路学院院长薛泉教授代表承办单位致辞。薛教授对与会嘉宾表示热烈欢迎,指出本次论坛围绕人工智能芯片的未来发展进行研讨,对于促进学术交流,加强智能芯片产业化,推动我国人工智能和芯片事业具有重要的意义,并预祝论坛取得圆满成功。
随后,论坛进入引导报告环节。本次论坛邀请了国防科技大学计算机学院马胜教授、南京大学电子科学与工程学院林军副教授和深圳市九天睿芯科技有限公司刘洪杰博士作为引导报告嘉宾。
马胜教授以“面向新型卷积神经网络的脉动阵列设计”为题,阐述了该研究领域最新面临的问题:紧凑型卷积神经网络中的小尺寸卷积和深度卷积会导致脉动阵列中的PE利用率下降,严重影响了加速器的性能和能效。针对上述挑战,马胜教授所在课题组提出了可配置多向脉动阵列和异构脉动阵列设计,利用多向传输结构实现了对阵列的非对称切分,提升了小尺寸卷积的计算性能;设计了异构PE结构,支持计算过程在传统数据流和单通道输出固定数据流之间切换,实现了对深度卷积的高效支持。
林军副教授以“高效人工智能推理与训练加速器设计”为题,介绍了如何通过剔除冗余来达到更高计算效率的方法。林军副教授首先介绍神经网络内在冗余的分类,分析其对硬件性能的影响,并在此基础之上,讲述如何利用权重和激活的稀疏性来进行针对性的推理和训练加速器设计及相关实验结果,最后讨论目前随机稀疏计算面临的一些挑战和机遇。
刘洪杰博士以“存内计算和存内计算的工业化之路”为题,介绍了基于存算一体和模拟计算的新型人工智能芯片产品特点及开发经验。据悉,其领导开发的第一代超低功耗语音及其它时间序列传感器处理芯片ADA100(合封智能麦产品)已实现量产,销售过百万片。第二代超低功耗视觉协处理器ADA2X0(支持处理Vslam、手势、眼动追踪、事件相机信号处理等)的融合视觉时空存算一体测试片已点亮demo,预计2023年中量产。
图2 国防科技大学马胜教授作引导报告
图3 南京大学林军副教授作引导报告
图4 深圳市九天睿芯科技有限公司刘洪杰博士作引导报告
在引导报告之后,论坛进入思辨环节。与会嘉宾围绕“AI芯片是人工智能发展后的水到渠成,还是仅仅是资本热?”、“各种不同种类的AI芯片层出不穷,是技术百花开,还是应用不明确?”以及“构建国内AI芯片完整产业链和生态圈,关键在何处?”等议题展开观点思辩,论坛邀请了西安电子科技大学王领副教授、中科院深圳先进技术研究院杨永魁博士、南方科技大学毛伟副教授担任思辨特邀嘉宾。
思辨议题一:AI芯片是人工智能发展后的水到渠成,还是仅仅是资本热?
针对此议题,西安电子科技大学的王领副教授认为,人工智能为芯片提供了发展的空间,继而引来资本投入,双方属于相辅相成。一种新类型芯片的出现不是增加成本,而是在降低成本。在面对芯片制造成本难题,考虑到常规CPU和GPU的性能有很大局限性,AI芯片的出现可以在人工智能方面促成性能的进一步提升,并使电子产品总成本降低。
YOCSEF广州AC委员、仲恺农业工程学院刘同来副教授指出,人工智能在很早之前已出现,但在近几年迅速发展,有国家政策的支持和资本的投入,这也是人工智能芯片水到渠成的条件。人工智能的技术发展已经到了一定深度,为此提供服务的AI芯片发展应属于水到渠成。
YOCSEF广州副主席、广州大学曾衍瀚副教授认为,丰富的数据资源、深度学习算法和充足的计算力支持,这三大活水支撑了人工智能的水到渠成,人工智能在语音识别和计算机视觉里的大规模应用吸引了所谓的资本热,但受制于摩尔定律的放缓,算力的活水是否能达到资本的预期,有待商榷。
YOCSEF广州学术秘书、华南农业大学的蓝连涛副教授表示,目前AI芯片还不到水到渠成的状态,属于初见端倪的阶段。AI芯片的前景是非常好的,资本大量投入,但是技术方面的突破度还有待提高。资本热可能是国家政策的导向,真正的资本热还没有达到。
论及AI芯片的独特优势,中科院深圳先进技术研究院杨永魁博士认为,AI芯片在特定方面有比较大的优势,但在灵活性等方面的优势可能会减弱。AI芯片在目前的通用视觉处理能够超越CPU、GPU,但是在偏时序性方面没有展示出优势。
南方科技大学毛伟副教授指出,在做浮点计算时,AI芯片优势不大,不具有GPU的高适配性。但是AI芯片的独特优势主要是在面对CNN等常见的神经网络运算需求时体现明显,可以实现低功耗、高识别等性能需求。
西安电子科技大学的王领副教授表示,AI芯片的优势不仅仅在于计算,还在于存储。AI芯片的优势可以专业地关注到从数据输入到输出的整个过程,并且做出相应的性能优化,这是传统CPU、GPU等没办法专门顾虑到的。
思辨议题二:各种不同种类的AI芯片层出不穷,是技术百花开,还是应用不明确?
针对此议题,中科院先进院的杨永魁博士表示,各种类型的AI芯片都是服务于人工智能,由于应用领域中计算范式的差别会导致AI芯片未达到最优能效,从而出现不同类型的AI芯片。
YOCSEF广州主席、华南农业大学黄栋副教授认为,AI算法百花齐放,AI算法的发展对AI芯片的要求也越来越高,这是使得AI芯片层出不穷的一大原因。在现实场景的真实应用方面,由于AI领域的落地研究和理论研究之间仍存在一定落差,这也使得AI芯片在实际场景应用中也存在一些不明确性。
西安电子科技大学王领副教授指出,应用场景太多,解决方法太多,导致AI芯片应用会产生一定的不明确。此外,对于同一个问题,AI算法对其进行解决的技术思路不同,对应使用的AI芯片自然也会不明确。
九天睿芯刘洪杰博士认为,场景与应用到处都有,技术的融合并不是某一种技术能完全胜出,AI芯片应看为其中的一个部分而不是主导。
论及AI芯片的未来趋势,九天睿芯赵兴华进一步表示,技术的百花齐放是必要的,是博弈和融合的过程,更需要关注的是所有技术在落地时是否能解决现实的痛点,通过应用场景的历练,提高技术的精准性。对于AI芯片通用性问题,未来是有可能解决的。
西安电子科技大学徐长卿博士指出,CPU或者GPU运算会得到确定的结果,未来的AI芯片可能有能力做出不确定的预测,从而具有创造性。目前所论是高算力、低能耗方面,未来则可能进一步具有创造性。高效率、低能耗是当前关注,但是面对AI芯片,我们需要有颠覆性的需求,不能将AI芯片的未来局限在特定的功能上,更应该关注不确定的应用场景,让AI芯片更具有创造性。
西安电子科技大学王领副教授认为,“通用”是否真的是我们的需求?目前AI的计算能力已经超过了人类,但我们依然能不断地将AI算法进行改进和优化。也许我们更加需要它的特殊性及专业性,而不是通用性。
YOCSEF广州主席、华南农业大学黄栋副教授表示,AI具有工具的属性,应该让它来辅助我们将某些领域做得更好,而不一定必须成为类似我们一样的人类。技术百花开是有必要的。站在当下,或无法判断哪一种AI芯片才是最有前景的路径,技术百花开则可为不断的技术发展提供持续的动力。
广州大学胡勇军博士指出, AI芯片应从定位和特点上找到发力点,在特定领域发挥更大的作用,在应用的角度推动AI的发展。
思辨议题三:构建国内AI芯片完整产业链和生态圈,关键在何处?
西安电子科技大学王领副教授认为,现在的A I芯片设计者主要是针对特定的场景进行设计,未来希望能出现适用于不同的场景的、为AI芯片提供规范性的指令规范。
南方科技大学毛伟老师指出,从行业发展来看,AI芯片发挥了很大的基础性作用。AI芯片的生态化需求很大,各类不同的AI芯片协同工作是有一定困难的,当构建统一的测试方案。AI芯片标准化和规范化应是未来的趋势。
YOCSEF广州副主席、广州大学曾衍瀚副教授表示,要打造AI芯片的产业链,需要有重点地推进。我们要从自己优势出发——中国具有全世界最大的市场,培育本领域的巨头。在产业牵头的生态链中,打破国外的垄断。
九天睿芯赵兴华工程师以智能汽车为例,表示AI芯片落地场景已经很多。要形成真正的产业链,需要技术提升的专注性及产业化。产业链的建立需要过程,要有试错和落地的勇气和能力。企业需要专注,学术需要分享,大家要联合起来,加强协同,并且能够敢于落地。
对于粤港澳大湾区在AI芯片发展中的定位与机遇,中科院先进院杨永魁博士指出,广东不少芯片公司的核心技术部门是在外地。目前大湾区对AI芯片的扶持很大,但是仍需要时间和人才等方面的积累。
华南理工大学微电子学院研究生汪祥瑞认为,大湾区对于AI芯片产业发展的优势主要存在地理优势,但是人才培养和产业链的建立仍不完善,需要高校人才培养方面的助力。
YOCSEF广州副主席、广州大学曾衍瀚副教授认为,弯道超车不如脚踏实地去补足短板。要正视当前的劣势,针对问题进行相应的人才、产业链等方面的投入与发力。
此次论坛历时近四个小时,论坛执行主席、华南理工大学微电子学院副教授姚恩义对此次论坛进行了总结。此次论坛围绕AI芯片的发展现状、技术趋势、未来路径、大湾区在其中的定位等问题进行了深入思辨。最后,论坛在一片热烈的讨论氛围中圆满结束。
图5 与会嘉宾在线热议