返回首页
您的位置:首页 > 新闻 > CCF新闻 > CNCC

王田:1024,押大还是押小?这是个“大”模型问题 | CNCC专家谈

阅读量:29 2024-09-09 收藏本文




在即将于今年10月24-26日在浙江横店举办的CNCC2024上,138个技术论坛覆盖了人工智能、安全、AI+、网络、计算+、系统软件、教育、芯片等34个专业领域,推动不同领域的交叉融合,为各界专业人士提供了广泛的专业内容。包括国际知名学者、两院院士、产学研各界代表在内的800余位报告嘉宾将着力探讨计算技术与未来宏观发展趋势,为参会者提供深度的学术和产业交流机会,当中不乏在各领域深具影响力的重磅学者专家亲自担纲论坛主席。


本专题力邀CNCC2024技术论坛主席亲自撰稿,分享真知灼见,欢迎走进CNCC,领略计算领域专业大观魅力!


图片



本期特别嘉宾:

王田 北京师范大学长聘教授,教育部工程研究中心主任


作者:CNCC2024【大小模型协同智能计算】论坛主席 王田教授


什么是大小模型协同智能计算?


图片

图1 大小模型协同智能计算示意图


大小模型协同智能计算是一种将不同规模的人工智能模型结合起来,以实现更高效和智能化处理任务的计算架构。大模型通常具备强大的计算能力和复杂的结构,能够处理诸如自然语言理解、图像识别等高度复杂的任务。这些模型的优势在于其能够学习和处理海量数据,捕捉到数据中微妙且复杂的模式和特征,因此在应对高度复杂的计算任务时表现出色。然而,大模型的这一优势也伴随着一些显而易见的缺点,即高计算资源的消耗、较大的能耗以及在处理速度上的相对迟缓。与之相对,小模型更加轻量,计算和资源需求较低,通常用于处理较为简单和直接的任务。小模型的优势在于其运行速度快、能耗低,能够在资源有限的环境中高效工作,例如在移动设备或嵌入式系统中。大小模型协同智能计算通过将两者的优势结合,构建出既具备高度智能化处理能力,又能在资源有限的场景下高效运行的系统。这种协同计算的核心思想是让大模型和小模型相互配合,各自发挥所长,从而优化整体系统的性能。


图片

图2 论坛主题

图片

图3 大小模型协同研究热点


为了推动“大小模型协同智能计算”的研究,本论坛汇聚行业精英与学术权威,深入探讨以下核心议题:


·构建无缝协同架构:大模型和小模型在能力和资源需求上存在显著差异,如何设计高效且稳健的协同架构,确保大小模型间流畅的信息交换与任务协作?


·精雕个性化智能体验:大模型通常采用大量的通用数据训练,在应对用户个性化需求时往往不够精准。如何实现模型推理的高度定制化路径,以期充分迎合各类用户的差异化需求?


·精益计算与性能均衡:大小模型的协同运作涉及到大量的数据传输和计算资源的调度,如何在保证系统实时响应的同时合理分配资源,达成模型预测精度与端侧资源利用效率的完美权衡?


·数据安全与隐私保护:随着越来越多的个人数据被用于模型训练,数据泄露、滥用和未经授权的访问风险也在增加。如何利用大小模型互补优势,构筑数据安全防线,保证用户数据的安全性和隐私性?


通过本次论坛的深入交流与探讨,我们期待能够激发更多的创新思路,推动人工智能向着更智能、高效、可持续的方向发展,为社会提供更优质的服务。


CNCC“大小模型协同智能计算”论坛安排:



*时间:10月24日下午1:30
*地点:东阳市横店圆明新园秋苑-小吃街聚春阁园

图片