生成式人工智能对认知安全的影响 | YEF2024

冯骁骋

哈尔滨工业大学教授、计算机科学与技术学院副院长

CCF YOCSEF 23-24哈尔滨主席，哈尔滨工业大学计算学部社会计算与信息检索研究中心教授（入选校青年人才拔尖计划）、博导。研究兴趣包括自然语言处理、大模型、文本生成等。在CCF A/B类国际会议及期刊发表论文50余篇，Google学术引用数量超过5000次。入选中国科协第六届青年人才托举工程，曾获中国中文信息学会优秀博士学位论文奖、黑龙江省科技进步二等奖，CCF NLPCC青年新锐奖等。

张春龙

东北林业大学副教授

2024-2025CCF YOCSEF哈尔滨候任学术秘书。东北林业大学计算机与控制工程学院副教授、硕导。研究兴趣包括生物信息学、表观遗传学、免疫学等。在Briefings in Bioinformatics、iScience、Epigenetics等杂志发表期刊。

张奇

复旦大学计算科学技术学院教授

CCF大模型论坛常务委员。兼任中国中文信息学会理事、SIGIR Beijing Chapter组织委员会委员等。在ACL、EMNLP、COLING、全国信息检索大会等重要国际国内会议多次担任程序委员会主席、领域主席、讲习班主席等。发表论文150余篇，获得美国授权专利4项，著有《自然语言处理导论》、《大规模语言模型：从理论到实践》。

报告题目：大语言模型是实现AGI的必由之路吗

摘要：

2023年，大型语言模型迎来了迅猛的发展，在多个领域展现出前所未有的能力。这引发了许多人对通用人工智能（AGI）的预测，认为基于大型语言模型的AGI将在短时间内成为现实。然而，大型语言模型是否真的是实现AGI的必由之路呢？本次介绍将深入探讨这个问题。包括：什么是AGI，要实现AGI所必须具备的重要的能力，当前大语言模型在这里能力上的表现等。

王士进

科大讯飞副总裁

科大讯飞AI研究院常务副院长，认知智能国家重点实验室副主任，同时担任中国人工智能产业发展联盟技术与产业工作组副组长，中央电教馆人工智能教育专家组专家等。他带领团队陆续开展了机器翻译、阅读理解、人机交互、智慧教育等技术方向研究，取得一系列国际领先的研究成果，获得二十余项国际比赛冠军，在iScience、TASLP、TALLIP、ICASSP、AAAI、ACL、KDD、WSDM、SIGIR、CIKM等人工智能领域国际顶级会议上发表了论文五十余篇，申请了专利二十余项，同时还承担了国家科技支撑、八六三、九七三等多项国家重点研发计划工作，获安徽省科技进步一等奖、吴文俊人工智能科技进步奖一等奖等奖项。

报告题目：讯飞认知智能大模型进展及安全实践

摘要：

科大讯飞作为国内智能语音与人工智能的领军者，一直在推动认知智能技术的革新。近年来，在认知智能大模型领域取得显著成果，构建了性能卓越的模型体系，实现了语言深度解析与多领域智能决策。然而，安全始终是智能技术的核心。科大讯飞注重数据安全管理，引入先进安全算法，严格评估模型安全，并与合作伙伴和监管机构共同守护用户隐私与数据安全。未来，科大讯飞将继续深耕大模型领域，提升性能与安全，探索新应用，与各界携手共创认知智能的美好未来。

高翠芸

哈尔滨工业大学（深圳校区）计算机科学与技术学院副教授

哈工大青年拔尖人才。主要研究方向为智能化软件数据分析和软件可靠性。博士毕业于香港中文大学，其后分别在香港中文大学和新加坡南洋理工大学做博士后。近年来在相关领域的顶级会议和期刊如TSE、TOSEM、ICSE、FSE、ASE等上发表论文70余篇，荣获CCF A类会议ICSE 2024杰出论文奖和ASE 2023杰出论文奖，指导学生获得ACAIT2022最佳学生论文奖，入选第九届中国科协青年人才托举工程。

报告题目：代码大模型中数据安全的“攻”与“防”

摘要：

大模型的安全和可信问题直接影响其实际落地和使用。本报告将围绕代码大模型，重点介绍代码大模型面临的数据安全问题，包括现有的代码补全系统的缺陷和黑盒修复方案、从大模型窃取数据提升小模型的可能性及其呈现的数据安全问题、面向代码生成系统的水印保护方案，最后对大模型尤其是代码大模型的安全问题进行讨论。

唐梦云

腾讯朱雀实验室高级安全工程师

2018年加入腾讯，主要负责AI安全研究及落地工作，包括AI算法攻防、大模型安全、大模型安全应用等。研究成果发表于TIFS / NDSS / ECCV等，多次在CanSecWest / HITB / PoC / CIS等国内外顶级安全峰会中分享团队经验。

报告题目：大模型与安全

摘要：

以ChatGPT等为代表的大模型席卷全球，引发了人们对于通用人工智能的广泛关注，大模型也深刻改变了人们的生产生活方式。同样，在安全领域，大模型的发展也也给安全场景中的难点问题解决带来了新机会，但新技术也引发了许多新的安全问题。大模型与安全究竟是怎样的关系？大模型安全应用面临哪些挑战？本讲将详细剖析这一问题，并结合朱雀实验室大模型落地实践探讨大模型安全应用之道。