CCF YOCSEF杭州举办观点论坛——推荐场景下可信AIGC构建的道与术

随着大模型技术的快速发展及其在推荐领域的广泛应用，产学研各界对其可信性也越来越重视。2023年7月7日，在世界人工智能大会“聚焦·大模型时代AIGC新浪潮”论坛上，为推动可信人工智能发展，业界联合发布《AIGC可信倡议书》。同时，中国信通院联合清华大学、蚂蚁集团共同发布《可信AI技术和应用进展白皮书（2023）》。

我国也相继出台生成式人工智能（AIGC）的管理办法。2021年9月1日，《中华人民共和国数据安全法》正式施行，其中包括了一些关于人工智能的规定，如要求加强对人工智能相关数据的安全保护和管理等。2023年7月10日，网信办联合发改委、教育部、科技部、工信部、广电总局于正式发布《生成式人工智能服务管理暂行办法》，作为全球范围内首部直接针对生成式人工智能进行规制的国家层面法律文件。

本次论坛的核心议题是探讨在推荐场景下如何构建和应用可信AIGC。通过深入讨论，旨在为AIGC技术的健康发展提供指导，确保其在推荐系统中的应用既高效又安全，满足社会和用户的需求。

图1：与会嘉宾合照

此次论坛由中国计算机学会青年计算机科技论坛（CCF YOCSEF）主办，由CCF YOCSEF杭州学术委员会组织，由浙江大学特聘研究员陈超超和阿里巴巴企业智能算法负责人陈祖龙共同担任执行主席，由CCF YOCSEF杭州AC委员陈洋和缪克雷共同担任线上主席。邀请南京信息工程大学教授许小龙、浙江大学计算机学院“百人计划”研究员陈佳伟、蚂蚁集团高级算法专家王莹桂作为引导嘉宾。

此次论坛讨论热烈，持续4个小时。邀请了杭州电子科技大学特聘副教授李宇渊、淘天集团算法专家李威、阿里巴巴控股算法专家李良玥等高校和企业界嘉宾50余人共同参会。

图2：论坛现场

论坛由陈超超和陈祖龙两位执行主席主持，首先介绍了CCF YOCSEF和CCF YOCSEF杭州分论坛，以及此次论坛背景、引导嘉宾，对与会嘉宾表示感谢。接下来会议进入引导发言环节。

图3：论坛由陈超超和陈祖龙两位执行主席主持

—— 引导发言 ——

一、推荐场景下AIGC的可解释性

图4：南京信息工程大学许小龙做引导发言

许小龙分享了对推荐场景下AIGC可解释性的思考。他认为，尽管AIGC技术已经从早期的感知器模型，迅猛发展至当前的生成式人工智能时代，但仍然面临着一系列挑战，包括用户信任度的降低、算法偏见的难以识别、以及调试和优化的困难。针对这些问题，许小龙提出了一系列创新的解决方案，包括多模态学习、会话式推荐、基于用户反馈优化和情感驱动的解释生成等，旨在推动AIGC在推荐系统等领域的发展。

二、大模型时代推荐技术的一些思考

图5：浙江大学陈佳伟做引导发言

陈佳伟分享了他对大模型时代推荐技术的一些深刻见解。他介绍了当前大模型推荐技术的三大主流路径：将大语言模型作为推荐基底、利用大语言模型辅助增强传统推荐模型、利用生成式检索技术构建生成式推荐大模型。他还提出了几个引人深思的问题：（1）大语言模型是否越大就是越好? （2）是否以大语言模型为基底?（3）在大模型时代，推荐领域的学术研究可以做什么？最后，他建议，为了解决这些问题，学术界可以寻求与工业界的合作，并专注于解决基础性问题。

三、隐私保护大模型技术

图6：蚂蚁集团高级专家王莹桂做引导发言

王莹桂介绍了一系列隐私保护技术，包括基于密码学的方法、联邦学习、差分隐私、脱敏算法、可信执行环境以及混合方法。他的团队在这一领域进行了深入的探索，目前正致力于开发既高效又精确的隐私保护解决方案，这些方案旨在实现高时效性、低精度损失，并确保在使用频率高的推理过程中具有一定的安全性。他提出了一种创新的隐私保护策略，结合脱敏算法和硬件异构的计算方案，以保护大模型的隐私。他还提出了如何通过改进模型的非线性层，并采用量化和稀疏化技术，有效解决大模型在通信方面的挑战。

—— 思辨环节 ——

在引导报告之后进入思辨环节。与会嘉宾围绕“构建可信AIGC面临哪些挑战和困境?”、“推荐场景可信AIGC是否应牺牲精度来换取可信？”、“工业界和学术界如何协同促进可信AIGC在推荐场景下的应用？”三个议题展开了深入思辨。

图7：执行主席陈超超主持论坛思辨环节

思辨议题1：构建可信AIGC面临哪些挑战和困境?

与会专家们围绕这一议题展开了深入讨论，提出了如下观点：

• 可信AIGC相关标准和法律：制定可信AIGC的相关标准和法律是当前的首要任务。学术界面临的挑战在于如何确立这些标准，以便通过技术手段实现可信性。工业界则需要考虑成本与收益的平衡，确保投资于AIGC技术能够获得预期的回报。此外，随着AIGC技术的快速发展，相关的法律法规亟待建立，以解决内容管控和版权归属问题。

• 知识产权保护：在知识产权保护方面，专家们讨论了AIGC技术在训练数据版权和隐私保护方面的挑战。提出了通过在图片中加入人眼不可识别的噪声来防止未授权模型训练的解决方案，以及将数据撤回问题抽象为“机器反学习”任务，实现数据的可控撤回。

• 隐私保护与内容伪造：专家们特别关注了人脸伪造技术的预警与溯源问题，强调了隐私保护的重要性。同时，他们也探讨了AIGC技术在生成可控性和数据偏见方面的挑战，以及如何鉴别伪造内容和保护用户知识产权的问题。

• 模型评估体系：目前的评估方法往往依赖于人工或现有大模型，这不仅成本高昂，而且可能存在偏差。建立一个客观、准确的评估体系对于AIGC技术的发展至关重要。

图8：思辨议题1现场图

思辨议题2：推荐场景可信AIGC是否应牺牲精度来换取可信？

随着AIGC技术在推荐系统中的应用日益广泛，如何在提升推荐精度的同时确保技术的可信性，成为了业界和学术界共同关注的问题。与会专家们围绕这一议题展开了深入讨论，提出了如下观点：

• 精度与可信性的权衡：精度和可信性之间的权衡是普遍存在的，但具体情况需要具体分析。例如，在药物推荐和疾病预测等领域，通过技术手段可以在保护用户隐私的同时，甚至提升推荐表现，这可能与推荐系统的过拟合现象有关。

• 提升可信度的策略：可以通过利用标签和特征来提升可信度，而不必对精度造成太大影响。同时，强调了在应用AIGC技术时需要注意风险，并在不损失精度的情况下实现及时止损。

• 提升精度的策略：在AIGC应用领域，如标签推荐和召回，或采用多模态作为辅助手段，都有助于提升精度。

• 可信优先：可信性是一个国家层面的问题。在技术提升到一定程度后，应当牺牲精度以换取可信性。

• 精度与可信并行：精度和可信性并不是矛盾的。一个好的可信方法应该也能够提升精度。他们强调，牺牲精度会导致公司不愿意落地AIGC技术，因此应在不牺牲推荐精度的前提下追求可信。

• 推荐场景的特殊性：需要了解推荐场景与其他场景在精度和可信上的差异，并探讨推荐场景中可信算法的加入对精度的具体影响。

• 阶段性的权衡：专家建议，在技术前期研究阶段应先关注精度，保证精度后再考虑可信性和安全性。

• 企业效益与政策可信性的平衡：专家指出，精度确实会提升企业的效益，但如果因为未达到政策的可信性而降低了效益，则得不偿失。因此，需要根据企业的实际目标做出权衡。

• 敏感领域的精度与可信：在强监管要求下，如何在推荐系统中尤其是刷脸支付等敏感领域中平衡精度和可信性，是一个需要特别关注的问题。为满足合规，企业可能需要牺牲精度。

图9：思辨2现场

思辨议题3：工业界和学术界如何协同促进可信AIGC在推荐场景下的应用

与会专家们围绕这一议题展开了深入讨论，提出了如下观点：

• 协同合作的重要性：专家们一致认为，工业界与学术界的协同合作对于推动可信AIGC的发展至关重要。工业界可以结合国家政策要求，明确标准和期望结果，与学术界共同发展。同时，学术界的创新和探索能够为工业界提供新的视角和解决方案。

• 合作模式的探索：一些专家分享了成功的校企合作项目，涉及检索增强系统、自动化评估等方向。这些合作项目不仅促进了技术的创新，也为学术界提供了实际应用场景。

• 数据共享与隐私保护：数据资源的控制是工业界与学术界合作中的一个重要议题。工业界对数据资源的控制非常严格，这限制了双方的合作。学术界应当发挥带头作用，推动可信AIGC的进展。

• 合作中的挑战：专家们也指出了合作过程中的一些挑战，如项目指标的不稳定性、项目申请的难度、团队变动频繁等。这些问题需要通过建立长期和稳定的合作模式、滚动机制等措施来解决。

• 合作的期望与目标：专家们期望通过合作，能够实现技术的创新和应用，同时满足工业界的经济效益和学术界的研究需求。他们强调，合作应当建立在了解和信任的基础上，通过资金支持和项目实施，实现双方的共赢。

• 行动呼吁：专家们呼吁，工业界与学术界应加强合作，共同探索可信AIGC的未来发展路径。通过共享资源、协同研究和创新应用，双方可以共同推动AIGC技术在推荐场景下的应用，实现更高效、更可信的推荐系统。

图10：执行主席陈祖龙主持论坛思辨环节

图11：思辨3现场

—— 总结 ——

本次观点论坛汇集了来自学术界和工业界的专家，共同探讨了在推荐场景下可信AIGC的评估、应用需求以及合作模式。专家们一致认为，整合双方资源，实现联动合作对于推动AIGC技术的发展至关重要。

在讨论中，专家们指出，可信AIGC在评估和应用需求方面面临诸多挑战，追求可信性不仅是为了合规和避免处罚，更是在现实条件下追求精度。为了促进双方的了解和合作，专家们提倡建立长期合作关系，更有利于项目的取得实质性成果并且落地实施。此外，专家们还强调了政府在加强学术界和工业界合作中的作用，包括制定法律法规和标准政策，以及提高用户对可信性、安全性和隐私等方面的认知和接受度。通过这些措施，可以为AIGC技术的健康发展提供良好的环境。

参与者们表示，通过本次活动，他们对学界和工业界的需求差异有了更深入的了解，期待未来能更多地参与此类活动，以促进知识的交流和合作的深化。

总体而言，本次活动取得了丰硕的成果，为可信AIGC在推荐场景下的应用提供了宝贵的见解和建议。随着技术的不断进步和合作模式的不断创新，我们有理由相信，AIGC技术将在推荐系统中发挥更大的作用，为用户提供更可信、更精准的服务。

图12：总结现场

图13：执行主席为引导嘉宾颁发感谢牌