导语：CCF Talk——开启AIGC深度研讨序幕，推动内容安全技术与应用

2024年7月21日，由中国计算机学会（CCF）青年计算机科技论坛（YOCSEF）深圳和深圳市计算机学会（SZCCF）大模型专委会联合主办的“构建数字内容生态：AIGC生成与安全前沿技术分享”线上直播活动在CCF视频号上成功举办。此次活动是CNCC2024《AIGC内容乱象：检测与溯源能否主宰乾坤》和西丽湖论坛《AIGC内容安全与守护》系列活动之一，特别邀请了人工智能内容生成领域的知名专家学者，通过报告与问答的形式，深入研讨AIGC内容生成与安全，开启了深度研讨的序幕。本次活动的嘉宾阵容包括：YOCSEF深圳老主席、CCF杰出会员、SZCCF大模型专委会主任、清华大学深圳国际研究生院教授袁春，YOCSEF深圳委员、国家级青年人才、哈尔滨工业大学（深圳）教授陈科海，北京大学深圳研究生院研究员张健，YOCSEF深圳AC委员、国家级青年人才、中山大学·深圳教授任文琦。本次CCF Talk由YOCSEF深圳学术秘书、哈尔滨工业大学（深圳）副教授漆舒汉和任文琦联合主持。

漆舒汉为本次直播活动做了开场介绍，指出近年来，特别是随着生成对抗网络、Transformer、扩散模型等关键技术的应用，AIGC在生成内容的质量和多样性上实现了显著的飞跃，引起了人们的广泛关注。然而，AIGC技术在生成内容的真实性、可控性等方面仍存在巨大的提升空间。不仅如此，AIGC技术可能被用于生成虚假新闻、深度伪造视频，这些风险对社会构成了潜在的威胁，也引发了生成内容安全方面的担忧。漆舒汉强调了研究AIGC生成与内容安全技术的重要性，需要从技术层面实现对AIGC的有效监管和治理，并期待通过跨领域、跨学科间广泛深入的探讨，共同推动AIGC内容安全技术的发展与应用。

漆舒汉作开场介绍

首先，袁春带来了“AIGC和大模型前沿技术介绍”的报告。他首先探讨了AIGC技术的发展历程，包括GPT模型和SORA在效率与物理模拟方面的挑战。接着，他分享了自己在AIGC视觉内容和大模型训练与压缩方面的研究成果。在AIGC视觉内容方面，他介绍了3D人脸逼真重构技术，该技术不仅重建质量高，还构建了3D人脸评测数据集。他还提到了基于二阶段蒸馏方法的人体姿态估计和视觉地点识别技术，后者在Facebook举办的大赛中获得第一名。在大模型训练与压缩方面，他展示了多项创新工作，包括噪声标签和长尾数据学习技术，多模态大模型剪枝，以及Token合并压缩技术。这些技术不仅提升了大模型的性能，还降低了计算资源的需求。最后，袁春展望了大模型技术在金融风险预警和工业生产中的应用，如生产运维、无人机巡检，以及部件和仪表的自动检测识别，展示了大模型技术在实际应用中的广阔前景。

袁春作报告

接着，陈科海在其“AIGC安全检测和溯源”的报告中概述了AIGC的背景和对内容安全的需求，并讨论了如何通过评估来识别内容风险。他强调了AIGC价值观对齐的必要性，提出了整合数据和算法的整体框架。报告重点介绍了六种常见的内容溯源类型，包括：模型风险行为溯源、生成内容溯源、模型表征溯源、生成模型溯源、大模型文本水印溯源、用户溯源，

陈科海作报告

随后，张健在"面向AIGC内容安全的多功能数字水印"的报告中，首先聚焦于视觉内容生成，包括图像条件生成、精准控制生成技术，以及图像隐写技术，这些技术使得图像编辑更加便捷。随后，演讲深入到图像内容安全的领域，讨论了AIGC内容的来源取证问题。取证方法被分为被动和主动两大类，其中主动方法更为主流，包括可见水印和不可见水印，并提出了多功能水印的概念，以解决传统水印功能单一和鲁棒性与泛化性之间的矛盾。多功能水印不仅能够结合版权保护，还能进行篡改检测，实现了跨模态的水印技术，为AIGC内容安全提供了更为全面的保障。

张健作报告

最后，任文琦的报告“面向AIGC内容安全的通用伪造检测”分为三个部分，首先介绍了AIGC伪造检测的背景和技术基础。接着，深入探讨了人脸内容伪造检测，包括四大类别的伪造人脸内容和四种主要的检测方法：空间域检测、频域检测、数据驱动和时空一致性分析。任文琦分享了自己在该领域的思考和工作，如引入人脸先验方法、真实样本单边指导方法以及特定伪影特征遗忘方法。第三部分转向通用生成图像检测，讨论了面向GAN和扩散模型生成图像的检测方法，探讨了如何实现对不同模型生成图像的通用检测。通过这次演讲，任文琦不仅展示了AIGC检测领域的最新研究成果，也为未来的研究方向提供了深刻的见解。

任文琦作报告

漆舒汉对整个活动进行了总结。他指出，AIGC生成技术正逐渐走向成熟，无论是今天介绍3D人类重构还是图像生成的精准控制都说明AIGC在质量、可控性上有了很大提升，极大地方便了人们的生产生活。然而，生成技术的发展与生成内容的检测一直是一对矛盾。尽管对AIGC内容检测方法已经得到很大发展，也形成了不同流派，但是应对快速更新的AIGC生成方法还是捉襟见肘。溯源方法能够与检测方法形成很好的互补，然而相关领域还没有形成很好的共识和标准，对生成内容的质量也有一定影响。总的来说目前AIGC内容检测和溯源还处于起步阶段，未来有很大的发展空间。欢迎大家持续关注YOCSEF深圳今年举办的AIGC内容生成安全相关的系列活动。