人工智能等新兴技术的深度应用，涌现了许多新的网络安全威胁，如基于AIGC工具使用深度合成、实时换脸、语音仿声等技术来实施诈骗的网络安全事件层出不穷。

随着AIGC技术的不断迭代，在提高文娱、电商等产业生产效率的同时，也带来了层出不穷的风险，只要一张照片换脸，随即就能在网络复制“N”个自己，有关“Deepfake”（深度伪造技术）事件的相关话题涌上热搜，利用“AI换脸”侵权的情形层出不穷，带来了较大的网络安全隐患。

近期，韩国出现了Deepfake技术下的新“N号房”案件，韩国女性陷入“AI换脸恐慌”，甚至在中国社交网络上发帖求助。诸如此类AIGC工具的滥用，不仅对个人隐私和伦理挑战，还会对社会信任、法律监管以及经济安全的产生广泛影响。因此，如何合理使用和监管AIGC技术，避免其被用于非法或不道德的目的，是当前面临的重要挑战‌。

在此背景下，2024年10月19日下午，由中国计算机学会主办，CCF YOCSEF保定分论坛承办的《"我"一定是我吗？-如何减少AIGC技术给个人信息安全带来的风险》技术论坛在保定市高新科创园A2座中国电子(保定)PKS生态创新中心举办。

        本次论坛由YOCSEF保定分论坛AC委员、保定职业技术学院冯士恩和YOCSEF保定分论坛AC委员、河北大学电信学院王珺担任执行主席。YOCSEF保定分论坛副主席、北京青城博雅教育科技有限公司尹红涛担任线上主席。

    论坛邀请了中国农业大学副教授文娟、启元实验室研究员张幸幸、河北农业大学信息科学与技术学院副院长刘博、华北电力大学计算机系网络教研室主任王洪涛、奇安信集团北部技术部解决方案处负责人张雅彬、中国电子集团数据安全专家马洪军作为参会引导发言和思辨嘉宾，并吸引了来自学术界和产业界的70余人参会。

在引导发言阶段，中国农业大学副教授文娟，从生成式AI的总体介绍，至AIGC生成的文本在不同场景下的检测，以及未来的语法分析检测方向，作了题为《大模型背景下的生成式文本主被动检测》的报告。

紧接着，启元实验室研究员张幸幸分享了预训练模型下的持续学习的方法与应用，并提出未来可以将持续学习与具身智能的深度结合，探索持续学习与AI安全的结合，防止遗忘与对抗攻击防御并进行了报告《预训练下的持续学习理论、方法与应用》。

        最后,河北农业大学信息科学与技术学院副院长刘博针对AI在教育领域所带来的机遇与挑战，尤其是在AI生成内容与AI与一线教学，作了报告《AI生成内容与教育革新：机遇、挑战与应对》。

报告结束后，CCF YOCSEF保定分论坛主席、河北农业大学信息科学与技术学院副院长何振学为三位引导发言嘉宾颁发感谢牌，并向他们为本次论坛活动所做出的贡献表示感谢。

引导发言环节结束，线下参会者进行了合影留念。

接着，论坛进入思辨环节。与会嘉宾们围绕“以内容鉴伪、安全评估与咨询服务等为代表的AI安全治理的全新市场，分别给企业和高校带来了哪些机遇?”“AI换脸等Deepfake技术带来的安全事件频发，内容鉴伪过程有哪些挑战?”以及“随着技术的发展，如何平衡其创新应用与潜在风险，使其融入千家万户？”三个议题展开思辨，表达自己的观点。

参与现场思辨讨论的嘉宾还包括：CCF保定分部主席、CCF YOCSEF保定分论坛创始主席、河北大学国际学院院长杨晓晖，CCF YOCSEF天津分论坛主席，天津财经大学理工学院计算机与信息工程系主任王朕，CCF保定分部执委、河北软件职业技术学院计算机应用系主任许焕新，北京信息科技大学副教授邹智元，河北兰科网络工程集团有限公司技术总监马天午，奇安信集团大客户总监李岳松等。

针对第一个议题，与会者从多个角度进行了探讨，大家认为全新市场相对于传统，用词准确，对高校来讲极大地扩展了我们的研究空间，是AI和安全两个领域的融合，对于提升AI的能力的同时，责任也越大，如何保证其安全，对齐人类的价值观，防止出现的对抗攻击和隐私窃取，这些问题在之前也存在，但未受到重视。这些安全风险问题会越来越突出。对于高校来讲，要培养相关治理方面的人才，打通专业壁垒，是下一步专业发展新机遇。全新市场也为企业提供一定的机遇，在保定“医车电数游”大背景下，AI方面的产品在设计时、上线时要进行安全评估，都为我们企业带来机会，为客户带来安全的体验。我们要承接从科研到市场中间的环节，将学校科研成果实现企业的产品转化。

针对第二个议题，与会者从多个角度进行了探讨，大家认为:我们在过去看过的安全案例，AIGC生成内容的鉴伪是为谁做？做算法算力的对抗，是资源对抗，如果不明确鉴伪对象，则该方面工作难以开展。另外国家的出台的政策及标准很重要，对于企业来讲，成本降低后，管理成本也会降低。更多的不是这个过程，而是确定为谁去做，站在企业界和学界更多应该推动国家做法律法规的工作，这样才会节省对应的算力、人力、物力的成本。

针对第三个议题，与会嘉宾积极发言讨论，大家认为：很多高校都在研究可信度模型的鉴别研究，包括相应的模型和产品；从防护角度，采用AI代替人做日志防护等，相信人与AI之间是一个动态平衡的过程。政府要采取法律手段对做“恶”的行为起到震慑作用；二是加强防御技术研究；三要有公信力的第三方平台进行鉴伪评估，做好这几点，未来AIGC融入千家万户是可以预见的。

以下是部分参与发言嘉宾：

思辨环节结束后，CCF YOCSEF保定分论坛主席何振学为三位特邀嘉宾颁发感谢牌，表示感谢。

最后，CCF YOCSEF保定分论坛主席、河北农业大学信息科学与技术学院副院长何振学作总结：随着AIGC技术的不断迭代，其在文娱、电商等产业的生产效率提升方面发挥了积极作用。但同时，我们也看到了由此带来的网络安全风险，如深度合成、实时换脸、语音仿声等技术被用于诈骗等非法行为，严重威胁了个人隐私和社会信任。其中，Deepfake技术的滥用问题引起了广泛关注，暴露出AIGC工具滥用对个人隐私、伦理道德、法律监管和经济安全的巨大挑战。论坛产生了以下重要观点：

1. 加强技术研发，提高AIGC技术的安全性，从源头上降低被滥用的风险。

2. 完善法律法规，明确AIGC技术的使用边界，严厉打击非法滥用行为。

3. 提高公众网络安全意识，加强个人信息保护，防范AIGC技术滥用带来的风险。

4. 企业和社会组织应承担起责任，加强对AIGC技术的监管，确保其在合法合规的范围内使用。

至此，本次CCF YOCSEF保定技术论坛圆满结束。