2024年8月24日下午，CCF YOCSEF成都“智御未来：AI时代工业领域数据安全的攻防之道”技术论坛在成都市双流区湖畔路北段兴隆湖科学城科大讯飞股份有限公司四川公司405会议室顺利举办。本次论坛由YOCSEF成都AC委员张晓均（西南石油大学）和周让（成都理工大学）担任执行主席，YOCSEF成都AC委员杨彦兵（四川大学）和张引（电子科技大学）担任线上主席。来自香港科技大学、西北工业大学、西北大学、桂林电子科技大学、电子科技大学、四川大学、西南交通大学、西南石油大学、成都理工大学、西南民族大学、成都信息工程大学、西华大学、成都大学、中国民用航空飞行学院、成都工业学院等省内外高校的研究学者，还有来自百度、浪潮、科大讯飞、国家超算中心、中国电子科技集团公司第三十研究所、中国工程物理研究院计算机应用研究所、中电科网络科技股份有限公司、西门子数字化工厂、国航、乐山商业银行、西南财经大学出版社等单位的行业专家，以及来自CCF YOCSEF西安、杭州等分论坛的AC委员们，约50人参加了本次技术论坛。

论坛开场环节，CCF YOCSEF23-24届主席牛宪华（西华大学）简要介绍了CCF YOCSEF的成立背景、目标宗旨和发展情况。随后，本次分论坛执行主席、CCF YOCSEF成都AC委员张晓均介绍了“智御未来：AI时代工业领域数据安全的攻防之道”技术论坛的基本情况和论坛议程。 

引导发言首先是电子科技大学刘鸿博教授，报告为《工业物联网环境中基于无线物理层特性的密钥生成关键技术研究》。鸿博深入浅出地分析了无线物理层中针对密钥生成可能存在问题，并提出了相应的密钥安全生成方法。通过他的报告，我们更加深入了解了数据安全中，密钥生成的重要性及其保护技术。基于更安全的密钥生成技术，才能够更好地实现工业领域数据安全保障。

第二位引导发言来自中国工程物理研究院计算机应用研究所刘小垒副研究员，报告为《工业系统人工智能与数据安全》。小垒介绍了工业数据作为国家战略信息资源的重要性，分析了工业系统数据安全的现状，总结了传统工业AI数据安全问题和工业大模型的出现及面临的挑战，最后对工业领域未来的研究方向进行了展望。

第三位引导发言来自中国电子科技集团公司第三十研究所汤殿华高级工程师，报告为《工业领域中密码学与人工智能技术融合与实践》。殿华全面梳理了密码学与人工智能技术的融合发展态势以及实践，着重介绍了后量子密码、密态计算的研究进展，引出了新时代数据安全保护方式的变革之路，并指出密码学与人工智能在融合发展、应用实践方面所面临的困局，也表达出了科研和产业界对新方法新技术的迫切期待。

在本次技术论坛的思辨环节，与会嘉宾和与会人员围绕智御未来：AI时代工业领域数据安全的攻防之道，针对三个思辨议题展开激烈地讨论和思辨。

思辨议题1：AI时代工业领域数据安全暗潮汹涌：面临哪些新型攻击方式？

西北工业大学陈亚兴认为，在工业领域数据安全，新型工业网络架构面临云、边、端及管道四种途径的攻击，新的应用也会带来新的风险，并给出了AI大模型本身面临的九类攻击，并特别强调了新的技术手段也面临着未知的安全隐患。成都信息工程大学白杨指出，对于工业数据安全要分层级，比如对于最底层的基础设施面临的新型攻击，在更上一层，AI时代的各种AI编译器，可能潜在存在漏洞；对于模型的攻击，还有模型投毒提示词注入、逃逸、幻觉、滥用等。四川大学周颖杰认为，大模型幻觉不算是一种攻击方式，更可能是不适合这种内容。生成式大模型，在未来应该引入人为修正，从而保证输出内容的规范性，使大模型具备更加合理的推理能力。此外，大模型生成伪造数据，不属于新的攻击方式，因为大模型出来前也有伪造数据攻击，而针对大模型应用背景下，真正的攻击或许是诱导式攻击。中国国航王文琛提到，工业大模型同时也面临窃取、泄露、欺骗等低成本的攻击。

思辨议题2：AI时代工业领域数据业务流程的“命门”：哪一环节是数据安全的“软肋”？

成都西门子数字化工厂屈鹏飞指出数据安全至少有两方面必须要考虑，分别为数据分类分级和数据的生命周期，而在AI时代，所遇到的数据未必是原始数据，很有可能是加工甚至是生成的数据，并且在数据的流转过程中可能也会带来新的问题。电科网安牟黎明认为对于工业领域，数据上线后全部交给AI处理，数据集中后可能会造成数据泄露，在数据传输也可能泄露，而数据分析时候的权限控制不当，也可能造成数据泄露。因此，数据在每个环节都有命门。西北大学崔磊认为数据传输是最大的软肋，与数据采集和应用相比，其具有最大的不确定性。智导未来（成都）教育咨询有限公司严国珂提出，对于新能源汽车行业而言，数据传输和储存是软肋，国家也比较重视这个方面。中为新智毛河指出数据标注也很关键，由于标注成本过高，通常情况下这个过程会采用外包的方式完成，使其可能有着更大的隐患。国家超算成都中心陈磊提到，从攻击方来看，在数据采集阶段攻击付出的代价最低，但获得的收益可能是最大的。西南交通大学刘盾则认为，从管理的角度出发，数据体现或产生最大价值的环节，是数据安全的“软肋”。成都中科至善信息技术有限公司李孝娜提到从安全培训的角度来看，最薄弱的环节应该是数据应用，因为这个环节是人参与程度最高的地方。此外，从数据规范性和标准性的角度来看，数据应用是最复杂的，也是最容易造成泄露的地方。

思辨议题3：工业领域数据安全的AI赋能之路：如何构筑智能化防护的铜墙铁壁?

中电科网络科技股份有限公司牟黎明认为工业数据安全防护，可以从数据流向的角度出发，构建安全措施；对数据资产进行摸排，针对风险构建专门的安全防护；此外，数据采集、数据传输、数据脱敏也是数据安全的关键问题。中国电子科技集团公司第三十研究所汤殿华指出智能化防护是一个比较大的命题，首先要用智能化手段去预判安全风险，要能够推测出安全风险点，进而推理出合适的防范手段，并且还要智能化评估防范后的效果。电子科技大学刘鸿博提到数据监管要考虑事前、事中、事后3个时间段，利用AI可以评估数据流转过程中的风险、并制订预案来实现数据监管。西南交通大学刘盾认为，从管理的角度来看，AI赋能数据安全就是如何利用有限的资源来提升攻击成功的成本。中国民航飞行学院曾昶畅提到，大模型给安全带来了新的挑战，攻击者可以利用大模型降低攻击成本，相反，对防护而言，是否也可以构建智能体进行自动防护。百度黄凯提到，数据在流通的过程中会面临很多问题，尤其是细分领域的数据在流通中泄露后的危害很多，应该从机制上，建立合适的流通规则，并加强人员防范等，以保证数据安全。

思辨环节输出以下结论：

1. AI时代工业领域数据安全暗潮汹涌：面临哪些新型攻击方式？针对AI时代工业领域数据安全的攻击大致分为三类，第一类为基于AI技术对传统攻击的升级迭代，涵盖传统的窃取、泄露、欺骗等网络攻击，第二类为针对大模型数据基座的泄露和推理攻击等，第三类为针对利用模型进行的新型攻击，典型实例为诱导式攻击。

2. AI时代工业领域数据业务流程的“命门”：哪一环节是数据安全的“软肋”？从数据的产生到应用角度出发，大致将工业领域数据业务流程划分为数据采集、数据传输、数据应用，每一个过程都需要被保护。数据采集、标注阶段存在数据伪造等攻击，攻击成本较为低廉却会动摇数据可信的根本；数据传输是数据流转的关键阶段，此时，数据被攻击的概率最高，造成数据泄露的可能性也最高；而数据应用阶段面临价值释放和应用场景复杂多变等问题，数据泄露风险也较高。

3. 工业领域数据安全的AI赋能之路：如何构筑智能化防护的铜墙铁壁？需要从数据流向的角度出发，设计合理的数据管理机制，用智能化手段去预判安全风险，要能够推测出安全风险点，进而推理出合适的防范手段，并且还要智能化评估防范后的效果，并搭建出完善的数据监管模式。

最后，执行主席张晓均和周让为三位思辨引导嘉宾分别颁发了感谢牌。CCF YOCSEF成都现任主席丁熠对论坛进行了总结发言。

本次技术论坛是在国家人工智能重大战略、2024年工业与信息化部的《工业领域数据安全保障提升计划》、2024年四川省一号创新工程等系列政策推行下，结合四川特色，通过探讨人工智能与数据安全如何双向赋能，提升了人工智能技术创新应用的安全性、稳定性、可持续性，促进了人工智能在工业领域数据安全的防御能力升级。通过引导与思辨讨论，本次论坛凝练出了AI赋能工业领域数据安全保障的实用路径，为促进工业领域数据安全流通与价值释放提供了智力支撑。