【YOCSEF杭州】人工智能赋能智慧未来：性能优先vs安全优先？ | 数图回看

讲者：张镇勇 贵州大学特聘教授、博士生导师

简介：智能电网较传统电网而言，具备信息空间和物理空间深度耦合的特性，威胁通过耦合关系进行传递，带来了新的威胁面。比如，委内瑞拉的大停电事件就是信息物理耦合下的一种典型攻击手段，既包含信息侧的入侵，也包括电磁干扰输电线路这种物理侧攻击。此外，电力系统的开放性、复杂性和互操作性等特点，导致电力系统面临着巨大的安全隐患。张镇勇重点介绍了一种虚假数据注入攻击：通过篡改从SCADA采集的运行数据，绕过系统状态估计损害电力系统的可观性，最终影响系统的调度控制决策。

讲者：李朝 阿里巴巴人工智能治理技术总监

简介：阿里巴巴在可持续发展的人工智能模型方面做出了尝试，期望实现可信可靠可用的人工智能技术。其中“可用”指的是：将通用人工智能技术定制化助力生产过程，实现更精细化、低成本的生产过程；“可靠”指的是：开发鲁棒测试平台，整合模型脆弱性的评估指标；“可信”指的是：提高对模型的可解释性研究，同时谨防人工智能模型对特定群体产生的偏见歧视。李朝认为人工智能的可持续发展需要包容协作，为此，阿里巴巴提供了很多公开的数据集，同时积极举办、参加相关的workshop和比赛，希望各个行业领域的科研工作者可以有更多机会进行协作交流，积极探讨对策。

讲者：陈晋音 浙江工业大学信息工程学院网络安全研究所所长

简介：目前国际、国家层面纷纷提出了人工智能的发展战略，但人工智能模型仍面临着数据污染，对抗攻击，后门模型，隐私窃取等关键威胁，这些威胁将造成模型性能受损甚至导致用户隐私泄露。陈教授结合团队研究基础，介绍了从图像识别、多智能体到现实信息物理设备等多个领域的攻防安全工作。例如，其团队研发的一种通用对抗样本的防御方法，通过在输入样本上叠加通用扰动，可以使对抗样本的攻击失效，同时维持正常样本的分类结果。