抢占数字安全新高地 西湖论剑·第十六期网络安全创新发展高端论坛成功举办

5月7日下午，2023西湖论剑·数字安全大会（原西湖论剑·网络安全大会）——第十六期网络安全创新发展高端论坛在杭州成功举办。中国工程院院士沈昌祥，国家信息中心党委专职副书记、纪委书记吴文化，国家信息中心信息与网络安全部主任杨绍亮，中国电信集团有限公司 科技 创新部总经理、云网基础设施安全国家工程研究中心主任王桂荣，中国信息协会信息安全专业委员会主任叶红，国家信息技术安全研究中心原总工程师李京春，中国电信股份有限公司研究院副院长、云网基础设施安全国家工程研究中心常务副主任李安民，北京大学教授、博导陈钟，中国电科首席专家董贵山，国家信息中心信息与网络安全部博士、高级工程师王佳慧，上海第五空间信息科技研究院理事长朱易翔，网宿科技副总裁吕士表、安恒信息启鉴实验室主任安通鉴等出席本次论坛。

国家信息中心党委专职副书记、纪委书记吴文化在致辞中表示，近年来，全球人工智能产业呈现蓬勃发展势头，已经成为新一轮科技革命和产业变革的重要驱动力量，与此同时，人工智能也显露出了对网络安全行业的巨大影响和应用潜力，可谓机遇与挑战并存。对此，吴书记提出三点建议：“一是注重创新引领，抢占人工智能技术新高地；二是强化需求导向，促进人工智能高水平应用发展；三是夯实安全基础，坚持安全可靠和创新发展并重。”

中国电信集团有限公司科技创新部总经理、云网基础设施安全国家工程研究中心主任王桂荣在致辞中指出，人工智能引领的科技革命浪潮席卷全球，同时也引发了业界对AI安全的思考和关注，“AI for Security”、 “Security for AI”以及AI安全伦理等问题带来了很多全新的挑战，中国电信依托工程中心开展了一系列的创新探索，同时也呼吁业界共同努力，为促进安全可靠的人工智能应用和发展贡献智慧和力量。

中国信息协会信息安全专业委员会主任叶红在致辞中表示，人工智能技术的创新应用，给数字 经济 、数字政府、数字社会发展带来新机遇，但与此同时人工智能引发的数据泄露、网络攻击等安全风险日趋凸显，基于此，建议加强研究，积极应对，一是健全人工智能安全制度体系，二是强化人工智能安全行业治理，三是深化人工智能核心技术攻关。

针对人工智能的安全发展，中国工程院院士沈昌祥提出了构筑安全可信人工智能新生态体系，可以概括为“123456”，即“一种”新模式、“二重”体系结构、“三重”防护框架、“四要素”可信动态访问控制、“五环节”全程管控，“六不”防护效果，并提出利用可信计算构建主动免疫人工智能安全产业空间。

人工智能作为一种中立技术，如果被不法分子利用生成攻击代码，将会产生新的威胁。国家信息技术安全研究中心原总工程师李京春指出：“应对这种变化，一方面要加强人工智能支持的安全软件、服务的研发；另一方面要落实可信计算，保障软件供应链和软件本身的安全，做到开发、安装、运行全生命周期的安全可信。同时，对重要数据、个人敏感数据保护要再次敲响警钟，要加大数据安全保护力度。”

云网基础设施安全国家工程研究中心常务副主任李安民深刻分析了AI安全的特征内涵：AI安全具有“对象特殊”、“自身演进”、“目标双重”三大特征，易引发“社会伦理”、“不可解释性”、“信息泄露”、“风险对抗”四大风险；其次重点围绕“大模型安全底座”、“AI安全测评平台”分享了中国电信在AI安全领域的创新实践；最后结合AI安全产业链的现状，倡议发起AI安全多方合作，开展协同创新和应用，共同应对全新的挑战！

对于人工智能带来的挑战，北京大学教授、博导陈钟认为其已经从网络安全、系统安全、信息安全、数据安全上升到了知识安全，再往下就是行动安全。从互联到互信，实质是在重塑数字信任，直面这些挑战。当前研究重点在数字化转型当中需要什么样的数字信任，把其中真正的规律掌握好、运用好，为建设一个美好的未来人类和经济社会发展做出贡献。

人工智能的诞生对数据依赖非常强，而密码技术是数据安全的基础。中国电科首席专家董贵山分享了人工智能的密码应用保障体系，提出要确保人工智能数据源的安全、数据分析处理平台安全、控制指令安全。认证和密码安全服务要做到为人工智能和数据安全的全生命周期、控制性的安全、算法的安全、安全的应用等提供可信、可控和可管服务。

国家信息中心信息与网络安全部博士、高级工程师王佳慧在演讲中介绍了ChatGPT的前世今生，并就当前其发展面临的难题和限制，以及开展的安全性研究进行了展开。同时王博士提出ChatGPT可能将朝着大语言模型使用工具的能力以及模型和行动相关联两种趋势发展，对于企业来说可以和业务场景相结合也可以服务整体战略，对于个人而言将和人工智能共同进化，同时Prompt能力至关重要。

上海第五空间信息科技研究院理事长朱易翔指出：“当前行业发展有两个趋势，一个是万世万物的智能化，第二个是万事万物的互联。在人工智能时代，跟‘物’有关或者说智能设备有关的场景下，‘身份’十分重要，要把国密算法要应用到安全通信里面去，把新一代数字身份用到边缘计算等场景中。”

边缘计算的兴起对网络安全的影响十分深远，边缘计算的核心特点是分布式，用户、设备的接入在全球各地。网宿科技副总裁、首席安全官吕士表认为，边缘计算安全不仅需要全栈技术、统一管理，还需要统一平台，以及数据驱动的方式。

安恒信息启鉴实验室主任安通鉴在《大模型(AI)驱动安全技术变革的思考与实践》中分享了基于机器学习和大模型的恶意软件检测、加密流量威胁检测引擎、安全防护的性能提升、基于AI和大模型的软件供应链安全、基于AI的钓鱼邮件检测引擎、违规使用大模型场景检测等六大AI赋能网络安全应用。安恒信息在创新前沿技术的研发和投入上远远不止于人工智能，十大实验室覆盖了物联网安全、漏洞挖掘、人工智能、威胁分析、网络空间资产测绘、入侵分析安全检测等多个关键和热门领域。

第十六期网络安全创新发展高端论坛作为2023西湖论剑·数字安全大会的两场最高规格平行论坛之一，由国家信息中心主办，国家信息中心国信卫士网络空间安全研究院、云网基础设施安全国家工程研究中心承办，中国信息协会信息安全专业委员会、中国电信股份有限公司、安恒信息、上海第五空间信息科技研究院、北京国信京宁信息安全科技有限公司协办。