安恒信息:以高水平安全,护航人工智能高质量发展
日前,中央网信办主任庄荣文在接受新华社采访时提出,下一步,将坚持统筹高质量发展和高水平安全,推动这一重要领域(人工智能)的产业发展、技术进步与安全保障。
自去年以来,一场以人工智能为主角的 科技 浪潮席卷而来,人工智能大模型正在重塑我们的生产和生活。截至目前,我国完成备案并上线、能为公众提供服务的生成式人工智能服务大模型已达190多个,注册用户超过6亿。
高质量发展的另一面,是对高水平安全的要求。2023年7月,我国就率先开展了相关立法,国家网信办会同相关部门发布《生成式人工智能服务管理暂行办法》,为我国人工智能健康发展保驾护航。
在全球其他国家和地区,对于人工智能的安全治理措施也都快速提上日程。2023年,美欧达成人工智能促进公共利益行政协议,深化气候变化应对等五大领域的人工智能合作。2023年,七国集团达成《人工智能国际指导原则》和《人工智能开发者自愿行为准则》。2024年4月,美欧发布联合声明,强调通过人工智能合作应对全球挑战,美英还宣布达成人工智能安全科学合作伙伴关系。2024年8月1日,欧盟《人工智能法案》正式生效。
关于人工智能安全的担忧,一如当年好莱坞电影所预示的那样,当人工智能加速融入我们生活的今天,这一话题更是每每成为舆论关注的焦点。OpenAI对于安全问题的态度,往往会成为 媒体 的热门话题,近有美媒体爆料其非法限制员工披露AI安全风险,远有OpenAI安全团队的动荡纷争。
如何看待人工智能的发展和安全?中国工程院院士吴世忠在2024西湖论剑·数字安全大会上强调,在人工智能时代,安全问题呈现出前所未有的复杂性。它不仅涵盖传统的Security,即信息安全,还包含Safety,即系统运行的稳定性和可靠性,以及伦理安全,即技术应用必须符合道德伦理标准。这三者交织融合,形成了全新的安全图景。这是与传统安全问题的根本区别,对个人隐私保护、社会稳定、国家发展和国际合作等方面都提出了新的挑战和要求。因此,构建一个安全、坚韧、可信的人工智能发展生态,至关重要。这要求我们必须在推动技术发展的同时,充分考虑到安全保障,实现发展与安全的统筹兼顾。
安恒信息高级副总裁、安恒信息研究院院长王欣指出,在人工智能时代下,大模型技术存在着“矛”与“盾”的两面性。一方面,AI和大模型技术如“利刃”打破原有安全壁垒,安全需求与应用场景发生重大变革。另一方面,AI和大模型技术也促进了安全产品和服务革新,有助于网络安全防护“盾”优化升级。生成式人工智能能极大提高风险识别效率,在一定程度上弥补现有网络人才缺口,让威胁分析更准确、安全运营更高效、安全防护更智能。
作为安全领军企业之一,安恒信息始终秉持“让AI更安全、让安全更智能”的理念,坚信“以AI对AI,以AI管AI”是人工智能安全治理的必经之路。2023年8月28日,安恒信息率先在业内发布“恒脑”安全垂域大模型,并于当年投入杭州亚运会网络安保使用,取得杰出效果。随后又在2024年4月完成其安全大模型的全新升级,并以恒脑2.0驱动全栈产品核心能力提升。
不仅将AI用于安全产品、运营服务,安恒信息从网络安全、数据安全和内容安全三方面,制订了一系列针对大模型安全的产品和解决方案,为客户AI业务提供全生命周期的安全防护能力。
为评估大模型在数据处理、模型构建和应用部署中的风险,安恒信息自研出一套AI大模型风险评估系统,结合先进的内容检测引擎,帮助客户深入测评AI大模型生成内容以及信息输出的合规性,维护企业品牌形象,避免法律风险。此外,系统还深入评估AI基础设施的网络安全风险,识别潜在威胁,驱动完善AI大模型数据完整性和AI业务连续性。
在面向大模型训练与推理场景,安恒AiLand安全岛隐私计算平台设计技术与产品的安全结合架构,支持融合多方数据集建设精调数据集,持续进行训练和推理。今年5月,在中国信息通信研究院组织的首批“面向大模型的增强型可信执行环境基础能力专项测试”中,安恒信息顺利完成全部测试内容,成为首家完成此项测试的企业。
安恒信息将继续以AI驱动安全产品和服务的持续升级,同时也将针对大模型生命周期安全推出进一步、更加完整和完善的解决方案,以高水平安全,夯实人工智能高质量发展的安全基石。