拆解生成式AI首部新规：监管、边界与平衡

本文来自： 经济观察网 ，作者：钱玉娟，题图来自：视觉中国

7月13日，网信中国官方微信发布消息显示，由国家互联网信息办公室联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局共同拟定的《生成式人工智能服务管理暂行办法》 （以下简称《办法》） 发布。

国家互联网信息办公室有关负责人表示，“《办法》坚持目标导向和问题导向，明确了促进生成式人工智能技术发展的具体措施。”这一《办法》共计5章24条，将于2023年8月15日起施行。

对外经济贸易大学数字经济与法律创新研究中心主任许可为该《办法》的拟定提供了建议和意见。在许可看来，我国的通用大模型等生成式人工智能创新仍处于萌芽期，这时推出《办法》，区别于其他在业态发展至成熟期时推行的管理规范，属于“在技术创新的同时实现监管创新”。

许可希望外界 不要习惯性地将《办法》理解成为“一种监管” ，从治理的角度看，《办法》出台极大程度上会利于当下生成式人工智能相关产业朝着规范化方向发展。

监管创新

7月13日下午，许可在接受经济观察网记者采访时表示，《办法》经历了多轮修订，如今落定的24条细则中，“发展被放到了更为重要的位置上。”

在《办法》征求意见期间，360公司作为大模型厂商代表也曾参与其中。360公司创始人、董事长兼 CEO 周鸿祎告诉经济观察网记者，公司通过书面反馈、当面交流等多种方式参与了相关部门组织的沟通交流，而上述监管部门也乐于听取科技企业的意见和建议。

许可说，早在去年末，ChatGPT便呈现出火热态势，当时引发管理部门关注的，“首当其冲的是风险问题。”可以看到，数月之前的4月11日，国家互联网信息办公室出台了《生成式人工智能服务管理办法（征求意见稿）》中，“把风险防控和监管放在首位。”

许可称，在公开征求意见后，网信办曾收到数以千计的社会反馈意见，后期对《办法》的修订过程中，还组织其他部委、学界、企业界等各方进行交流、反馈。

“《办法》是一个集思广益和最大程度去吸收各方意见的成果。”许可说。他指出，顶层设计层面对于通用人工智能产业的发展也尤为重视，出台《办法》加以规范产业发展的同时，也在一定程度上体现了我国的创新监管方式，他认为， 创新在于“暂行”二字，“它是一种敏捷治理” 。

边界明确

许可特别提及《办法》的总则中有如下表述，“基于生成式人工智能服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成式内容的准确性和可靠性。”在他看来，监管机构对于技术服务和产业发展的规范，也是一种动态调整的方法。

周鸿祎也在《办法》中看到了相关部门在监管方式上的先进性，尤其针对大模型生成式的特点，不是事前审查，而是强调事中和事后的过程监督，遵循了“促进创新和依法治理相结合的原则”。

《办法》增加了“推动基础设施和公共平台建设”“促进算力共享”“推动公共数据开放”等内容，周鸿祎觉得，这表明有关部门鼓励创新，支持大模型发展的态度，为科技企业创新提供了信心和保障。

在周鸿祎看来，《办法》还有一个亮点，明确了适用边界，既能够规范大模型的公众服务，同时也有利于组织机构的研发和应用。在产业数字化赋能方面，他将大模型视为工业革命级的生产力工具，可以帮助传统产业特别是制造业实现“数字化到智能化”的升级。

“大模型未来真正的发展机会就是企业级市场，包括组织机构、政府和城市。”周鸿祎从目前的《办法》来看，国家对企业级场景的应用研发和落地，整体持大力支持的态度。

“人工智能是数字科技、信息技术的明珠。”许可觉得，当前各方都在关注大模型进入行业场景，探索应用落地，一个可以想象的未来是，生成式人工智能技术与服务会成为一个强有力的生产力工具，而《办法》的出台背后，恰恰反映出中国已经认识到生成式人工智能所具备的产业推动力。

AI治理

另外，在日前结束的世界人工智能大会上，不论产投领域还是学界人士，都将目光投注到了创新AIGC技术背后带来的AI治理问题上。

在许可看来，公布《办法》彰显着中国对于AI治理，对以生成式人工智能为代表的通用人工智能产业治理的一个基本态度。“从开始的风险预防为主，到现在更多是谋求发展与安全的平衡。”

看到《办法》强调“坚持发展和安全并重原则”，并强化了企业和内容提供者的主体责任，周鸿祎十分认同， 大模型是数字化的顶峰，同样是把“双刃剑”，带来生产力提升的同时存在安全风险，如数据和算法安全问题，甚至技术创新“幻觉”会带来一定的内容安全风险 。他认为，“加强生成式人工智能大模型技术的安全向善、可信可控，才是创新发展的前提。”

《办法》还规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。

此外，《办法》也规定了安全评估、算法备案、投诉举报等制度，并对相关法律责任进一步加以明确。

当然，不只是面向中国正在进行生成式AI技术创新的企业，《办法》的适用范围还包括了向中国境内提供生成式AI服务的海外企业，这样一来， 全球以OpenAI为代表的海外人工智能企业，可能都将被《办法》的相关条例限制或“辐射” 。

其中，《办法》第二十三条中还有这样一个表述，“外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。”许可认为，《办法》不仅扩大了我国对外商的管辖权，更突破了所谓的地域限制。

不过，中国主流的大模型厂商与OpenAI这样的海外企业还存在“代差”，当中国企业快速跟进时，面对新兴技术发展，许可认为， 规范立法最需要解决的便是“步调难题”：我们的发展步子，究竟是快还是慢？

在产业初步发展的萌芽期，就出台《办法》推行治理的方式，许可理解，毕竟生成式人工智能是通往AGI的必由之路，已经是全球产业达成的共识，而中国人工智能产业，也是其中亦步亦趋摸索的那个。

本文来自： 经济观察网 ，作者：钱玉娟