【研究报告】2020年度全球十大人工智能治理事件及变革趋势前瞻

人民智库 旷视AI治理研究院  |  联合发布

2020年度全球十大人工智能治理事件及变革趋势前瞻

当前，新一代人工智能技术正在全球范围内蓬勃兴起，与大数据、 区块链 、5G等新技术相互融合、相互因应，为 经济 社会发展尤其是数字经济发展注入新动能，正在深刻改变着人类的生产生活方式。与此同时，如何在新技术变革浪潮中始终立于主动，实现人工智能等前沿 科技 领域有效治理，确保其持续健康发展，也成为国际国内、社会各界广泛关注的重要现实问题、重大时代议题。

十八大以来，我国高度重视前沿科技领域发展与治理，并就人工智能、区块链、量子科技等新技术领域相关问题分别进行集体学习。其中，针对新一代人工智能发展与治理，特别提出“要深刻认识加快发展新一代人工智能的重大意义，加强领导，做好规划，明确任务，夯实基础，促进其同经济社会发展深度融合，推动我国新一代人工智能健康发展”。

刚刚过去的2020年，波澜壮阔、极不平凡。“两个一百年”目标历史交汇，中华民族伟大复兴战略全局与世界百年未有之大变局相互激荡、相互作用，新冠肺炎疫情仍在多国肆虐，人工智能在疫情防控、社会治理、国际协作等多个领域发挥重要作用，新一代人工智能技术发展取得诸多重大成果，世界各国积极探索与人工智能发展相适应的治理路径，出现诸多具有标志性意义、可能产生深远影响的重要事件。对这些事件进行梳理总结、深入研究，有助于深化对人工智能治理规律的认识，有助于更精准把握人工智能技术、产业、生态发展趋势，有助于引发社会各界就人工智能治理领域关键问题、重点难点进行深入思考，形成更广泛共识。

人工智能治理是复杂性、系统性很高的社会议题，涵盖政策、技术、产业、法律、传播、伦理、安全、国际关系等诸多领域。对国际国内人工智能治理标志性事件开展研究，也必然需要各界共同推动。为此，人民智库与旷视AI治理研究院成立联合课题组，共同开展“2020年度全球十大人工智能治理事件”遴选、评议，组织相关领域权威专家学者，从AI与公众福祉、AI与公平正义、AI政府（企业）治理、AI系统安全性与数据隐私安全等四个主要维度出发，依据理论价值、实践价值、新闻价值、研究价值等四个评价标准进行评议，并面向社会公众开展在线问卷调查，对人工智能产业领域从业者，相关部委、行业协会领导专家等典型群体进行深入访谈。经综合各方面资料、数据、意见、观点，最终评选出2020年度全球十大人工智能治理事件。

这些事件，反映着人工智能治理领域实践探索和前沿趋势，反映着新一代人工智能技术的广泛应用前景，反映着公众对人工智能治理引导科技向善，助力政府、机构、企业的多层次、多样化参与，通过新一代信息技术的良性发展增进人类福祉、改善民生的热切期待。

助手还是杀手？读懂人类意识的AI或者拥有自主意识的AI？关系人类福祉的人工智能，要走“边发展，边治理”的新模式

人工智能这一概念，自1956年美国达特茅斯会议提出至今，经历了漫长的野蛮生长初生阶段。霍金提出“人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险”；马斯克认为，人工智能的“风险大得多”，并且这是“威胁人类文明存在的根本性风险”。近年来，伴随无人驾驶、人脸识别、智能语音等人工智能技术的广泛应用，以及基于深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能技术发展的第三次浪潮来临，对于人工智能治理的讨论再次被社会各界广泛提及。

中国 互联网 飞速发展近30年，相关专家总结互联网治理的经验教训时，认为过去我们的治理模式之一就是“先发展，后治理”，即先“摸着石头过河”，待问题出现或者积累到一定程度，再进行专项治理并建立规范。然而人工智能在我国的爆发式发展所具备的新特征更为明显：一是政策支持和重视程度更高；二是与社会资本的结合度更高；三是原本已成规模的互联网企业纷纷涉足人工智能领域；四是技术基础、产业基础及经济社会发展需求更为强烈。这些因素都直接决定了人工智能治理不可能重复互联网治理的老路，对治理结构、治理路径和治理范围都提出了更多、更新的挑战，也需要我们以更创造性的理念来应对。

本次十大事件评选中，涉及人工智能与人类福祉、公平正义高度的事件受到的关注度最高，如通过算法黑箱侵犯外卖小哥利益的事件“AI成‘监工’：算法下外卖骑手挑战交通规则，‘助手’可能变‘杀手’”（排名第1，得票率51.20%）；以及假借人工智能技术进行违法行为的事件“湖南岳阳警方破获AI犯罪案，技术犯罪仍要惩罚人”（排名第9，得票率48.75%）。国际方面，最受关注的是人工智能技术突破现有边界，有可能对人类福祉造成不良影响的事件，如：“人工智能可以翻译大脑想法将大脑信号转化为文本数据，‘读懂意识’让隐私无处遁藏”（排名第2，得票率50.09%）；“人工智能技术突破现有边界，具备‘自主意识’，可实现独立研发、自我修复等功能”（排名第8，得票率48.75%）。

2019年，国家提出，“健全科技伦理治理体制”。将健全科技伦理治理体制作为推进国家治理体系现代化的重要组成部分，是在全球范围新一轮科技革命和产业变革蓬勃兴起、人类发展面临前所未有的新机遇和新挑战的历史时刻作出的重大部署，对于克服科技领域存在的伦理问题、促进我国科技事业健康发展，具有重要意义。

发展负责任的人工智能并非一国之责，而是全球之事；人工智能治理亟需建立国际共识，探索协同共治新模式

据有关机构预测，2030年，人工智能将带动全球GDP增长14%；其中，最大的收益将来自中国与北美，总计高达10.7万亿美元，占全球经济影响的近70%。如此巨大的经济体量，若失去法律、道德和伦理的约束，有可能造成不可逆转的负面影响。本次调查中，全球性、地区性及各国涉及法律、伦理、道德规范建设的事件得到了专家和公众的广泛关注，如“欧美、韩国相继出台AI治理新规，严格限制、甚至禁用相关人工智能技术在某些场景的发展和应用”（排名第4，得票率49.73%）等。此外，西方国家推动人工智能在军事领域的使用也受到广泛关注，“人工智能首次控制美国军用系统，或将开启算法战新时代”（排名第10，得票率48.22%）这一事件受到案例评审专家的多次提及。清华大学人工智能国际治理研究院名誉院长傅莹指出：“既然人工智能武器化不可避免，专家们研究的方向应是寻找合适的治理路径。”

上海交通大学文科资深教授、中国法与社会研究院季卫东院长认为，当今世界面临着围绕人工智能和数据的国际规则的博弈，中国在全球化时代和数字经济转型过程中相对处于比较领先的位置。但由于我们过去对人工智能治理重视程度不够，导致人工智能产品、产业在“走出去”的过程中，往往会在欧美国家遇到限制或指责，有些问题的确可以促进我国产品、技术、规范的进步，但我们也要学习适当地、巧妙地利用规则来维护国家和企业的合法权益。同时也要注意到不同国家人工智能治理模式的区别，比如美国强调人工智能企业的 商业 利益与企业在竞争中保持优势地位；欧盟则强调公民权利保障及在该前提下的规则博弈；中国在上述两个方面都有所涉及。

当前，我国正在积极融入人工智能全球治理体系，尽管偶有逆流和阻挠，但依然肩负起了一个负责任大国应肩负的责任，在人工智能全球治理中积极贡献自己的智慧和经验。目前的基本共识是人工智能的治理体系需要“柔性的伦理”和“硬性的法律”共同构建，更需要各个国家、国际组织、行业组织、企业、公众的多元主体参与，伦理、技术、规范、立法等治理举措齐头并进的协同共治模式。

从顶层设计方面实施国家规划并确定立法步骤。2017年，国家印发了《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划（2018—2020年）》，其中对人工智能伦理道德、法律政策提出了明确要求。要秉持“一张蓝图绘到底”的精神，根据规划要求实施人工智能法律政策“三步走”：到2020年，部分领域的人工智能伦理规范和政策法规初步建立；到2025年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力：到2030年，建成更加完善的人工智能法律法规、伦理规范和政策体系。

积极从全球治理角度凝聚人工智能伦理共识。2019年5月《人工智能北京共识》发布，针对人工智能的研发、使用、治理三方面，提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则。我国还鼓励不同层次主体围绕科技向善等核心伦理价值，拟定评价规则，构建人工智能的评估评价体系。一方面，引导人工智能健康持续发展，通过产业发展反哺人工智能治理领域法律法规等规则的建立健全；另一方面，借助人工智能等现代信息技术手段全面提升治理能力和治理现代化水平。2019年11月，《关于<中共中央关于坚持和完善中国特色社会主义制度推进国家治理体系和治理能力现代化若干重大问题的决定>的说明》中指出：更加重视运用人工智能、互联网、大数据等现代信息技术手段提升治理能力和治理现代化水平。

清华大学发布的相关领域研究报告显示，在人工智能领域，中国在科技产出与人才投入、产业发展和市场应用、发展战略和政策环境等方面表现亮眼，特别是论文总量和高被引论文数量、专利数量均排名世界第一，企业数量全球第二。2019年6月，《亚太及日本企业人工智能伦理道德研究》报告显示，中国企业在运用人工智能指导方针及管理标准方面位居亚洲前列。这些成绩的取得，与我国对人工智能“先行一步”的态度与积极主动地发展先进技术密不可分。

企业加强自律与内省是负责任的第一步，作为技术创造者，企业应成为AI治理中的重要力量

企业不仅是技术的创造者，更是技术应用的决断者、技术价值的设计者。企业价值观与行为，将直接影响技术为人类社会带来的改变。因此，企业是AI治理中决不能缺席的力量。AI治理是企业发展的必选项，而不是锦上添花。

但是目前，全球AI治理尚未形成统一标准与成熟路径。各国法律法规、标准规范各异，且落后于企业的商业实践，因此，企业自律成为有责任感、有长远发展意识的AI企业的首要准则。企业迈出自律的第一步，对AI行业整体发展来说就是重大进步。

纵观近年来人工智能治理领域内的争议事件，与人工智能头部企业相关的事件不胜枚举，尤其在2020年，国际科技巨头、中国领先科技企业都开始加速企业行动，提出企业自律措施。本次调查中，与企业AI治理相关的事件有“美国科技巨头依据自身道德判断，加强企业自律及对人工智能技术的监管”，排名第6，得票率49.55%；“自动驾驶服务驶上快车道，百度、滴滴等‘无人车’行驶背后的权责归属引关注”，排名第7，得票率48.89%。

人工智能的“自我进化”会随着相关技术研究的深入而越来越高，需要对技术发展中可能存在的风险与不确定性进行准确判断，更需要来自研究机构或前沿科技企业等专业力量的支持，以确保科技治理的有效性。中外前沿科技企业在人工智能治理中扮演着重要角色，头部企业对人工智能治理实践探索与理论研究的深度参与，为AI向善提供了重要指针。正如旷视副总裁蒋燕所言，“企业不能缺席人工智能治理，行胜于言，企业要将人工智能治理的每一步都落实到工作中”。2020年，AI企业旷视在AI治理上进行了更为深入的学术研究、探索并成功运行企业嵌入式治理模式。

上述事件背后与之紧密相关的看似是企业，却不仅仅是孤立的企业个体行为，政府、社会、研发人员都在其中发挥重大作用。企业是AI治理重要的承载方和落地执行者，更多企业的加入可以更为有效的落地法律法规。科研人员是人工智能的“技术源头”，在绝大多数情况下可以从源头上对人工智能的行为与能力进行限制。2018年10月，在人工智能发展现状和趋势举行第九次集体学习时，特别指出，“要加强基础理论研究，支持科学家勇闯人工智能科技前沿的‘无人区’，努力在人工智能发展方向和理论、方法、工具、系统等方面取得变革性、颠覆性突破，确保我国在人工智能这个重要领域的理论研究走在前面、关键核心技术占领制高点”。

AI应回归初心，为更美好的人类社会而生；人类应以更大的善意拥抱AI，与向善的AI和谐共处

当前社会上关于是否需要赋予人工智能法律主体地位，以及对于人工智能创造出来的作品或产品，其是否拥有著作权或受到知识产权保护等问题存在诸多讨论。“全国首例：法院认定人工智能生成文章构成作品，拥有著作权”，在本次评选中排名第3，得票率49.78%。这一标志性事件，为今后应对此类问题提供了参考样本。

特别值得一提的是，公众对AI与民生相关的问题高度关心，“AI向善，技术预警独居老人水表及校园暴力行为”，排名第5，得票率49.69%，这一事件引发了很多网友的讨论。国安新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》突出了发展负责任的人工智能这一主题，强调了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八项原则。在该原则指引下，我们会发现AI技术的“初心”——让人类拥有更加美好的生活。中国特色社会主义进入新时代，我国社会主要矛盾已经转化为人民日益增长的美好生活需要和不平衡不充分的发展之间的矛盾。日益增长的美好生活需要科技助力，更需要科技向善的力量。

在全球化浪潮下，人类命运共同体正在加速构建，在人工智能及其他领域的治理中，没有国家可以独善其身。亦没有任何一个社会主体能作壁上观。在此，我们发出三点呼吁：

全球对话上，我们希望各国能够展开更加积极地对话，在AI治理上达成广泛共识，构建并推动既符合全球人类福祉又符合各个国家特色发展的的人工智能治理框架，形成多维度、多层次、多主题的协同共治模式。

企业责任上，企业不仅是技术的创造者，同时也是技术的自省者。希望越来越多的企业，能够积极参与到AI治理中来，实现企业实践与学术研究更加紧密的结合，实现新治理模式的有效落地。

社会认知上，AI这一关乎每个人生活的前沿技术，需要社会大众更加理性地关注与看待。希望创造更加良性的公众反馈机制与舆论环境，实现AI可持续发展。

AI技术作为推动人类社会可持续发展的使能技术，为社会带来的改变还存在很大空间。与此同时，AI产业自身的可持续发展之路，也是漫长且充满艰辛。我们必须合力并进，才能实现共赢共享。AI时代，为了构建更好的人类命运共同体，我们仍需不懈努力！