聚焦人工智能与大数据时代的法律问题

　　 会议综述

信息产业发展战略研究院作为南京邮电大学专门从事信息产业领域软科学研究的机构，一方面关注大数据和人工智能背景下隐私保护问题，另一方面重点研究网络空间安全战略与法律问题，着力打造信息通信领域高端智库。

2018年10月19日，由亚太地区隐私保护学者联盟主办、南京邮电大学信息产业发展战略研究院和科研院承办的第七届亚太地区隐私保护学者联盟国际会议在南京邮电大学三牌楼校区召开。南京邮电大学副校长张志华出席会议，会议开幕式由南京邮电大学科研院副院长胡纵宇主持，学术报告环节由南京邮电大学信息产业发展战略研究院院长黄卫东主持。来自中国香港、中国台湾、澳大利亚、新西兰、意大利等国家和地区，浙江大学、西南政法大学、重庆邮电大学等国内知名高校，蚂蚁金服、高通律师事务所、方达律师事务所、360企业安全集团、阿里巴巴集团、江苏省高级人民法院的专家学者，以及南京邮电大学师生，共100余人参加会议。南京邮电大学教授王春晖、奥克兰大学Gehan Gunasekara和Alan Toy、浙江大学教授程乐、麦考瑞大学John Selby、高通律师事务所主任敬云川、奥克兰大学Benjamin Liu、西南政法大学教授张建文、蚂蚁金服李海英、台湾“中央研究院”Chih-hsing Ho、方达律师事务所律师张毅、香港中文大学Angela Daly和香港大学Philip Kwok，先后就“人工智能的伦理、法律与监管”“大数据时代的法律服务重构”“个人信息保护的立法与司法实践”“人工智能与个人数据保护”等议题进行主题演讲。学者们围绕大数据和人工智能背景下隐私保护的法律监管、法律服务重构、互联网治理、立法和司法实践、数据权利保护等展开了深入的探讨交流。

2018年11月18日，由中国通信学会主办，南京邮电大学、中国政法大学、浙江大学、法制网、360集团、世纪互联集团和中国云体系联盟联合承办的首届“网络空间安全战略与法律”学术研讨会在北京举行。本届研讨会的主题为“构建网络空间命运共同体实现网络强国战略目标”，中国工程院院士倪光南、中国通信学会副理事长兼秘书长张延川、中国铁塔公司副总裁兼中国通信学会副理事长高步文、中国政法大学副校长时建中到会致辞。研讨会设立了“国家网络空间安全战略”“数据安全与个人信息保护立法”“网络平台责任与治理”“人工智能的伦理、法律与监管”“提升网络空间防护能力”五个单元。来自中国社会科学院法学研究所、南京邮电大学、清华大学、上海交通大学、东方航空集团、中共中央党校（国家行政学院）、中国人民大学、教育部网络空间安全教育指导委员会、国务院发展研究中心、北京邮电大学、同济大学、重庆邮电大学、西南政法大学、中国云安全联盟的专家学者，从网信战略、技术和法律融合的角度深入分析了构建网络空间安全的战略路径和法治保障。来自政府监管部门、高等院校、研究机构、电信运营商、著名互联网公司、网络安全企业以及相关领域从事信息通信、网络安全、网信法律等领域的领导、专家、学者和实务工作者200余人参加本届学术研讨会。

　　 专家观点

　　 数据保护：技术与立法并行

　　 南京邮电大学副校长、教授 张志华

数据保护已成全球性问题。在互联网及大数据技术的极速发展过程中，信息安全问题逐渐成为涉及政治、经济、文化、社会、军事等各个领域的综合问题，越来越多地与政治外交、经贸发展、个人隐私权益等交织在一起，涉及政府、企业、个人等各个方面。信息安全问题在当今时代日益凸显，随着大数据和人工智能技术的发展，数据的挖掘、整合、交易越来越便利，各种数据使用主体对个人信息掌握和使用越来越深入，大量个人信息在网络上存储、生成、使用和交换。随着人工智能及大数据相关技术日益深入我们的日常生活，技术变革带来数据获取渠道与使用方式的多样化，用户隐私权、安全面临越来越严峻的挑战。

数据保护应该技术与立法并行。数据的价值就在于能够把人的特征、行为、选择等信息化，反过来为人类的社会、工作、生活提供方便，但大数据时代不能变成没有隐私、没有禁忌的时代，而应该是更加注重保护隐私的时代。这就要求隐私的保护在技术上要保证数据来源与处理方式的透明性、可控性以及载体的安全性，在立法方面应当尽早明确数据与个人信息的法律规定与保护，通过完善相关立法，依法严厉打击非法泄露和出卖个人数据等行为，构建统一有序的法律环境。我国相关技术研究与立法研究都着眼这方面进行不断努力。随着越来越多的现实生活内容连接到原本虚拟的互联网上，日益敏感的且具有挖掘价值的公民个人信息被各家企业存储到云端设备，数据隐私保护日益严峻。我们能做的是让这些信息交换过程变得可控，在造福社会的同时维护人们原本和谐的生活场景。

　　 AI发展与监管：以人为本

　　 南京邮电大学信息产业发展战略研究院首席专家、教授 王春晖

人工智能（AI）的发展出现了三次浪潮：第一波浪潮（1956—1976年），核心是逻辑主义（符号主义）；第二波浪潮（1976年到1980年代中期），主要是连接主义，即“出自大规模连接的命令”；第三波浪潮（2006年至今），其代表性的成果就是基于大数据的深度学习。高速并行运算、海量数据、更优化的算法共同促成了人工智能发展的突破。

AI领域应重点研究机器道德（Machine Morality）、机器伦理学（Machine Ethics）、道德机器（Moral Machine）、价值一致论（Value Alignment）、人工智能道德（AI Morality）。我们应当将人类的规范和道德价值嵌入AI系统：首先，要识别特定社会或团体的规范和价值；其次，将这些规范和价值编写进AI系统；最后，评估被写进AI系统的规范和价值的有效性，即是否与现实的规范和价值相一致、相兼容。

人工智能的监管，应遵循三个原则：1.AI的发展应当体现对人权的保护；2.优先考虑AI对法律、社会伦理和侵犯个人隐私的冲击；3.通过立法和强制性标准的制定，削弱AI对人类的风险和负面影响。人工智能的本质是服务人类社会（AI as a service，AIaas），而人类社会的核心价值就是“以人为本”，应当设计人工智能的定制政策依据，然后完善权利保护，特别是隐私的保护，包括默认保护隐私，以及加密保护隐私等技术。总之，人工智能技术的发展应当造福人类，贯彻“以人为本”的原则，这是发展人工智能的基石。

　　 构建国际信息通信制度性话语权

　　 南京邮电大学信息产业发展战略研究院首席专家、教授 王春晖

国际信息通信制度性话语权，是指我国在参与联合国国际电信联盟和其他区域性国际信息通信组织的相关国际规则制定中的话语权及其影响力，也是确立我国国际信息通信制度性话语权，即在参与审议、制定、修订国际信息通信规则中的影响力。

“制度性话语权”是党中央确立的中国参与全球治理的一项重要国际战略，是一种新型的、间接发挥作用但更为持续性的话语权。它具有三大特征：1.制度性话语权是一种新兴的全球治理的话语权形式；2.制度性话语权是一种间接性权力，是国家行为体通过国际组织，间接影响或塑造其他行为体的行为；3.制度性话语权是一种以参与国际规则制定而形成的可持续性话语权。

结合参与国际电信联盟《国际电信规则》审议的经历，我国在参与国际信息通信规则制定中存在以下问题：1.缺少统一组织参与国际信息通信规则制定、国际法建设、条约缔结工作的部门；2.缺少国际信息通信法与国内信息通信法衔接处理的规范和机构；3.缺少了解、熟悉和掌握现有国际法话语体系、深刻理解国际信息通信法治一般原理和标准，特别是缺少具有全球信息通信发展新趋势洞察力的高层次人才；4.缺少一套融合现代国际法方法论和观念，同时引入中国在国际信息通信法体系内的经验、地位、目标与诉求的国际信息通信法教材。

　　 数据驱动：法律服务重构

　　 浙江大学教授 程乐

大数据时代，数据已成为最有价值的资产。一方面，大数据的规模性、多样性、复杂性、高速性、可变性和价值性导致有关数据纠纷愈来愈多。通过之前所进行的“基于语料库的网络安全法律研究”，发现数据（信息）是美国、中国和欧盟三个司法管辖区网络安全法律的重点规制对象。另一方面，欧盟于2017年9月发布了《非个人数据自由流动条例（提案）》，可充分挖掘数据的价值性从而促进数字经济的发展。大数据时代，律师可基于数据驱动的方法通过分析类似案件中的结果分布来回答此类问题。可以数据驱动下的合同分析、ROSS Intelligence和无讼三个案例说明大数据时代数据是如何被应用到法律服务中去的。

大数据时代背景下需要对法律服务进行重构。首先是法律服务模式的重构，基于个性化法律的聚合将颠覆传统法律服务，通过人工智能分析和数据清洗机制，按照个性化需求聚合相关的信息和应用，并以此对信息进行深度智能分析，以实现用户个性化的、动态的需求；其次是法律服务跨界融合的重构，大数据时代传统产业将自我颠覆，大数据的运用促进了不同行业、不同领域的数据交换和相互融合，传统产业互联网化与互联网企业传统化正在打造“法律生态服务体系”；再次是用户体验价值模式的重构，1.0服务与2.0服务的最大不同在于：从单向向双向转变——所有服务成为OAO的服务模式，用户的体验和评价将颠覆服务的运营模式，法律大数据应用最核心的竞争力——未来预测。通过大数据关联关系分析受众需求、偏好及行为模式，提升用户体验价值。

　　 隐私权利：综合保护

　　 西南政法大学教授 张建文

从新兴权利保护的角度看，隐私权在我国逐渐引入、接受、发展的历程，是研究新兴权利保护方式的最佳标本。从最初的附属于既有人格权的方法、值得法律保护的合法利益的方法、援引宪法基本权利条款的方法、司法判决创设权利的方法，到民事立法上的法定权利、宪法上的隐私权、行政法上的隐私等实在法权利的方法，纷繁不一，杂然有序。由于隐私权规范的立法局限，隐私权的保护方法问题至今仍未定型，不断有以新兴权利面目作为隐私权内容的或与隐私权紧密相关的诸如个人信息、被遗忘权等“隐私”利益出现。这不仅成为我国民事立法和司法实践面临的重大问题之一，而且也是世界各国在当前人工智能发展领域中所面临的共同挑战。对于隐私权、个人信息、被遗忘权等相关利益之间的关系，及其是否应予保护以及如何保护的问题，无论是法学理论还是司法实践仍处于多样化探索之中。

尽管我国在民事立法上规定了隐私权和个人信息保护二元并立格局，但由于个人信息保护所依赖的借助国家公权力强化保障的现代保护机制（即个人信息主体权利保护主管机关制度）并没有在立法上确立，导致现代个人信息保护机制所具有的借助于公共机关补强私人寻求救济的意愿、动力和能力之不足的特点没有彰显出来，反而在个人信息保护上和隐私权的保护上均严重依赖于私权所具有的个人主动性和参与性，使得二者之间的共同性似乎远远大于其差异性，而且使用隐私权来解释个人信息保护的理由也较为便宜和可接受。从我国隐私权保护的司法与立法实践看，隐私权的保护成为使用保护方法最具多样性、最具发展性的新兴权利保护试验区。

网络空间和数字资产管理与保护

南京邮电大学信息产业发展战略研究院院长、教授 黄卫东

随着信息化、数字化的发展，人们的生活和生产空间以及社会关系和生产关系通过数字化映射，投射到现实空间。网络空间成为了现实社会的镜像。随之带来的空间管理和空间安全如何比照现实世界来重构，成为值得大家思考的重要问题。需要依靠新思维、新模式、新规范，构建多边、民主、透明的国际互联网治理体系，在尊重网络主权前提下，创建和平、安全、开放、合作的网络空间。

数字空间中凝聚着消费行为和客户体验的数字资产正逐步代替物质资产成为企业（个人）的核心资产。从实物资产权利到数字资产权利的转变，应如何创设产权体系和产权制度？目前我们应积极从现有的法律规范、法律原则出发，对数字资产的运用进行多维度的法律保护。未来，我们应结合实践积极立法，逐步构建科学合理的数字资产保护体系。

数据保护：紧跟AI的发展

蚂蚁金服隐私保护专家 李海英

纵观人工智能2018年新的发展趋势，会发现：1.机器学习无处不在，面部识别技术应用到很多场景，语音交互的竞争在产业界已经产生非常重大的影响，这些产业的发展在个人数据保护方面带来更多的不确定性。2.数据搜集超出原有目的使用成为常态。3.人工智能对现行法律中个人数据保护规则带来挑战。4.数据搜集无所不在，而且通过关联性分析和数据分析技术，很可能会使过去非个别信息识别到个人，从而变为个人信息。5.新技术不断发展会有新保护目的。6.责任主体存在多样性问题。算法的开发者，或是服务使用者，抑或是其他人，谁应为数据保护承担相关责任？7.个人数据保护是每个行业人工智能应用所遇到的共性问题，但每个行业属性不同会带来个人数据保护规则的特殊性或专门性。以上是目前立法中很难回应的问题。

未来应施行何种个人数据保护制度，尚需长时间探索。同时，我们还需秉承基本的价值追求，坚持更具包容性的价值追求，追求数据使用的公平、透明以及非歧视性。未来我们更要面向数据使用的结果，更侧重于使用过程中避免损害数据主体的利益，更多利用人工智能技术解决个人数据保护问题。

个人信息：完善立法

高通律师事务所主任 敬云川

我国个人信息保护立法和司法实践的特点是：1.分散立法，以全国人大的刑法修改及最高人民法院的司法解释为主要立法形式——我国个人信息保护立法进展，呈现出分散立法的特点。2.体现出有利于产业发展的倾向。3.“刑法先行”特征明显。4.“重打击，轻管理”。我国现有保护个人信息的法律基本都是末端治理的制裁性规范，而非源头治理的引导性规范。

就完善个人信息法律保护制度，敬主任提出以下几点建议：1.尽快启动并完成《个人信息保护法》立法程序，实现从末端治理到源头保护的转变，建立行政法、民法和刑法规则相结合的综合治理的个人信息保护制度；2.在个人信息保护的民事责任方面，应该建立普遍的严格责任制度，把侵权人的抗辩理由压缩到极小范围；3.更好平衡市场与个人信息保护的关系，加大个人信息保护力度，在保证安全的前提下实现其价值。

国际学者观点

Gehan Gunasekara（奥克兰大学副教授）和Alan Toy（奥克兰大学讲师） 认为，保护公民数据隐私权的主导模式已经开始在规范网络和越来越多的跨国商业环境方面产生重大困难。在全球化的互联网环境中，这开启了域外管辖权可能为支持数据隐私提供更令人满意的概念基础的可能性。

Angela Daly（昆士兰科技大学讲师） 和与会专家探讨了新的消费者数据权利，该权利将于2018年底开始在澳大利亚实施，主要涉及数据可携带性的新权利。

John Selby（麦考瑞大学讲师） 分析ICANN不愿采取足够措施的经济、文化、历史和制度原因，这些措施可以使其域名WHOIS服务符合欧盟通用数据保护条例的实施日期。John Selby运用新制度经济学理论来探索ICANN的结构，财务激励和利益相关者压力如何导致美国非营利组织寻求最后一分钟的GDPR豁免（该豁免被欧盟数据保护监管机构拒绝，并提交德国提起诉讼，阻止欧盟注册商EPAG实施新的符合GDPR标准的域名注册系统）。

Chih-hsing Ho（台湾“中央研究院”） 提出，目前的隐私和数据保护监管框架主要侧重于匿名化和去识别机制。尽管这些技术可以降低数据主体在一定程度上被重新识别的风险，但是当公共数据在公共边界之外共享时，保护整个社区的身份通常是徒劳的。因此，如何建立适当的社区治理框架仍是一个尚待解决的重要问题。

其他与会国外专家学者也发表了精彩论述。

南京邮电大学信息产业发展战略研究院简介

南京邮电大学信息产业发展战略研究院是南京邮电大学专门从事信息产业领域的软科学研究机构。研究院立足中国新一代信息科技和产业的发展，前瞻性地提出重大的战略、政策、治理结构和基础理论问题，持续关注国内外信息科技和ICT知识产权的发展趋势和格局演变，按照“有核心、无边界”和“小机构、大网络”的发展原则，组织跨学科的综合研究，培养信息科技领域的高端软科学人才，现已成为聚集中国多领域高水平综合性知识的“智库”。

研究院围绕国家战略性新一代信息技术的软课题进行研究，所承担的课题包括：教育部人文社科项目“大数据时代突发事件网络舆情传播规律及监控研究”，南京市发改委“聚焦富民，推动人民生活高质量发展”，中国医药卫生发展基金会、中国移动通信集团辽宁有限公司的“居民健康档案管理信息化业务发展模式与方案研究”，工信部通信软科学项目“国有企业与民营企业协同创新下的混合所有制改革研究——以通信业改革为例”，江苏省社会科学专项基金“江苏省国有企业混合所有制改革路径研究——以江苏省电信业改革为例”等。与百度网讯科技有限公司保持长期合作，共同建立互联网竞争与监管协同研究中心，开展互联网竞争与监管研究，撰写、发布中国互联网竞争与监管蓝皮书和专题报告，共同打造互联网竞争与监管领域的知名论坛品牌。

研究院长期从事信息产业领域软科学研究，拥有高校优秀研究团队，先后形成了《国家机关及国有企业工作人员预防腐败法律风险指南》《中国反电信网络诈骗蓝皮书（2016）》《维护网络空间安全——中国网络安全法解读》等重要成果。研究院近三年来先后承担省部级及以上项目14项，研究经费总额近300万元。研究论文在International Journal of Computers Communications & Control和Journal of Computational & Theoretical Nanoscience，以及《中国软科学》《情报杂志》等重要期刊公开发表。

责任编辑：李兰松