特斯联：超级人工智能引发AI伦理讨论

时至今日,人们对AI（Artificial Intelligence人工智能）并不陌生——城市中随处可见的AI场景及应用，给人类生活带来了很多变化：面部识别，让城市通勤、居家有了更便捷的体验；AI模拟成像，让古风甚至穿越成为可能；智能算法的物品筛选，让购物实现千人千面。而随着接踵而来的核心技术的突破、重磅落地的技术前沿革新，“超级人工智能”的诞生及应用让社会对其产生了不同的看法，一方面认为AI可极大提升生产力，推动社会进步，改善人类的生存环境；另一方面则强调AI颠覆性的发展与存在，或将在未来大面积取代人类，并带来伦理层面的挑战。

AI伦理，顾名思义就是AI的伦理学，亦称作“道德哲学”，是对人类道德生活进行的系统性思考和研究。人类对于AI伦理相关的话题，探讨已久。数据科学家凯西·奥尼尔则在《算法霸权：数学杀伤性武器的威胁》一书中，描述了利用大数据、人工智能相关技术导致的偏见和不公。物理学家史蒂芬·霍金曾经谈到，彻底的人工智能可能导致人类的灭亡。特斯拉公司CEO，伊隆·马斯克认为，人工智能是一个恶魔，但是人类不一定具备控制这个恶魔的能力。

但即便如此，从1950年的图灵测试落地到今日人工智能城市AI CITY的诞生，AI的发展显而易见，在“曲折”中持续前行，由此其中夹杂的AI伦理也逐渐成为AI发展之于社会影响的舆论焦点：“超级人工智能”是否会威胁人类的生存安全？算法决策是否能够保证结果公平？当越来越多的“超级人工智能”，特别是机器人投入到使用中，人与机器人的关系如何处理？从弱人工智能到强人工智能甚至是超级人工智能，人工智能是否会失控？所有这些关乎人工智能发展对人类社会基本运营法则的影响的讨论，都属于人工智能伦理的研究范畴。

这些专家和学者的担心并非杞人忧天。机器学习、深度学习算法等人工智能技术，使得计算机可以从数据中不断“学习”，实现自主学习与进化。当前在众多领域，如餐饮、社会服务、巡控检查等，人工智能已经代替人开展了很多工作。未来在某些领域，人工智能可以做出比人类更高效、更精准、更科学的预测和决算。当人工智能进化到足够的高度，产生类似人的情感及“人性”，甚至是与人类伦理类似的“道德伦理观”时，人与机器人的关系是什么，伦理学中人的地位是否会发生变化？这些当前并未清晰定义的问题关系到未来人类生存、生活、发展的方方面面。

AI伦理的5大热点领域

　　随着人们对于这一问题的认识不断深入，目前围绕人工智能伦理，已经有了明确的问题聚焦。算法歧视、数据隐私、安全与责任、机器人与人的关系以及 科技 贫困是当前AI伦理5大热点研究领域。

算法歧视 算法基于已有的数据进行未来的预测，算法模型和数据输入很大程度上决定着预测结果。无法保证算法开发设计者自身的价值判断不会嵌入算法系统。

数据隐私 人工智能充分挖掘和利用数据的相关性，促进了大量数据的采集和流动。通过人工智能终端，后台服务器可以轻易读取个人的活动信息，公共区域高清摄像头随时捕捉行人、行车信息，人脸识别系统轻松抓取面部生物特征，个人、企业的数据隐私将面临越来越多的讨论。深度伪造技术的应用，也出现了滥用个人信息，制造虚假导向等问题。

　　安全与责任 自动驾驶 汽车 曾导致人员的伤亡、机器人也曾致人受伤。人工智能系统有较强的自主性，也存在受到网络黑客篡改汽车数据的隐患，当出现相关的安全与责任问题时，如何判断责权。

机器人与人的关系 人工智能与人类是命令和服从的关系还是友好互动，和谐共生？机器人是否应该获得“意识觉醒”，机器对人类是否会产生“反控制”，机器人与人的关系应该如何界定。

科技贫困 人工智能应用将在越来越多领域代人工，人工智能对人力资源的取代，使人类劳动力将面临失业风险。人工智能作为一种高精尖的技术，具有一定的技术门槛，可能产生人工智能技术被少数实力雄厚的大企业垄断的情况，而造成财富格局的固定化、收入差距的扩大化。

　　可以看到，AI伦理的5大焦点研究领域实际上涵盖了从科技发展到 经济 增长，乃至人类安全和社会稳定等诸多重大问题，仅靠学界提出呼声，显然是不够的。可喜的是，我们正在看到包括各国政府在内的多种组织和社会团体正在参与到AI伦理的讨论与探索当中。尤其是一批新锐科技公司从自身业务出发对AI伦理的阐述和发展贡献了有益的新思路。

　 多方构筑下的世界通识

2015年之后，随着人工智能在包括自动驾驶、城市智能化领域的广泛应用，各国政府、非政府组织及各类研究机构开始对AI伦理积极地探索。2019年，我国提出组建国家科技伦理委员会进行科技伦理相关的规范和研究，2020年该委员会正式成立。2021年1月1日，新《民法典》正式实施，从包括保障公众私生活“安宁权”、构筑个人信息安全防火墙到全面建立反性骚扰制度防线以及及时应对AI等新技术对人格权的挑战进行了描述。

欧洲委员会在《人工智能白皮书》中提出，人工智能最终的目的是增进人类福祉，AI以人为本，给予道德，可持续发展，尊重最基本的权利和价值；欧盟委员会提出“可信AI”，明确了三项基本原则：一、AI 应当符合法律规定；二、AI 应当满足伦理原则；三、AI应当具有可靠性。

IEEE（电器和电子工程师协会）发布《道德准则设计》，主张将价值观嵌入自主智能系统，并将体现人权的最高立项纳入人工智能及自主系统的一般原则。生命未来研究所提出的阿西洛马人工智能原则中从价值归属、司法透明、共同繁荣等13个方面对人工智能系统及应用提出了要求。

与此同时，一批新锐的人工智能领域的科技公司作为AI技术的具体研发方和应用方也提出了自己对于AI伦理的理解。以特斯联为例，其目前已经在包括重庆、迪拜等在内的中外重点城市开始推进人工智能城市AI CITY的落地，AI伦理无疑将成为未来AI CITY建设的重点关注方向。对于特斯联这类需要在全球进行业务拓展的公司而言，将中西方伦理观念进行融合，使其更具普适性和指导性，不仅是出于业务拓展的需要，也从具体操作层面弥补了当前AI伦理研究的盲点。

围绕人工智能伦理的探索，从当前的伦理问题思索，到未来可能产生相对明确而又普适性极强的伦理原则，形成伦理测度，进而进行伦理符合性评估是未来人工智能城市建设中不可回避的问题。但是中西方在道义与功利的伦理价值取向、情感主义和理性主义文化精神等层面存在差异，导致了对于AI伦理的阐述和解读形成了不同的思想阵营。以疫情中东西方社会面对个人健康码的态度和反应速率为例，不同文化心理下的市民对于公众安全与个人隐私之间的博弈有不同的理解。

此外，有研究者将人工智能分为弱人工智能、强人工智能和超人工智能，面对人工智能本身的复杂性以及未来发展极大的不确定性，当前还无法计算和预测超人工智能是否会产生危害，产生何种危害。而人工智能伦理的研究，正是希望通过伦理的原则对人工智能产生的负面影响形成制约。对于特斯联这样的科技公司而言，如何将伦理研究嵌入技术研发，使二者形成深度融合，解决当前及未来的问题，最大效用发挥人工智能的正面作用必将是关乎公司未来长远发展的重要课题。

任何一种革命性技术的到来，总是会伴随着这样或那样的认知冲击。从转基因技术到克隆技术再到当前的人工智能，随着人们知识边界的拓展，伦理范畴的讨论也将始终伴随左右。未来的AI伦理研究和应用必将是一个学界、政界、司法界、科技界共同构建的有机生命体，并向着世界范围内的通识渐进。