可信AI一小步，智能城市一大步

IBM副总裁,大中华区首席技术官 谢东博士

城市是我们共同生活的家园 ,  它的安全、高效、清洁、便利 都令我们倍加关注 。 所谓智能城市，可以理解为对智慧城市的演进，是在对城市感知的基础上，通过人工智能等智能算法再反作用于城市，产生实际的影响，这就是“能”。今天，人工智能正扩散到城市的方方面面，例如电子商务、无人超市、自动驾驶、智能楼宇、智能工厂、智能医疗等等。不可否认的是，人工智能在城市中的大规模扩展应用还处于起步阶段。对于现代化城市来说, “城”(城市建设)与“工”(工业、行业)的应用升级都很重要。 正所谓 ,行业不智能,  城市何以智能。 而 一个可信 的 AI基础 对于“ 城 ”与“工”的智能化来说， 也 是 至关重要。

AI 嵌入城市百业

今天，人工智能技术，正被研究员和开发者的各种思考和创新，“嵌入”到城市的百业百态中。

智能交通应用，可以根据天气、交通、路况等情况给人们交通建议,动态地调整方案，给出最佳的交通方式建议，甚至可能是 汽车 、步行或者使用电动滑板车等; 电梯与AI的结合, 数以10亿人次计的乘梯，如何保证人们更高效、更安全地乘坐电梯: AI甚至可在森林火灾发生的前 20 分钟内检测到火灾，帮助消防员减少发生重大环境事故的可能性。

不过，问题来了：如果一个技术非常强大，但是却不能以符合人类道德的方式服务人类，那么如何评价它的价值？人工智能对城市的影响越来越大，但是我们可以完全的信赖人工智能吗？例如，全球首例无人驾驶车撞死人案，其原因是行人并未走人行横道，无人驾驶车也就没有刹车；此外,再比如,在没有人工和技术介入的前提下，人工智能算法甚至可以产生无法识别少数裔的偏见。

真实的世界远远比下棋或者上述几个场景要复杂得多，人工智能的发展速度也远远超出了人们的想象。随着人工智能应用在各行各业的广泛使用，“可信”越来越成为一个严峻的问题。

可信AI 让城市更美好

企业和行业是城市百业的基础，也是“市”与“工”的体现。城市的发展离不开企业的发展，城市智能化源动力之一终究来自于企业的智能化。 我们将 企业级 AI 划分 分为三 个维度 ： 先进 AI （ Advance AI ）、可扩展 AI （ Scalable AI） 和 可信 AI （Trusted AI ） 。 简单概括而言, 先进的AI是让AI更加强大；可扩展性的AI是让AI更广泛应用到行业中；可信AI，即确保AI的公平性、可解释性、健壮性和透明性，是为了让AI能够被人们所信任，真正成为人类的助手和伙伴。在此基础上，企业不断推动AI规模化发展，让AI助力企业和城市智能化。

可信对于企业级AI至关重要，只有确保AI所作出的决策是公平、易理解、安全、可信赖，人们才能信任它，AI才能真正发挥作用。前不久，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。该《治理原则》强调要确保人工智能安全可控可靠，推动 经济 、社会及生态可持续发展，共建人类命运共同体。

IBM非常重视可信AI，在这方面做了巨大的努力。IBM不仅秉持可信AI的价值观,还在方法论,和工具层面都取得了很大的进展。 我们将可信人工智能的维度定义为科学和工程目标，不仅概述实现这些目标的各种方法 论 ，还推出了各种工具以确定在整个人工智能应用程序生命周期中集成它们。

首先， IBM认为一个可信任的AI系统，需要遵循几个基础原则：公平性（Fairness）， 比如, AI系统应该采用不带偏见的数据集和模型，从而避免对于特定群体的不公平； 可解释性（Explainability）， 比如, AI系统所提供的决策或建议 不是一个不可解释的黑箱 ，应该能够被用户和开发者所 分析、 理解； 健壮性（Robustness）， 比如, AI系统应该安全和可靠，不会被篡改，也不会受被“污染”的训练数据集影响； 透明性 （ Transparency ）， 比如, AI系统 可以被透明化管理,其 开发、部署、维护等可被追踪，能够在生命周期范围内被审 核 等。

其次，IBM提供了工具和技术来识别和减轻风险和违规行为，帮助理解与信任有关的人工智能模型的影响和挑战，并帮助开发人员和数据科学家构建可信、安全和可解释的人工智能系统。比如： AI fairness 360,是一个全面的开放源码工具集，包含度量和算法，用于检查和减轻AI中不必要的偏见，帮助社区建立对AI的信任;AI Explainability 360是2019年8月9日发布的一个开源的最先进算法集合，它使用一系列技术来解释AI模型决策;在AI的健壮性/鲁棒性方面，IBM研究院推出了Adversarial Robustness 360 Toolkit，这个工具包是IBM研究团队开源的用于检测模型及对抗攻击的工具箱，为开发人员加强 AI 模型被误导的防御性，让AI系统更加安全。

此外, IBM正在提高AI的透明度，并推出工具让数据科学家以及企业高管寻找模型中的不足。AI OpenScale的推出是IBM提高所谓的“黑箱方法”透明度的一部分,从而加速AI的规模化发展。

其中,在AI的可解释性和可追踪方面，AI OpenScale技术平台，可以在各种 AI 应用程序运行时，检测并解决其中的偏见问题；无论AI应用程序在何种环境中构建或运行，AI OpenScale 都可让企业在人工智能的整个生命周期中实现透明化管理，记录每项预测、每个模型版本、所有使用的训练数据及各种指标，帮助企业遵守欧盟GDPR等法律法规。

如今，IBM技术正在保障企业、城市和人们都将受益于可信人工智能。IBM z系列大型主机、LinuxONE主机、Power服务器、存储等面向企业级专用硬件，加上IBM在数据管理、人工智能、应用管理和操作系统等领域的企业级软件，以及IBM研究院在探索可信人工智能方面所做的各种创新实践，连同IBM多年积累的行业经验,为企业交付了可信AI的数字基础设施。而企业AI的每一小步进步，都意味着人类距离智能未来的梦想更进一步。

创造未来的过程，则需要把对未来的思考和当下的实践相结合。IBM将塑造可信AI的价值观与推动多种可信AI工具的结合，就是“知行合一”。我们相信， 科技 向善, 坚持汇聚点滴信任，终将成就智能行业、智能城市。