「为我的公民建立起对AI的信任」，马克龙如是定义法国AI政策成功标准

雷锋网AI科技评论按：上周四，法国总统埃马纽埃尔·马克龙做了一场演讲，阐述了法国新的国家人工智能战略，法国政府将在五年内花费 15 亿欧元（18.5 亿美元）支持人工智能的研究、鼓励创业公司、并收集可供工程师们使用和分享的数据，其最终目标是赶上美国和中国，并确保 AI 领域的人才能够选择巴黎而不是硅谷。

在他演讲结束后，马克龙针对为何他对人工智能抱有如此高涨的热情这一话题，接受了《连线》总编 Nicholas Thompson 的专访。

在采访中，马克龙总统从政治层面阐述了在欧洲发展人工智能的特质。他认为问责和民主将成为欧洲人工智能（异于美国和中国）的一大特点，如何让算法透明，如何让法国的民众与人工智能企业之间建立信任，如何能够让法国人民拥抱人工智能的改革而不是被恐惧所阻止，将成为他判断自己以及他所领导的法国政府成败的标准。

下面为美国《连线》专访原文，雷锋网做了不改变原意的编译。

NT：Nicholas Thompson  ； EM：Emmanuel Macron

NT：首先，感谢您接受采访，能够和一位国家领导人深入探讨人工智能这一问题还是让人耳目一新的。作为开始，我先简单问一个问题，您和您的团队在筹备这个演讲时，AI 方面的哪些案例让你觉得震撼并决定「ok，这将非常非常重要」？

EM： 我想应该是医疗保健方面，这方面现在已经有个性化的预防药物和治疗。我多次看到在医学领域出现许多创新成果，它们能够通过更好的分析来预测人们未来可能会出现的疾病并加以预防。几年前，我曾参加过 CES 大会，当时有不少医疗保健方面的企业给我留下很深刻的印象，有来自法国的，也有许多来自美国、以色列以及其他国家的，它们在医疗保健领域做出颠覆性的创新成果：以新的方式进行治疗和预防各类疾病，并降低潜在的医疗风险。

另外一个可能是汽车方面。我们法国在这方面有一些做的很好的车企，美国也有许多公司在这领域表现出色。我认为这两个领域，即医疗保健和汽车行业，确实给我很深刻的印象并觉得很有希望。当你看到这些公司时，你可能很难不认为， 当下世界正在发生巨变，你原本以为会在十年后才发生的事情现在已经发生。

NT：看起来你关注 AI 的部分原因是为了法国的国家利益。但是在您的演讲中，似乎您认为法国或欧洲的价值观能够帮助塑造人工智能的发展，是吗？这些价值观是指什么？

EM： 我认为人工智能会彻底颠覆所有行业的商业模式，而且很快就将来临。 我希望法国能够参与其中，不然当行业发生巨变时法国会因为没有创造出一些新的工作岗位而处于被动地位。这就是为什么我们要这么做的原因。当然就像在别的领域一样，在这个领域要想赢就得去推动它，并为它准备赢者所需要的一切。所以这也是为什么我在教育、培训、研究以及创建初创企业等方面的第一个目标就是简化许多事情，例如拥有合适的管理体系、合适的融资体系、合适的规章制度等，以此来培育优秀的企业或者吸引优秀的企业过来。

不过你说的没错，AI 在伦理、政治等方面也带来了大量的问题，它对我们的民主和集体偏好提出了挑战。举例来说，在医疗保健领域，如果你拥有大量数据，你就完全可以将医疗健康变得更有预测性和个性化。我们法国将开放我们的数据，我在今天下午也宣布了这件事情。但是伴随着数据的公开，我们同时也打开了一个潘多拉盒。这些数据可以用来更好地治疗患者或者监控患者健康状况，但也可以出售给保险公司，保险公司的人以此来获利。因此，利用这些数据来进行商业活动时，机遇与风险同在。这使我得出您刚才提到的结论： 这场巨大的技术革命实际上也是一场政治革命。

我们看现在世界范围内人工智能领域的两个领导者，美国和中国。在美国，人工智能完全是由私营部门、大公司以及一些初创企业推动，他们做的所有选择都是与集体价值相关的私人选择。正因为这样，Facebook 与 Cambridge Analytica，以及自动驾驶技术才会引发一系列问题。另一方面，中国企业收集的大量数据主要由政府主导，他们的原则和价值观念和我们不同。

而我们欧洲在集体偏好上与美国或中国并不完全相同。如果我们想捍卫我们处理隐私的方式、我们对个人自由 vs 技术进步的集体偏好、我们人类和人类 DNA 的完整性；如果我们想要管理我们的社交选择甚至文明选择，那么我们就必须成为这场技术革命的一部分。这是在设计和定义人工智能规则方面掌握话语权的前提条件。这也是我想要成为这场变革中的一部分甚至成为其领导者的一个主要原因。我希望的是在全球范围内构建这个话题。

关键的驱动力不仅应该是技术进步，还应该是人类的进步。这是一个很大的问题。我坚信，欧洲是一个能够维护集体偏好并阐释普世价值的地方。我的意思是，欧洲是民主 DNA 的诞生地，因此我认为欧洲必须抓住对民主制度构成巨大挑战的问题。

NT：所以您是认为，未来的风险不仅仅是法国的经济增长，更是如何将整个价值体系纳入到全球技术变革当中。所以您要确保您自己、法国甚至整个欧洲大陆的价值观都参与其中，是吗？

EM： 当然。直白地说，我想为法国创造人工智能的优势。这也是为什么 Facebook、Google、三星、IBM、DeepMind、富士通等大型企业都宣布要在巴黎创建 AI 实验室或研究中心。其次，我希望法国能够成为人工智能在汽车、能源、国防、金融、医疗保健等领域引发革命的一部分，因为它也会创造价值。第三，我希望人工智能能够全是实现联邦化。为什么呢？因为 AI 就是变革和处理变革本身。例如，这种变革会让大量工作岗位变得不再必要，这就需要重新培训人员。但是人工智能也可能成为更好地培训这些人并帮助他们找到新工作的解决方案之一，这对我们国家非常有好处，也非常重要。

我也希望法国能够基于 AI 在跨学科上有更多的建树，例如数学、社会科学、技术和哲学。这对我们发展人工智能来说是关键的。因为如果在起点上我们没有关注这些创新方向，那么以后可能就会有许多糟糕的问题逼着你去面对这些。我一直认为长久以来隐私都是美国忽视的一个话题，现在就因 Facebook 的事件浮上了水面。自动驾驶的安全问题也是如此，现在也因 Uber 事件而浮上了水面。所以如果你不想阻碍创新，最好在伦理和哲学的框架内将它设计好。所以我认为，我们除了在国家层次促进 AI 产业外，也应当同样地去促进跨学科创新研究。

不过我同样也认为 AI 完全可能会危害民主。 例如我们正在用人工智能技术帮助大学来录取学生，这意味着算法承担着很大的责任。很多人认为这些算法是一个黑匣子，因为他们不明白学生录取的过程是怎么进行的。所以在我们开始依赖这些算法之前，我们必须对其公平性和透明性创造条件。我必须对我的人民有信心，确保在他们构建的算法中没有偏见，至少没有不公平的偏见。我必须告诉法国公民：「我鼓励这种创新，因为它会给大家带来新的服务，它会改善大家的生活。」但是我也必须保证在性别、年龄或者其他方面不存在偏见，除非这是我代表他们决定的。在鼓励人工智能创新的同时如何确保不危害民主，这是一个需要解决的大问题。如果在起步阶段没有处理它，或者认为它没有技术创新重要，那么在未来某个时间点它就会阻碍我们的发展。到时候人们会因为危害到民主，而拒绝这些技术创新。

NT：那么为保证这一点，法国政府开发的所有算法都是开放的，任何从法国政府获得资金的公司开发的算法也都是开放的吗？

EM： 是的。

NT：是否还有更进一步的举措来确保透明性呢？

EM： 我们将通过提升社会集体压力来促进算法的透明性。 我们将公开从政府资助项目中获得的数据，任何人都可以免费访问；我们也鼓励私营企业参与到公开与透明的进程当中。很显然，他们之中会有人说，我的算法存在商业价值，我不想让它透明。但我认为我们需要在服务提供商和消费者之间进行公平的讨论。消费者是我们的公民，他们会说：「我必须要更好地理解你的算法，确保它是可信的。」消费社会的力量是非常强大的，人们通过他们的 app、电脑等创造了大量的个人信息，人工智能技术可以结合这些信息来为人们提供更好的服务。但是在某些时候，作为公民，人们会说：「我需要确保我的所有个人信息不会被用来对付我，要符合道德标准，而且需要受到监控。我想了解算法在我的生活中到底扮演着一个什么样的角色。」我想在未来会有许多初创公司、实验室或企业会出现这样的举措，并向用户保证：「你可以来了解我们使用的算法，看它是否存在偏见。」我确信 AI 的下一波浪潮中，用户想要了解背后算法的需求将是一个需要着重考量的问题。

NT：当你谈论 AI 如何改变民主时，你有没有想象过这个场景？当你要做决策时，某个基于AI算法的系统便给你推荐了一个劳动改革方案，然后你不假思索地就接受了。

EM： 在决策这方面，我认为它确实能帮助我们，但它绝不会取代我们做决定的方式。当人们做决定时，这其实是一系列交叉检验的结果。

人工智能在这方面可以辅助我们。有时候我们做一项改革的时候，事实上并不完全清楚直接或间接的潜在影响，人工智能能够帮助我们考虑到更多因素，因此能够确保我们做出更加正确的决定。算法其实就是一个相关的公式，例如在经济和社会改革中，它能够让我们对那些直接或间接可衡量的影响能够有更清晰的认识。但更重要的是，在做政治决策时，我们需要有个人判断——这是决策者的个人特质，人工智能是取代不了的。

另外有一个 AI 无法取代的就是：义务和责任。 作为一个政治领导人，决定是他做出的，那么他就将为此承担责任，他永远都不能说：「哦，抱歉，这个决策确实很糟糕，不过它是算法给的。」

NT：让我们暂时回到人工智能对行业的变革这个话题。你在演讲中谈过很多关于交通工具的问题。人工智能将对交通运输行业产生巨大的变革，并且很多人会因无人驾驶的出现而失业。是的，它将创造新的就业机会，但法国人民似乎已经在这个领域发起抗议了。这个周末，有铁路工人罢工；去年秋天也有卡车司机罢工。这个行业已经在疯狂地抗议了，你现在是否是在冒着巨大的风险去支持一支正加剧破坏这个行业的力量呢？

EM： 我认为在我们这个国家有一个争议的传统。我以前发起过一系列的改革，很多人也曾认为这些改革在法国不可能实施下去。但我认为只要你耐心向人们解释，并且有能力和决心，这些改革的通过是可能的。面对人工智能的改革，我同样也有决心。

作为消费者，法国的人民已经是人工智能的热门粉丝，也对创新解决方案有极大的兴趣。所有的技术人员都会告诉你，法国市场是一个很好的市场。在这里人们热爱科技。我想这也是为什么从一开始我就坚持这样的总体理念：阻止变革并专注于保护就业机会并不是正确的选择。你需要保护的是人民。你需要给他们机会，让他们通过培训或者再培训来获得新的工作。不要试图去阻止变化，因为它已经来临，人们会接受它。我们要做的是，努力走到变革的最前沿，更好地理解变革，应对变革。变革可能在短期内摧毁就业机会，但同时也会在其他领域创造新的就业机会。

就我的看法， 人工智能的一个关键之处在于，它可以大大地减少人类活动中的重复劳动。 这就需要我们同时考虑低、中、高层次的人群，为他们提供一系列新的工作机会。我们社会面临的一个巨大的风险是只为高层次和低层次的人群提供机会，很少关注中间层次的公民； 现在我们需要特别关心的正是这部分人，因为他们可能是受到影响最为严重的群体。 举例来说，如出租车司机或者其他从事高度重复性工作的人群，我们就必须对他们进行重新培训，要么让他们切换到别的工作领域，要么让他们学会如何使用机器。我们需要会使用机器的人。

个人来说，我不相信自动驾驶汽车完全不需要驾驶员。对我来说，这完全是想象。我们在技术上已经有完全自动化的程序来驾驶飞机，但是我们仍然在每架飞机上配置两名驾驶员，这是因为我们需要承担责任。我们采用自动驾驶汽车减少的是风险的数量，是司机长时间开车的痛苦；但是我们仍然需要人类在关键时刻做出关键选择。我对此非常肯定。所以人工智能会改变我们如何开车，但是它不会取代掉运输工作。

最后，我的观点是： 我可以说服我的国家接受这种变化，因为我已经拥抱它了。我的角色不是阻止这种变化，而是对人民进行培训或者再培训，以便让他们在新世界中能够获得更多机会。

NT：明白了。我想问您一个军事问题。我知道联合国已经就如何限制致命自主武器进行了讨论。您认为人们能否信任一台机器——人工智能机器，允许他们在没有认为干预的情况下做出杀人的决定？

EM： 我坚决反对。我认为我们需要责任以及确定由谁来担负责任。技术上来讲，在某些情况下，人们可以拥有一些自动化的武器。但是正是因为自动化或者机械化，会导致责任缺失。对我而言，责任是一个关键的问题。所以让机器自己做出杀人决定是绝对不允许的。这也是需要人工确认的原因。在某些时间点上，机器可以提前准备好所有的工作来减少不确定性；但最终的决定仍然需要由人来负责。

NT：请允许我问一些国家层面人工智能竞赛的问题。Elon Musk 在几个月前发布推文说：「在国家层面进行 AI 竞争最终将有可能引发第三次世界大战。」您认为 Musk 是否夸大了这种影响？或者您认为这是否会变得越来越紧张，特别是在中、美之间？

EM： 我认为会变得非常紧张；但我不会那么悲观，因为我认为人工智能的核心基础是研究，而研究是全球性的。 所以我认为人工智能永远都是合作与竞争同在的。 所以，如果想要有竞争力，你就需要有一个开放的环境和大量的合作；而同时在某些关键的点上，你又需要竞争。这就不得不去重新思考主动权的问题了。我在今天的演讲中也提到了这点。

人工智能是一个全球的创新方案，在这个方案中，美国拥有大型私有企业，中国拥有政府管控的大量数据；而我的目标，刚才也告诉你了，就是去创造欧洲在人工智能方面的主动权，尤其是在管理方面。每个国家都在试图捍卫它们的集体选择，所以在管理方面会有一场主动权的战争。同样在贸易以及创新上也将会有同样的竞争。但是我不认为会严重到如 Musk 说的那样，因为在人工智能方面若想进步，开放创新模式将是必然的选择。

NT：下面这个问题可能有点愤世嫉俗，但请允许我冒昧问一下：如果法国开始建立 AI 部门，在某些方面它会与 Google、Facebook 等有竞争关系。那么欧洲或者法国会不会用更严厉的监管方式限制 Google 或者 Facebook 呢？所以这会不会产生一种奇怪的动力导致您会通过更多的监管和反信任方案？

EM： 我认为完全相反。现在在人工智能方面，我们非常欢迎 Google、Facebook 这样的企业。大多数人都非常喜欢它们，这些公司也都在法国进行投资，招募人才，以及发展它们的业务。所以它们是我们生态系统的一部分。不过这些大企业也有几个问题不得不解决。

首先，它们体量太大，垄断是它们一直以来都存在的问题。在未来某个时候（我认为这将是美国的一个问题，而不是欧洲的问题），你们的政府和人民会说：「 醒醒吧，它们太庞大了 」。不是因为太大而不会失败，而是太大而难以治理。在这点上，你们可以选择将之拆解成很多小公司，这也是石油行业初期的应对方式。这是一个竞争问题。

其次，由于他们完全是数字化企业，就给我们带来一个领土问题，他们打乱了传统的经济模式。在某些方面，这可能是好的，因为他们可以提供新的解决方案。但是针对这些解决方案，我们需要去培训我们的人民，这需要政府支付这笔费用，而这些公司不会。现在，GAFA（Google、Apple、Facebook、Amazon）甚至不支付他们在欧洲所有应该缴纳的税，他们也不会去处理由它们造成的负面影响，反而是让那些受到它们影响的行业去支付这笔费用，因为这些传统的行业需要支付增值税、企业所得税等。 这种现象是不可持续的。

第三， 当涉及到隐私规则的时候，人们应该拥有主动权。 法国和欧洲在这方面有自己的偏好，以这种方式或那种方式。但是美国没有相同的规则。所以我们怎么才能够向法国人民保证美国的企业能够尊重我们的规则？所以在某个时间点上，他们将不得不建立一个实际的法律机构，并将其纳入到欧洲的规则当中。这意味着他们需要（也确实需要）一个更加欧洲的或者欧洲国家的组织来处理信息、管理自己等。

这反过来也意味着在一个更加分散的世界中，它们需要重组自己的架构。这也许是必然的，因为问责和民主只是在国家和地区的层面上发生，而不是全球范围内发生。如果不这样做，我就无法保护法国公民以及他们的权利。同样如果不这样做，我也不能保证法国公司能够受到公平的待遇。

今天我谈到 GAFA， 我非常欢迎他们能够加入到我们的生态系统中 ，但他们没有像其他数字或传统经济的企业那样在同一水平线上参与竞争。从长远来看，由于美国的管理体系与欧洲不同，如果任由这些公司来主导，我将不能向我的公民保证他们的集体偏好。我所知道的是，如果我没有在某个时间点上对此进行讨论并加以管理，那么我将不可能再拥有主动权。

NT：但是这两个目标不是很矛盾吗？你希望 GAFA 来法国，炫耀说 Google 从 2012 年开始就在法国投资 AI；而另一方面，你又想打压它们。你是如何同时做这两件事的？

EM： 不。我首先想到的是，我们不仅仅有 GAFA，我们还有其他许多企业、初创公司等。我想，即使包括它们，也会发现它们在一个国家也 必须尊重这个国家的民主和政治问题 。

NT：看来它们需要学习了！

EM： 是的。我想强调的是公平。 AI 发展的早期阶段已经结束了，一个没有任何监管的阶段结束了，它们处在一个必须制定所有规则的时期。 现在它们将不得不与政府打交道——我希望能够以合作的方式进行，而不是说「我再不想要这些家伙了」。恰恰相反，我希望有一个永久的对话，但我希望它们能够理解和尊重我的约束。我希望他们成为我的想法的一部分，并同时考虑他们自己的想法。我希望他们更够更好地理解到，建立一个没有任何责任和明确的民主问责制的世界是不可行的。

NT：明白了。所以我们回到最大的问题上，您认为这项改革怎么来看才是成功？或者怎么来看才是失败？

EM： 首先，我认为这个问题很难回答，因为严格地来说，我不清楚五年后人工智能会发生什么情况。但是我会说，如果我能够建立起一个非常强健、稳定的生态系统，在汽车、国防、医疗保健、金融科技等的人工智能方面能够堪称欧洲第一，那么我认为这将是一个成功。对我自己而言，如果大多数法国人民能够理解并认可这一个改革，这也将是一个成功。

如果我们被恐惧笼罩，因恐慌而阻止这一改革，这将是失败。我还担心，从创新到落地，再到消化进我们的民主中，这之间会存在脱节。我必须为研究人员、私人企业、初创公司以及我的公民建立起互惠互利的信任关系。如果我能够让第一阶梯的人相信国家是与他们相关的生态系统，如果我能够为我的公民建立起对 AI 的信任，那么我就成功了。 如果我没有在他们之间建立信任，我就失败了。

via wired ，雷锋网 (公众号：雷锋网) AI科技评论编译

相关文章：

进军法国，DeepMind 在巴黎设立第一个欧洲人工智能实验室

Facebook 宣布在法国投资一千万欧元用于 AI 研究，巴黎实验室人数要翻番

在法国总统的亲自游说下，Google 决定在法国成立 AI 研究中心

谷歌法国11.2亿欧逃税罚单终局：不用补缴税款！

。