美国 FTC 主席莉娜·可汗：为什么必须监管 AI

作者：Lina Khan

来源：https://www.nytimes.com/2023/05/03/opinion/ai-lina-khan-ftc-technology.html

编译：美漪

编辑：靖宇

编者按：

从调查亚马逊，到单挑 Facebook， 美国最年轻的 FTC 主席莉娜·可汗 是全球科技监管领域的「铁娘子」。

由 ChatGPT 带火的最新一波 AI 浪潮兴起之时，可汗在 NYT 上写下署名文章，阐明对于巨头正在争抢的 AI 赛道，FTC 必须要加强监管。

以下为莉娜·可汗关于AI监管的全文：

与 AI 进行仿真的对话，既令人兴奋又令人不安。由于生成式 AI 的快速发展，我们中的许多人，现在已经体验到了这种潜在的革命性技术，它对世界各地人们的生活、工作和交流方式都产生了巨大的影响。

生成式 AI 的全部潜力仍有待讨论，但毫无疑问，它将是高度颠覆性的 。

上一次，我们发现自己面临由科技带来的广泛的社会变革，还是 2000 年代中期，Web 2.0 时代的开始。像 Facebook 和谷歌这样的新型科技公司，彻底改变了传统的通讯方式，并为快速增长的用户群体，提供了创新的服务。

然而，这些创新服务是以高昂的代价换来的。

我们最初设想的免费服务，最终通过对使用这些服务的人和企业，进行广泛监控，从而完成了商业化。其结果是形成了一种 「网络经济（online economy）」 ，而在这种经济中，提供越来越多的基本服务的前提是， 广泛地囤积和出售用户的个人数据 。

这种商业模式促使科技公司想方设法地来追踪用户，甚至不惜违法法律。少数的这几家巨头，使用用了一些激进的策略，像是收购，或封锁有潜在威胁的公司，从而巩固自己的主导地位。

一系列革命性的技术，最后却沦为对一些关键服务的加强，并定型成了以用户的隐私和安全为代价的商业模式。

但是，Web 2.0 时代的发展轨迹，并不是不可避免的——它是由广泛的政策选择所决定的。

而现如今，我们面临着另一个关键的抉择时刻：AI 技术的应用越来越广泛，政府官员有责任确保其发展不会重蹈覆辙。

随着各家公司竞相部署 AI，并从中获利，联邦贸易委员会（FTC）正在仔细研究，如何才能最好地实现我们的双重任务， 即促进公平竞争，和保护美国人免受不公平或欺骗性行为的影响 。

随着 AI 技术的发展，我们将致力于尽我们的职责，维护美国长久以来的传统——维持开放、公平和竞争的市场。正是这样的市场支撑着突破性的创新，和我们国家的经济成功，绝不能容忍大规模剥削用户的商业模式或做法。

虽然这些工具是新的，但它们仍受现有规则的约束。而且，即使在这个新的市场，联邦贸易委员会（F.T.C.）也会积极地执行我们负责管理的法律。

虽然 AI 技术正在迅速发展，但一些风险已经显露出来。

首先是，随着 AI 技术的应用范围不断扩大， 现有科技巨头的「主导地位」会得到强化。

这意味着，少数强大的企业，控制着其他公司和初创企业，开发和部署 AI 工具所必需的原材料，包括云服务（cloud services）和算力（computing power），以及大量的数据。

这些占据主导地位的公司，可以通过控制这些关键投入，来打压下游的竞争对手，从而巩固自己的地位。对此，执法者和监管者必须保持高度警惕。

此外，企业用来制定各种价格的 AI 工具（从洗衣粉到保龄球道预订等），还会 助长哄抬价格的合谋行为，以及各种形式的价格歧视。

值得强调的是，执法者的责任是「双重」的。这意味着，我们不仅要防范 AI 技术带来的危险，还要促进公平竞争 ， 以确保这些技术的市场合法发展。

联邦贸易委员应当充分发挥法律管辖权，来处理快速发展的 AI 技术带来的问题，包括串通、垄断、兼并、价格歧视和不正当竞争。

其次，生成式 AI 还有可能助长欺诈行为。

虽然，它可能还没有准备好取代专业作家，但它已经可以比普通的网络骗子，更好地捏造一个看似真实的信息，使骗子们能够快速而廉价地生成内容。

聊天机器人已经被用来生成诈骗性质的钓鱼邮件（spear-phishing emails）、虚假网站和虚假消费者评论。AI 机器人甚至被命令使用针对特定群体和社区的词汇或短语。例如，诈骗者可以根据用户的社交媒体帖子，起草高度针对性的钓鱼邮件。除了制作换脸视频（deep fake videos）和语音克隆的工具外，这些 AI 技术还可以被用来进行大规模的欺诈和敲诈。

在针对这些 AI 诈骗行为执法时，我们不仅要打压部署这些 AI 工具的获得蝇头小利的骗子，还要关注这些工具背后的上游公司。

最后，还值得注意的是，这些 AI 工具正在接受大量不受检查的数据库的训练。

由于，训练数据可能包括 充满错误和偏见的信息 ，这些 AI 工具就很有可能使 「歧视自动化 (automating discrimination)」 ——不公平地将部分人排除在工作、住房或关键服务之外。 这些工具还可以在私人电子邮件、聊天记录和 敏感数据 上进行训练， 最终暴露个人隐私并侵犯用户隐私。

因此，针对 AI 技术，现有的禁止歧视的法律将继续适用；同时，禁止剥削性收集或使用个人数据的法律也将适用。

二十年前，科技公司的成长史可以作为一个 「反面教材」 ，警示我们应该如何思考生成式 AI 的扩张。但历史也提供了科技技 「造福社会」 的经验。

20 世纪 60 年代末，面对反垄断审查，计算机巨头 IBM 公司，将软件从其硬件系统中分拆出来，促进了美国软件业的崛起，并创造了数万亿美元的增长。这时，政府要求 AT&T 开放其专利库，同样释放了数十年的创新，刺激了无数初创公司的发展。

美国政府对 「促进公平、公开竞争」的「长期承诺」 ，是使这个国家成为经济强国和创新大国的一个重要部分。

现在，我们再次处于一个关键的决策点。美国能否抵制竞相压价的商业模式和垄断性的资本控制，从而继续成为世界先进技术的「故乡」？

答案是：可以的，如果我们做出正确的政策选择。

头图来源：NYT