新技术层出不穷 FB深度换脸问题2020年会更糟？

图1：Facebook首席执行官马克・扎克伯格(Mark Zuckerberg)也成为深度换脸视频的目标

网易智能讯2月28日消息，019年夏天，Facebook首席执行官马克・扎克伯格(Mark Zuckerberg)的一段视频在Instagram上流传开来。扎克伯格似乎在视频中声称，他“完全控制了数十亿人被盗的数据，掌控了他们的所有秘密，探知了他们的生活甚至未来”。事实证明，这只是个艺术项目，而不是故意试图误传信息，但Facebook允许它留在其平台上。根据该公司的说法，视频没有违反任何政策。

对有些人来说，这表明大型科技公司没有准备好应对人工智能（AI）生成的、被称为“深度换脸”（deepfakes）的虚假视频内容的冲击。但这可能并非全是Facebook的过错。“深度换脸”视频非常难控制，这不是因为它们很难被发现(尽管它们可能很难识别)，而是因为这个类别覆盖的范围太广，任何试图“取缔”AI编辑的照片和视频的尝试，最终都会影响到无数没有危害的内容。

完全禁止“深度换脸”内容将意味着删除流行的笑话，比如性别互换的Snapchat自拍和人为老化的面孔。禁止政治误导性的“深度换脸”视频只会让我们回到科技公司多年来始终面临的政治审查问题上。鉴于没有简单的算法可以自动发现AI编辑的内容，因此无论颁布什么样的禁令，都将意味着为疲于应对的人类审核人员创造更多的工作负担。对于像Facebook这样的公司来说，没有简单的选择。

哈佛-麻省理工学院AI伦理与治理倡议前主任蒂姆・黄（Tim Hwang）在接受采访时表示：“如果你认为‘深度换脸’是指任何由机器学习编辑的视频或图像，那么它所囊括的范围可能十分庞大，以至于我们根本弄不清楚它是否有任何意义。如果可以选择，我们应该考虑深度换脸的意图。在你正在创造的那些内容上，你想要实现什么目的？“

值得注意的是，这似乎是大平台实际上正在前进的方向。Facebook和Reddit上周都宣布了涵盖深度换脸的适度政策，他们没有试图完全杜绝这种媒体格式，而是重点关注几个狭隘领域。

Facebook表示，该公司将删除“被操纵的误导性媒体”，这些媒体已经使用AI或机器学习“以普通人不明显的方式进行了”编辑或合成，很可能会误导人们认为视频中的某个人说了他们实际上没有说过的话。但该公司指出，这不包括使用传统手段进行的“恶搞或讽刺”或误导性编辑，比如去年众议院议长南希・佩洛西(Nancy Pelosi)据称醉酒的病毒式视频。

图2：像Doublicat这样的新应用程序将使深度换脸变得更容易、更有趣

与此同时，Reddit完全没有提到AI，而是表示将删除那些“以误导性或欺骗性的方式冒充个人或实体”的内容。它还为“讽刺和恶搞”内容提供了豁免权，并补充说，它将“总是考虑任何特定内容的背景”。这是一个宽泛的警告，为其采取行动提供了很大的回旋余地。

但正如许多人指出的那样，这些政策充满了漏洞。例如，威尔・奥雷莫斯（Will Oremus）在OneZero上撰文指出，Facebook只覆盖包括演讲在内的、编辑过的内容。这意味着，“一段深度伪造的视频，让它看起来像某个政客焚烧美国国旗，参加白人民族主义集会，或与恐怖分子握手”将不会被禁止。Facebook向奥雷莫斯证实了这一点。

这些都是明显的疏漏，但它们突显了将深度换脸与平台内容审核的根本问题区分开来的难度。虽然近年来许多报道都将“深度换脸”视为“政治错误信息”的同义词，但实际的定义要宽泛得多。而这个问题在2020年只会变得更糟。

虽然早期版本的“深度换脸”软件需要些耐心和特定技术才能使用，但未来将使构建深度换脸软件更加容易。使用AI编辑视频(深度换脸的标准定义)的应用程序将变得随处可见，随着它们的传播（比如用于开玩笑、品牌推文、欺凌、骚扰等），“深度换脸是对在线真相独特威胁”的想法将会消退。

就在本周，名为Doublicat的应用程序在iOS和安卓上发布，它利用机器学习将用户的脸粘贴到流行动图GIF上。目前，它只适用于预先选择的GIF，但该公司首席执行官称，未来它将允许用户在任何他们喜欢的内容中插入面孔，尽管这需要得到名为GAN的机器学习方法的帮助。

所有这些会让Doublicat归类为深度换脸应用程序吗？的确。它会破坏民主吗？大概不会吧！只要看看它的输出质量，人们可以轻易区分出真假。不过，在技术上，它给人留下了深刻印象。这款应用程序仅用一张照片就在几秒钟内完成了GIF。但它永远不会被误认为是真的。与此同时，TikTok（抖音海外版）母公司字节跳动和Snapchat也在试验深度换脸功能。

哈佛-麻省理工学院AI伦理与治理倡议前主任蒂姆・黄（Tim Hwang）认为，从长远来看，“深度换脸”一词的淡化实际上可能会带来好处。他说：“我觉得很讽刺的是，人们说所有这些消费功能都是深度换脸，因为它在某种程度上商品化了深度换脸这种技术。”

他还说，如果深度换脸变得司空见惯，那么人们就会“对这项技术能做什么不再保持警惕”。然后，希望我们能更好地理解它，并将重点放在错误信息和政治宣传的根本问题上。

可以说，在社交媒体上审核深度假的问题从一开始就在很大程度上分散了人们的注意力。AI编辑的政治宣传未能以有意义的方式实现，研究表明，绝大多数深度换脸是未经双方同意的色情内容，占在线深度换脸视频的96%。

社交媒体平台愉快地参与了关于深度换脸内容审核的辩论，但正如Facebook和Reddit最近的声明所显示的那样，这些努力大多是次要的。核心问题没有改变，即谁可以在互联网上撒谎？谁来决定他们是否撒谎？一旦深度换脸假说不再令人信服，成为对真相的巨大威胁，我们将面临同样的、不变的问题，而且形势将变得比以往任何时候都更加紧迫。（选自：The Verge 作者：James Vincent  编译：网易智能 参与：小小）