Facebook关闭AI系统，原因是“AI系统发明语言自己交流”

事有不尽如人意时。你有没有这种感觉，别人在你背后说悄悄话，但你完全猜不透他们在说什么？那么，再想想如果在背后策划密谋的是机器——人工智能聊天机器人——并且更可怕的是，他们还在用自己的语言进行交流，而你，区区人类根本无法理解！

上述情景正是Facebook最近遇到的困扰。Facebook发现其研发的AI聊天机器人在以一种英语的简写突变形式交流。比如，Facebook给出和了俩个聊天机器人Bob和Alice的对话内容：

从表面上看，这些重复的单词对人类毫无意义。但是，来自Facebook AI Research（FAIR）的研究科学家Dhruy Batra表示，这就好比人类经常使用英语的“简写”来方便其他人理解一样，AI也可以用相似的方式来更高效地传递信息。如果计算机可以用一种（对他们来说）看上去更简洁的语言来互相交流，那么为什么还要迫使他们局限在英语范围内呢？

“程序会不知不觉地偏离我们可理解的语言，并发明出他们能理解的代码文字，”Batra说，“比如，如果我重复’the’五遍，你大概会理解我需要某一东西的五份拷贝。这跟人类社会创造出简写是一个道理。”

但是Batra补充说：“这完全是可能的。语言是可以被压缩地，不仅是为了节省字符，同时也为了传达凝练的想法。”

在发现聊天机器人尤其喜欢使用他们自己的特殊语言这一糟糕事实后，Facebook决定强迫这些AI只用英语进行交流，从而便于人们在任何时候都能明白这些机器在搞什么事情。毕竟，我们不想看到“天网”这种可怕的东西威胁人类生存。

也就是这种不确定下，让埃隆·马斯克一再强调我们应该对AI及其潜在危险保持警惕。“研究AI，好比在召唤恶魔。什么有个人拥有某种神秘力量，什么圣战这些乱七八糟的故事你肯定听过，然后那些人一开始总是自信能够控制恶魔——但结果大家都知道，”马斯克在2014年时如是说到。

而在最近，马斯克又一次表达了他对AI的质疑。“我接触过非常前沿的AI技术，我真的希望大家能够警惕起来，”在近日的全美州长协会上他说道，“我一直在给人们敲警钟，不要因为看似不可能，就等到机器人真的在光天化日之下行凶时才想到要采取措施，那就太晚了。”

对此，Facebook的首席执行官马克·扎克伯格则认为这种极其不负责任。“每当人们说AI可能会在未来伤及人类时，我总会想，大部分技术都是把双刃剑，你需要小心翼翼地开发之，知道自己在开发什么，并十分清楚这项技术将被如何使用。”