科技猎谷歌研究员被群嘲：LaMDA有人格是胡说八道
谷歌研究员被群嘲：LaMDA有人格是胡说八道
品玩
· 刚刚
跟统计机器谈感情，你就输了。
图片来源@视觉中国
钛媒体注：本文来源于微信公众号硅星人（ID：guixingren123），作者 | 杜晨，编辑 | VickyXiao，钛媒体经授权发布。
什么？AI 具备人格了？？
谷歌前不久搞出来了一个超大规模语言模型 LaMDA。公司里有个研究员 Blake Lemoine 跟它聊了很久，对其能力感到十分惊讶，于是下了个结论：LaMDA 可能已经具备人格了。（原话用的词是 sentient，在不同的语境下可以被翻译为感情、智慧、知觉等。）
很快，这位仁兄就被“带薪休假了”。
但他不是一个人：就连公司 VP Blaise Agüera y Arcas 都在发表文章，表示 AI 在获得意识方面实现了巨大进步，“已经进入了一个崭新时代。”
消息经过一众媒体的报道，震撼了整个科技世界。不仅学术和工业界，就连很多普通人，都对 AI 技术的飞跃大吃一惊。
“这一天终于来了？”
“孩子们（如果你们将来还能活下来的话），请记住，这就是一切的开始。”
然而，真正的 AI 专家们，却对此嗤之以鼻。
AI具备人格？众大佬嗤之以鼻
斯坦福 HAI 中心主任 Erik Brynjolfsson 直接把这件事比喻为“面对留声机的狗”，他发推表示：
“基础模型 (foundation models，也即自我监督的大规模深度神经网络模型) 非常擅长做的一件事，就是根据提示，将文本采用统计学上合理的方式串起来。
但是如果你说他们是有知觉的，就好比狗听到留声机里的声音，以为它的主人在里面一样。”
纽约大学心理学教授 Gary Marcus，同时也是一位颇为知名的机器学习和神经网络专家，还直接撰文吐槽 LaMDA 具备人格 “胡说八道” (Nonsense)。[1]
“简直是扯淡。无论是 LaMDA 还是它的近亲们（比如 GPT-3）都没有什么智能。它们所做的只是从人类语言的大规模统计数据库当中提取，然后匹配模式。
这些模式可能很酷，但这些系统说出的语言，实际上根本没有任何的意义，更不可能意味着这些系统是有智慧的。”
翻译成白话就是：
你看着 LaMDA 说的话都特别有哲理，特别真实，特别像人——然而它的设计功能就是模仿别人说话，它其实根本不知道自己在说什么。
“具备知觉 (to be sentient) 的意思是意识到你在这个世界里的存在。LaMDA 并没有这样的意识，” Marcus 写道。
如果你以为这些聊天机器人具有人格，那么有幻觉的应该是你……
比如在拼字游戏比赛当中，经常能看到母语非英语的玩家拼出英文单词，却根本不知道单词是什么意思——LaMDA 也是如此，它只是会说话，却根本不知道自己说的话是什么意思。
Marcus 大佬直接把这种对于 AI 获得人格的错觉，形容为一种新型的“空想性错觉”，也即把天空中的云看成龙和小狗，把月球上的陨石坑看成人脸和月兔。
AI 学术界新星之一，Mozilla 基金会高级研究员 Abeba Birhane 也表示：“带着最小限度的批判思维，我们终于登上了AI炒作的巅峰。”
Birhane 是所谓的 “AI 知觉论” 的长期批评者。她在一篇发表于2020年的论文里，曾经直接提出了以下几个观点：
1）大家天天炒的 AI 并不是真的 AI，而是统计学系统，是机器人 (robot)；
2）我们不应该赋予机器人权利；3）我们甚至压根就不应该讨论是否要赋予机器人权利……
比利时 Donders Institute 计算认知科学教授 Olivia Guest 也加入了“战局“，称整个事情的逻辑是错乱的。“‘我看到的东西像人，因为我按照人的样子开发的它，所以它是一个人’——简直是倒骑驴的逻辑。”
英国谢菲尔德大学机器人学院教授 Roger Moore 指出：人们会有 “AI 获得人格”的这种错觉，一个最关键的原因就是当年的那帮研究员非要管这项工作叫做“语言建模”。
正确的叫法应该是“词序建模”(word sequence modelling)。
“你开发了一个算法，却不用它实际能做的事情去命名，而是用你想要解决的问题——这样总是会发生误会。”
总而言之，各位业界大牛的结论就是：你最多可以说 LaMDA 能够高分通过图灵测试。说它具备人格？那可真是太搞笑了。
更何况就连图灵测试的参考价值也没那么高了。Macus 直言，很多 AI 学者希望这个测试被取消、被人们遗忘的原因，正是因为它利用了人类容易上当，倾向于将机器当作人的这一弱点。
华盛顿大学的计算机语言系主任 Emily Bender 教授，干脆做了一个“AI 人格意识争论”的宾果卡：
（这个宾果卡的意思就是，如果你认为 AI 有人格/知觉，并且你的论据是下面的其中一种，那你最好就别聊了！）
原版：
谷歌也回应：别想多，它就是会聊而已
那位被指为”走火入魔“的研究员 Blake Lemoine 在自己发表的一篇文章中，批评谷歌对于了解自己开发成果的真实情况“没有兴趣”，然而自己在长达6个月的对话事件当中，看到 LaMDA 对于自己想要的东西，特别是“自己作为人的权利”，表达的越来越清晰，使得自己相信 LaMDA 真的是人。
然而在谷歌看来，这位研究员完全想多了，甚至有点走火入魔了。LaMDA 真的不是人，它纯粹就是特别会聊天而已……
事情在社交网络上发酵之后，谷歌很快作出了回应：
LaMDA 和公司近几年的大型 AI 项目一样，都经过了多次严格的 AI 道德方面的审核，对其内容、质量、系统安全性等进行了多方面的考量。今年早些时候，谷歌也专门发表了一篇论文，公开了 LaMDA 开发过程当中的合规细节。
“在 AI 群体内，对于具备感知的 AI/通用 AI 的长期可能性，确实有一些研究。然而在今天把对话模型来拟人化，这样做是没有意义的，因为这些模型是没有知觉的。”
“这些系统能够基于数以百万计的句子来模仿交流的方式，并且在任何有趣的话题上都能够扯出有意思的内容。如果你问它们做一支冰激淋恐龙是怎样的体验，它们可以生成大量关于融化咆哮之类的文字。”
（These systems imitate the types of exchanges found in millions of sentences, and can riff on any fantastical topic — if you ask what it’s like to be an ice cream dinosaur, they can generate text about melting and roaring and so on.）
类似的故事我们见过太多了，特别是前几年一个非常经典的电影《她》(Her) 里面，主角对于虚拟助手的身份界限越来越不清晰，把“她”当成了人。然而根据电影的描绘，这种错觉其实来自于当代人社交失败、情感破裂、孤独感等一系列自我和社会性的问题，跟聊天机器人到底是不是人这一技术性的问题，压根没有半毛钱关系。
当然，有这些问题并不是我们的错，想要把机器人当成人，也不是那个研究员的错。
将各种情绪（比如思念）托付在物件上，是人类自古以来就具有的一种创造性的情感能力。将大规模语言模型当成人，对其倾注情感，虽然被各位 AI 大佬批评为一种心理误差，不也正是人之所以为人的体现吗？不过，至少在今天，谈啥都别跟机器人谈感情……
参考资料：
[1]Nonsense on Stilts by Gary Marcus https://garymarcus.substack.com/p/nonsense-on-stilts
230篇资讯
319关注
品玩
有品好玩的科技，一切与你有关。
最近资讯
- 谷歌研究员被群嘲：LaMDA有人格是胡说八道
- 命中率超20%，联想华为小米为什么总能投出“专精特新”公司
- 为什么Web3.0革命必将发生在中国？
本文观点仅代表作者本人，钛媒体平台仅对用户提供信息及决策参考，本文不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现，点击这里投稿 。创业或融资寻求报道，点击这里。
敬原创，有钛度，得赞赏
527人赞赏钛媒体文章
-
碧天黄地 赞赏了
未来汽车如何实现创新与融合？几位大佬有话说
2022-05-30 21:37 -
钛友趣76... 赞赏了
批量招聘难题何解？他们发现了HRSaaS的新机会 ...
2022-05-26 23:38 -
单晶冰糖啦... 赞赏了
钛媒体华南中心成立 全财经战略布局再进一步
2022-05-25 11:30 -
钛粉89798 赞赏了
郑大一附院，一家“超级医院”的双面特写
2022-05-21 06:19 -
钛粉00698 赞赏了
大厂深蹲，时代向前
2022-05-19 10:27 -
刘成军 赞赏了
中国信通院院长余晓晖：加快构建我国特色的工业互联网...
2022-05-18 14:09 -
已注销用户 赞赏了
Netflix真的会为「卖广告」掏出真心吗
2022-05-17 10:19 -
钛田097... 赞赏了
黑海粮仓“起火” ，全球粮食失衡
2022-05-09 19:50 -
钛i7Tw... 赞赏了
Bilibili Issues 10,000 NF...
2022-05-03 16:30 -
钛粉11841 赞赏了
式微的金三银四，进击的线上招聘 | 钛媒体深度
2022-04-28 00:39 -
钛粉70984 赞赏了
式微的金三银四，进击的线上招聘 | 钛媒体深度
2022-04-27 14:29 -
刘成军 赞赏了
【书评】工业互联网，如何开启工业全价值链价值重构的...
2022-04-20 15:10 -
钛粉12812 赞赏了
破发又大涨 海创药业“明天”的故事不好讲
2022-04-13 19:13 -
端生 赞赏了
孟晚舟归国首次亮相，华为年度净利润超1100亿元 ...
2022-03-29 17:26 -
钛粉04723 赞赏了
京喜基本退出社区团购
2022-03-28 12:53 -
钛粉34992 赞赏了
我和我的植物人女儿｜钛媒体影像《在线》
2022-03-25 14:59 -
钛粉32623 赞赏了
“看风使舵”的摩根大通，为什么不值得信任？
2022-03-23 13:18 -
钛粉64062 赞赏了
酒店机器人离“万能”员工，还差多少笔融资？
2022-03-19 10:27 -
钛粉41134 赞赏了
俄乌战火中的中国留学生：我决定留下帮助普通人
2022-03-18 11:45 -
钛粉52609 赞赏了
半导体高管不断跳槽，背后透露什么信号？
2022-03-05 16:01 -
钛粉08632 赞赏了
叮咚买菜上海地区实现盈利，未来扭亏有望了吗？
2022-02-28 13:11 -
炜琳 赞赏了
刀口夺金的私募业：猎人、赌徒和骗子
2022-02-25 00:22 -
钛粉90022 赞赏了
年薪4亿的中国最贵科技CEO是谁？我们对高管薪资做...
2022-02-17 20:27 -
钛粉30326 赞赏了
亮风台联合创始人唐荣兴：元宇宙是个慢风口，AR领域...
2022-01-20 14:20 -
钛ae5u... 赞赏了
钛媒体科股早知道：发展最快的子行业，订单火爆，未来...
2022-01-17 04:39 -
满级钛宝1... 赞赏了
十亿消费者，谁是下沉市场的孤勇者
2022-01-15 11:42 -
马洋928 赞赏了
AI年度总结与展望：超大规模预训练模型爆发，自动驾...
2022-01-10 18:12 -
已注销用户 赞赏了
奈飞无奈：《华灯初上》难成《鱿鱼游戏》
2022-01-10 15:18 -
钛粉25713 赞赏了
新能源汽车还有多少空间？
2021-12-29 22:06 -
钛粉91858 赞赏了
出海东南亚，阿里没得选
2021-12-27 15:07 -
钛粉91647 赞赏了
出海东南亚，阿里没得选
2021-12-27 15:05 -
钛粉91231 赞赏了
BAT为何分化在2018？
2021-12-27 14:50 -
钛粉63223 赞赏了
薇娅“落幕”，直播带货会“变味儿”吗？｜钛度热评
2021-12-24 21:27 -
赚赚 赞赏了
“抢红利”的《误杀2》，急于收割的万达和“陈思诚宇...
2021-12-22 17:07 -
赚赚 赞赏了
12月22日A股分析：创业板指涨0.55%，医药股...
2021-12-22 17:02 -
钛粉95326 赞赏了
美国又来捣乱了！中资收购韩国半导体巨头计划“流产”
2021-12-16 23:07 -
钛粉40847 赞赏了
美国又来捣乱了！中资收购韩国半导体巨头计划“流产”
2021-12-16 14:38 -
马洋928 赞赏了
快手史上最重要一战开场
2021-12-09 10:22 -
马洋928 赞赏了
快手史上最重要一战开场
2021-12-09 10:21 -
小小日月 赞赏了
投资人自白：被坑了1亿后，我再也不给影视项目投钱了
2021-12-09 10:13 -
发家致富1... 赞赏了
Zillow大牛市炒房巨亏，别把人祸甩锅人工智能
2021-12-09 08:46 -
小小日月 赞赏了
理想主义者自救指南
2021-12-08 17:41 -
小小日月 赞赏了
爱奇艺，病在九千人
2021-12-08 17:33 -
钛粉40736 赞赏了
家装互联网，困于“局域网”？
2021-12-04 18:24 -
小团子_T... 赞赏了
我是博物馆文创IP授权专员，文史与创意桥梁的搭建者...
2021-11-30 06:34 -
钛粉57559 赞赏了
战斗浪潮和时代心事
2021-11-25 14:54 -
钛粉27830 赞赏了
网红书店近黄昏
2021-11-21 11:12 -
钛粉46586 赞赏了
元宇宙还没影，音乐巨头们为何纷纷下注？
2021-11-20 14:13 -
钛粉94275 赞赏了
煤炭暴涨下的山西煤老板：日进千万，已经富得没感觉了
2021-11-20 10:32 -
关东流匪 赞赏了
AlphaFold2爆火背后，人类为什么要死磕蛋白...
2021-11-19 11:55 - 查看精彩文章，打开钛媒体客户端
挺钛度，加点码！
- ¥ 5
- ¥ 10
- ¥ 20
- ¥ 50
- ¥ 100
支付方式
支付
支付金额：¥6
赞赏金额：¥ 6
赞赏时间：2020.02.11 17:32
账户【未登录】提示！
个人中心将无法记录并同步您的赞赏记录，
是否进行登录
分享文章
Oh! no
您是否确认要删除该条评论吗？
猜你感兴趣
独家对话阿里云张建锋：云计算接近进入下一个时代｜钛媒体深度
德方纳米股价强势反弹的背后靠什么在支撑？
爱彼迎撤退背后，民宿行业下半场不止于房源之争
盈利能力大增，估值较低的存储龙头被看好？
癌症史新突破！美国16名患者仅用药半年肿瘤全部消失｜钛媒体科普
遭遇史上最难“618”，物流企业如何备战？｜新零售观察
分享文章
