上周五,Facebook 宣布对自己的“趋势”(Trending)新闻版块进行智能化升级,炒掉原来的人类编辑团队让 AI 接管,却为自己埋了个“大坑”。
本周一 ,“上岗”没几天的 AI 就“暴走”了:它推送了一条标题为“号外!福克斯新闻炒掉“叛徒”主持人 Megyn Kelly,只因她支持希拉里”的假新闻,内容为主持人 Megyn Kelly 私底下支持希拉里被福克斯发现后开除,尽管这完全是捏造的。
对 AI 十分放心的 Facebook 在数小时后才发现并删除这一错误,期间这一假新闻获得了数千次转发,获得 20 万个“赞”,可能有数百万用户已经阅览过。
据 The Verge 报道 ,三位原“趋势”新闻编辑团队成员在接受媒体分别采访时表示,他们早前就被告知 Facebook 打算让“趋势”新闻版块自动化,但他们没想到自己会那么快被开除。其中一位编辑说:“那只是个半成品,用来取代我们的软件还没有准备好”。
值得注意的是,升级后的“趋势”新闻版块并不是完全自动化的,而是让 AI 通过算法推荐新闻,再由一个审核团队进行人工审核。这样一来,Facebook 就节省了一个专业编辑团队的人工支出。
对于 AI 推荐的假新闻为什么能逃过审核团队法眼的提问,Facebook 的一位发言人回应称:
“趋势”新闻版块的审核团队在上周末批准了这一新闻。按照审核标准,这条新闻符合当时的要求,因为有足够多的引用文章和消息。在重新审核后,这条消息被发现不够准确,于是就从“趋势”新闻版块中移除了。我们会继续改进产品,提高识别假新闻的准确度。
不难看出,出错原因是审核团队鲁莽地因为“有足够多的引用文章和消息”这一条件就为假新闻“亮绿灯”,Facebook 借此否认了外界对 AI 算法漏洞的质疑。
其中一位被解雇的编辑称,此前他们工作时也接触过这个系统,他们每接受并发表一条由算法推荐的新闻,都会拒绝四到五条来源不可信的假新闻。
过于着急的 Facebook 为其失败的判断付出了代价:“趋势”版块新闻公信力急剧下降,这对高度依赖用户数量和活跃度的 Facebook 来说绝不是好消息。
题图自: 20minutes
插图自: NBC