那些假装成 AI 的人类:机器你倒是取代我啊
- 请一群领最低工资的人来假装人工智能;
- 等待真正的人工智能被创造出来。
Readme.io 创始人 Gregory Koberger 曾在推特上说。虽然这个评论是在 2016 年发布的,但如今仍有不少公司这样做。
上周, 《华尔街日报》曝光了 Google 的 Gmail 事件 ,指出 Google 允许部分合作方阅读用户 Gmail 中的邮件内容。在披露邮件安全问题的同时,这篇报道也暴露了不少科技创业公司的黑点——聘请人类员工来假装人工智能/算法。
报道指出,加州圣何塞的创业公司 Edison Software 承诺为消费者提供一项“智能回复”功能,主要基于用户原有邮件内容,通过算法生成建议回复。问题是,由于用来训练算法的数据不足,算法表现不佳。
于是,这家公司让两位 AI 工程师开始大量阅读用户邮件(用户个人信息经过编辑),并对算法生成的回复进行调整修改。
《卫报》指出 ,Edison Software 远非第一家被曝出用人工替代机器 / 人工智能的公司。
2008 年,名为 SpinVox 的公司被 BBC 曝出用人类员工来聆听语音留言,并转录为文字信息,并没有像他们宣传那样,用机器和技术来进行识别。
2016 年,彭博社报道指出,每天,一大群人都会花费 12 个小时假扮成 X.ai 和 Clara 公司的聊天机器人,通过和用户聊天,为他们提供行程安排等服务。
据报道,由于工作无聊至极,这些假装成聊天机器人的员工说,他们真希望机器能够取代他们。
你能模拟出特定产品的终极体验。很多时候,当你遇到一个声称是 AI 的产品时,背后其实都坐着真正的人类员工,而不是算法。
Alison Darcy 说,她是心理健康辅助聊天机器人公司 Woebot 的创始人。在她看来,要训练出一个可用度高的人工智能,往往需要超大量的数据。但在投入资本前,设计师会想知道这产品到底有没有市场,所以就用人类来代替了。
用 Gregory Koberger 的话来说,这就是“用人类建造的人工智能原型”。
不过,Darcy 坚持自己公司并没有像其它公司一般隐瞒客户,因为他们作为心理咨询师,有对病人坦诚的职业原则。
对于大部分人来说,科技公司用人类替代原本承诺的机器服务,最大隐患在于个人隐私安全问题。
2017 年,一家为用户提供业务支出管理的公司 Expensify 承认,他们的确聘请了人类员工来帮忙识别并转录一些收据上的内容,即便他们一直声称这是公司“智能识别技术(smartscan technology)” 的功劳。
据悉,Expensify 通过亚马逊 AWS 的众包平台 Amazon Mechanical Turk 把这些活儿外包出去。
不知道 Expensify SmartScan 的用户知不知道是我们在转录他们的收据呢?我现在正在看着某人的 Uber 收据,上面写着他的全名,起始和终点地址。
Rochelle LaPlante 在推特上曝光道。他是“零工经济(gig economy)”的倡导者,同时,也是接到 Expensify 项目工作的其中一人。
LaPlante 认为这对零工来说,也会有情绪上的抵触:“我们感觉自己被推到幕后,而且我们的劳动还被用来欺骗其他消费者。”他对于这种欺骗消费者的公司很反感,认为它们“不诚实和满口谎言,我可不想要这种公司的服务。”
毕竟,谁会愿意找一家骗你的公司来用?
题图和内文配图均来自视觉中国