科技猎社交媒体的“人肉盾牌”：时间线擦洗工
马尼拉TaskUs公司的一名员工。TaskUs为美国科技公司提供内容筛选服务。（MOISES SAMAN/MAGNUM摄）
那些互联网科技的巨头公司们，总是以铺张的自助餐厅、舒适的通勤班车、立等可取洗衣服务等员工福利而闻名。不过，谁能想到在这样一个普通的、潮湿闷热的星期二下午，一些巨头公司最重要的工作，却是在7000英里外的一座菲律宾小镇里完成的。
马尼拉西南13英里，一个叫巴克奥尔的多风沙的小镇上，一栋小楼坐落在一排汽车修理铺的尽头。小楼原来是一所小学，当我沿着狭窄的楼梯拾级而上，我得贴着墙壁避开鱼贯而出去抽烟的员工。二楼，一个昏昏欲睡的警卫给我指了指那个他们称之为“前台”的东西——昏暗的走廊里一个堆满了文件夹的木头桌子。绕过警卫，我来到一个大房间：一条条长桌上挤挤挨挨坐满了操作电脑的员工。在这儿我见到了Michael Baybayan，一个精力充沛、快活自信、长着棕红色头发的年轻人。
正如这个房间并不像新公司的办公地，Baybayan电脑屏幕上显示的也不像新手要处理的活儿：一张大特写的图片，拍的是一个两头分叉的人造阴茎挤进阴道的情景。在Baybayan很随意地用鼠标点开这张图之前，我看到的只是一个信用卡大小的缩略图，看上去就是一堆肉和粉红色半透明的塑料——几乎无法辨别是什么东西。
Baybayan是这个房间里正在进行“内容筛选”工作的密集劳动力之一，他和他的同事们负责为美国的社交网站筛除不宜公开的用户上传内容。当社交媒体前所未有地将人们越来越紧密地联结在一起，大公司都会面临一个“祖母难题”：现在爷爷奶奶辈也会日常性地使用像Facebook这样的社交工具去联系他们的子孙，因而他们就有可能碰上怪咖、种族主义、惊悚、犯罪、欺凌行为等等“全套网络奇葩”。如果他们发现他们的家庭照片混在一大堆血肉模糊的俄罗斯高速车祸现场和赤裸裸的色情视频中间，他们可能就不会再登录了。
社交媒体如今已经发展为几十亿美元的产业，它的持续吸引力大部分基于公司如何划定用户自创内容的边界——以保证祖母们不会撞上Baybayan处理的那种图片。所以像Facebook和Twitter这样的公司，依靠一支雇佣劳力大军吸收了社交网络中人性最恶的部分，保护了我们剩下的所有人。这个“擦洗者”的职业是一个大规模军团，蓄积着大群未进入公众视线的劳动力。Hemanshu Nigam是MySpace的前任安全长官，现在经营着自己的在线安全咨询公司SSP Blue。据他估算，全球社交网站、手机app、云存储服务的“擦洗者”已经远远超过100,000人——这个数目是Google公司员工的2倍、Facebook公司员工的14倍。
“擦洗者”们最大的聚集地是菲律宾。作为美国原来的殖民地，菲律宾保持着和美国的亲密文化纽带，于是内容筛选公司声称，他们的业务可以帮助菲律宾辨别什么样的内容在美国是“不宜公开”的。另外，他们也可以让更多的菲律宾人获得工作，拿一份“美国水平”的工资。Ryan Cardeno以前是微软的合同工，他告诉我之前他在内容筛选业务外包公司Sykes工作了三年半，到最后，一个月能赚500美元。去年他去另一家为Facebook做内容筛选的公司，每个月赚312美元——这是整个行业的平均水平。
在这个小学旧址，Baybayan和他的同事们也为Whisper（一家位于旧金山的创业公司）工作。Whisper是一款匿名社交应用，可供用户匿名分享秘密、发布照片。最近这家公司被风投估值为200,000,000美元。Baybayan所在的业务外包公司叫做TaskUs。
我其实有点惊讶Whisper会让一个记者参观他们的内容筛选流程。当我问微软、谷歌和Facebook他们究竟是怎样管理用户内容的时候，这些公司只给了些模糊的说法，声称要保护用户隐私，不能提供太多细节。很多公司都让他们雇佣的“时间线擦洗工”签署了保密协议，禁止他们向别人提及自己的工作内容——哪怕是同一个外包公司的同事也不行。
Sarah Robert是西安大略大学的媒介研究学者，也是为数不多的研究商业媒体内容控制的学者。她说：“我想，内容筛选就算没有明确的保密制度，也必定有口头约束。” 她认为互联网公司都不愿意承认用户的媒介体验中还要求一层人工筛查，这样会导致人们对互联网的误解，或者导致科技的祛魅——因为大家或多或少都觉得科技是很“魔幻”、不需要任何人工辅助的。
我之所以得以目睹Whisper的内容筛选流程，是因为Whisper的CEO Michael Heyward觉得内容筛选是他们产品整体特征的一部分，也是他们app的一个卖点。Whisper执行“积极筛选”的理念，这种筛选尤其耗费人力，因为每一个贴文在发表时就要被实时审核；而许多别的公司则采用“反应式筛选”策略——当一则贴文被其他用户标注为“反感”时才进行筛查。“我们想要利用匿名性创造一个空间，在这个空间里我们要求用户展露自我并且感到自己的弱点。”他告诉我，“但是“自我”这东西如同牙膏，一旦被挤出管子，再想收回去就很难了。”
看着Baybayan工作，我清晰地意识到要把Whisper的“牙膏”留在管子里需要多么庞大的员工数量。（在我到访之后，Baybayan就不干了，TaskUs公司的巴科奥尔镇办公室也被菲律宾版的“联邦调查局”搜查了，理由是在电脑上使用盗版软件。所以这家公司把他们的内容筛选业务转移到了马尼拉） Baybayan的工作从网格状的贴文开始，每个网格里是一张矩形的照片，有很多照片上面还覆盖着一层粗体字。匿名带来的随心所欲，已经让Whisper的功能内化，被用户用来忏悔、发泄或表达不宜在Facebook和Twitter上出现的隐秘欲望。“时间线擦洗工”们要实时审查一批又一批新出炉的贴文。被剥离了语境的这些贴文，读起来就像“秽语多动综合症”患者的絮叨，比如“有没有纽约的双性恋女生想要聊天？”或者“我讨厌爱尔兰口音！”或者“我跟我继父发生了关系，并且以此勒索他给我买辆车。”
一块白板上面，有潦草的笔迹写着“擦洗工”们要在时间线上搜寻的“目标”：色情，血腥，未成年人，性引诱，暴露身体隐秘部位的图片，种族主义。当Baybayan发现一个目标，他就把它设为限制级别，然后过滤掉——从时间线上和用户账户里一并删除。然后他再回到网格中寻找下一个目标。在25分钟内，Baybayan就筛除了大量膻色腥照片、仇恨言论和约炮帖。
更难处理的是那种发轮廓分明的男性胴体特写图的帖子，图下面写着“想要一次同性恋体验，本人18岁。”这种帖子如果视为表达隐秘欲望则是被允许的，但如果视为约炮请求则要被删除。到底怎么区分？Baybayan（他和大多数TaskUs公司的员工一样都有大学学历）若有所思地说出了他的评价标准：“要看发帖人的目的是什么。”他说，“得在‘想法’和‘引诱’之间做个区分。”他只有几秒钟的时间去判断，因为新的内容正不断涌现在屏幕上，把之前的内容挤下去。最后，他将这则帖子视为性引诱而删除。在另一个不知名的地方，一个青少年的春梦破碎，而Baybayan继续把屏幕上的网格滚动到顶端，开始下一轮筛查。
八年过去了，另一个“时间线擦洗工”Jake Swearingen至今还能想起那个让他瞬间失语的视频。那时他24岁，在旧金山湾区待业，随后他得到了一个工作机会：为当时的一家视频创业公司VideoEgg做“擦洗工”。上岗三天后，一个砍头的视频突然出现在他的任务序列里。“天呐！我这儿有个砍头的视频！”他惊呼出声。一个比他稍大一点儿的穿着黑色套头衫的同事漫不经心地转过椅子：“哦？哪一个？”那一瞬间，Swearingen决定自己再也不要做“砍头视频鉴赏家”。“我不想回望过去，发现自己已经厌倦看到人们遭遇如此恐怖的不幸，厌倦、麻木到竟然能就此冷嘲热讽或者开玩笑。”现在，Swearingen已经是亚特兰大传媒的一名社交网络编辑。
现在全球各地每天有大量的信息筛选正在进行，其中许多是在美国处理的，“擦洗工”都是像Swearingen这样刚刚大学毕业的年轻人。许多公司甚至采用“双层筛选模式”——基本的信息筛选业务外包给海外的公司，更复杂的、需要一定文化熟悉度的筛选在国内进行。美国本土的“擦洗工”们享受比海外同行们高得多的待遇：一个刚入行的“擦洗工”为大互联网公司工作一个小时挣的钱，可能比菲律宾一个熟练员工一天挣的钱还多。即便如此，在外包公司谋个“擦洗工”的职位，仍然是菲律宾年轻人们非常渴望的——可对于美国的“擦洗工”来说，“堕入”这个行当往往是没有退路时的选择，而且常常很快就丧失了热情。
“一般三到五个月员工就到达极限了。”曾为YouTube工作过的“擦洗工”Rob说，“三到五个月，你就会坐在那儿一直想‘我这天天干的都是什么啊？！’那种感觉太糟糕了。”Rob是在2010年入这一行的。他大学毕业后跟女朋友一起来到旧金山湾，在这儿，他发现他拿着历史学学位求职简直就像身上背着一块耻辱记，到哪都不受人待见。好几个月过去了，Rob越来越绝望。然而有天，他突然接到一家承包公司的电话，让他去应征Google的一个职位——去给YouTube做内容筛查。
“没错，是Google！”——电话里，他被告知这份工作会签合同，以后还有机会转正成为正式员工，薪水大约是20美元一小时，比在快餐店当服务员强太多了。于是他去面试了，并且签了一年期的合同。“我简直太振奋了，”Rob说，“这份工作薪酬很不错，而且我以为YouTube这个头衔以后写在简历上会很好看。”
最初的几个月，Rob并不介意在YouTube的圣布鲁诺总部做一个视频“擦洗工”。他的同事们都是和他一样刚毕业的年轻人，大部分像他们这样的文科生都很庆幸找到这种比服务业好很多的工作。Rob的上司人很好，工作还有一些额外福利——比如在自助餐厅吃一顿免费午餐。Rob工作的八小时内，他通常会坐在YouTube的开放办公室里，桌上摆着两台显示器——在其中一个屏幕上，10个视频绑定为一批，他要快速检视。在另外一个屏幕上，他想干什么都可以。Rob通常是一只眼睛扫视那些折磨人的视频、仇恨言论，另一只眼睛看电视剧——他已经这样看完了整部《银河星战》。因为这个工作，Rob也有幸见证了YouTube的内部工作机制。比如，2010年末，有个英国妇女声称自己看了伊斯兰教牧师Anwar al-Awlaki的极端布道视频，受到启发想要去刺杀一名政客。随后，Google的律师团队通知擦洗工们紧急删除该牧师的所有视频。
但是几个月后，这些令人不适的内容卷土重来，特别是血腥内容：暴力的街头斗殴、折磨动物、自杀性爆炸、斩首、恐怖的车祸。当“阿拉伯之春”运动蓬勃高涨的时候，活动家们用YouTube把政府镇压行为昭告天下。擦洗工们收到警告，要把这些“具有新闻价值”的视频留着——尽管它们的内容已经违反了规定。那些抗议者们的尸体和街战的近景照片，已经远远超出了Rob和他同事们的承受能力。那些因为病态的喜好而拍摄的内容残酷的视频，摧残着擦洗工们的精神。
“有的人上传虐待动物的视频，对，就是施暴的那个人传的。他很为这种行为自豪。”Rob说，“做变态的事，还很骄傲……通过施暴人的视角看视频不像以第三方视角报道这种变态行为，会伤你伤得尤其厉害。这样的视频会让你看到人性特别黑暗的一面。”在工作之余，Rob也开始细想这些视频的内容。他开始变得沉默寡言、暴躁易怒。YouTube给擦洗工们雇了心理咨询师，理论上谁都可以和他们谈心，但Rob不知道如何接近他们。据他所知，也没有谁去找过咨询师。所以他只能靠自我调节——他喝酒喝得越来越多，身材也越来越胖。
同时，Rob也越来越清晰地意识到他永远也不会成为一个Google的正式员工，因为签完合同几个月之后，他就提交了转正申请，但被告知不能参加面试，因为他的学业成绩未达到标准（虽然Google否认学业成绩是一个决定性的招聘条件）。Rob说，就算成绩合格，也很少听说有哪个合同工最终能够获得Google正式职位。在离合同到期还有几个月的时候，Rob找到了新的工作并辞了职。当最后一天值班晚上七点结束后，Rob如释重负地离开了。他跳上车，开到父母家，倒头睡了整整三天三夜。
虽然“时间线擦洗工”的人数已经占社交网络公司人力资源的一半左右，做这份工作可能带来的长期精神代价还是需要仔细考量。Jane Stevenson曾是英国NCS（相当于美国联邦调查局）职业健康与福利部负责人。2000年初，当第一波互联网反儿童色情组织成立时，她亲眼目睹调查员们因为看了太多儿童色情图片而不堪重负。即便她后来离了职，一些机构和私人组织还在向她求助，所以她开设了一个职业健康咨询公司，专门针对高压行业提供服务。从那以后，她就开始为英国的社交网络公司提供咨询，同时她也发现，这些公司的“时间线擦洗工”们面临的挑战，呼应了那些反儿童色情组织人员、执法机关反恐调查员们的遭遇。
“在你往第一张图片上看第一眼的时候，你就被永久性地改变了。”Stevenson说。但是，有同样问题的执法机关已经为雇员开展了特别的心理治疗计划，并聘请了有经验的精神健康专业人士，然而许多网络科技公司还没有意识到问题的严重性。“有人认为这种心理伤害就如同丧亲，或者工作中的恃强凌弱，人们可以自行调节，”Stevenson说，“因为几乎所有人都经历过亲友的逝去，或者因为听到某人说了某些不中听的话而倍感压力，所以大家都认为这些都是很寻常的。但是和一个两岁的孩子发生性行为是正常的吗？慢慢地（请注意我并不想吓唬你但是砍头真的都不是一瞬间的事）砍掉一个人的头是平常的行为吗？这是你预期会发生的吗？”
在马尼拉，我见到了心理顾问Denise（化名），她受雇于菲律宾两家内容筛选公司，办公室窗外是一条喧嚣不已的高速公路。当面对坐，她告诉我：“这种影响类似于‘创伤后精神紧张性精神障碍’，受创者的思维里有记忆痕迹。”Denise和她的团队为客户建立了大规模的监控体系，给擦洗工们做一系列的心理测试来测量他们的精神底线，之后便会经常提供访谈、咨询去降低那些令人不安的图片带来的影响。但是，即便是最好的咨询，也难抵消长时间注视人性黑暗面遭受的代价。擦洗工们常见的辞职原因是——他们每天长时间盯着那些色情图片导致对性麻木，再也不愿亲近自己的配偶。另一些人则描述他们为过于强烈的性冲动而困扰。“谁能每天八个小时盯着色情内容？每天！”Denise问，“这种状况你能忍受多久？”
不远处的一个大卖场里，我见到了Maria（化名）。这会儿正是她午饭休息的时间。Maria也在一家外包公司工作，为美国一家科技巨头公司的云存储服务筛选照片和视频。Maria是“质保代表”，这意味着她的职责包括复检他们组几十个代理人的活计，确保他们没有遗漏。所以她必须观看许多被擦洗工们标记的视频。她说：“我被那些施加在孩子身上的暴行深深困扰，我想我必须停下，哪怕停一会儿放松放松，去星巴克喝杯咖啡什么的。”说完她笑了，觉得自己把一次恐怖的性犯罪和一杯昂贵的拿铁相提并论很荒唐。
持续暴露在这样的视频中，让Maria的一些同事变成了严重的偏执狂，因为每天他们都会发现，原来人类的堕落的方式是五花八门、无穷无尽的。于是他们开始以最坏的恶意揣测自己日常生活中接触的人，想象身边的人们都在硬盘里藏着怎样不可告人的东西。Maria有两个女同事已经多疑到不肯把孩子留给保姆照看，以致于她们常常因为找不到信任的人看孩子而缺勤。
Maria自己也因刚入行时看到的一个视频而留下心理阴影。“一个女的，”她压低了嗓门说，“大概15到18岁的样子，我不大确定，不过她看起来像是未成年人，有个秃顶的男人正把他的头往她下体塞，女孩被蒙着眼睛，铐着双手，一边哭一边惨叫。”视频长达30多分钟，Maria刚看了一分钟就忍不住因悲伤愤怒而颤抖。谁能想到一个人能如此残暴地对待另一个人？她仔细审视那个施暴的男人——秃顶，看上去像是中东血统，但长相没有一点儿辨识度。这张恶魔的脸就是那种你在超市擦身而过也不会再看第二眼的类型。
在云存储内容筛选公司呆了两年半之后，Maria打算年底辞职去读医学院，但她觉得哪怕她离职不干了，那个视频也会如影随形地缠着她。“我不知道我能不能把它忘了，”她说，“我是很久以前看到的，但是，感觉真的就像是在昨天。”
（作者：Adrian Chen 原文链接：http://www.wired.com/2014/10/content-moderation/ 编译：北京大学新闻与传播学院社会化媒体研究中心）
本文被转载2次
首发媒体
| 转发媒体
