互联网潜规则：我们需要什么样的言论自由？

互联网的特殊环境赋予了人们前所未有的自由，一把锋利的双刃剑。在互联网时代，Facebook之类的社交媒体“比全世界任何高等法院、国王和总统都更有权力决定谁可以说话、谁会被倾听。”而在这些平台背后，有一群人不分昼夜劳作，他们叫作网络审查员。

　　

　　直到今日，朱莉·莫拉布兰科仍记得2006年的那个夏日。刚刚从加利福尼亚州立大学毕业、主修美术辅修女性研究的她苦于打零工无法负担房租，决定进入一家互联网创业公司上班。 这家初创小公司的名字叫YouTube 。

那是个温暖明媚的早晨，她坐在自己的办公桌前开始了第一天的工作。YouTube公司的办公室位于旧金山市郊圣马特奥的一个披萨店楼顶。与莫拉布兰科一同为这个非盈利网站工作的还有60多个其他20岁出头的雇员。

莫拉布兰科所属的团队一共10人，部门简称SQUAD（安全、质量及用户倡议部）。他们分组日夜倒班观看所有上传视频。他们的工作就是保护YouTube羽翼未丰的品牌不受攻击性和恶意内容侵害，或者用莫拉布兰科的话说，“保护YouTube不沦落为靠噱头赚眼球的网站”。创始人想让YouTube成为一种全新的、更好的网站，“一个属于每个人的地方”。

　　

莫拉布兰科旁边的工位坐着的是已经干了几个月的“老手”米思提·厄文戴维斯。二人面前的纸上写着操作准则：删除虐待动物视频。删除血腥视频。删除裸体视频。删除色情视频。

无穷无尽的视频出现在他们的显示器上。看完一个视频后，工作人员在屏幕右上角的四个按钮中选择其一点击：“通过”――让视频上线；“有挑逗性”――将视频标为18禁；“拒绝”――删除视频，不做处罚；“打击”――删除视频并封号。

然而，有一天，莫拉布兰科看到的东西把她吓呆了。为了大家好，她不愿去描述那些可怕的暴力画面，只暗示说内容涉及一个刚会走路的孩子和一间昏暗的酒店房间。

厄文戴维斯淡定地指导莫拉布兰科执行了后续操作：点击“打击”，封禁用户账号，将用户个人信息及视频转交部门领导。接下来，部门领导会转交Cyber Tipline，这是从1998起由全国失踪及被剥削儿童中心建立的举报系统。

近十年过去了，这个视频和视频里的孩子仍令她心有余悸。“在我脑海深处，我仍然无法忘怀那个视频。”莫拉布兰科的声音哽咽了。“我已经很久没跟谁说起过这些事了。”

　　

　　像莫拉布兰科这样现在或曾经为YouTube和Facebook之类的互联网平台工作过的很多内容审查员都对我们开诚布公讲述了他们的故事。其中很多人都首次向大众披露了他们的经历。他们的故事揭示了 在互联网――这个人类社会前所未有的快速增长的高风险区域，言论自由的限度是如何被界定的。 正如法律教授杰佛瑞·罗森在多年前对Facebook的评论一样， 这些互联网平台“比全世界任何高等法院、国王和总统都更有权力决定谁可以说话、谁会被倾听。”

2

2005年，查德·赫利，陈士骏和贾德·卡里姆建立了YouTube。2005年4月，他们尝试了首次上传。10月，他们的第一支浏览量过百万视频诞生。2006年，Google以史无前例的10亿6千5百万美元买下了YouTube网站。莫拉布兰科因而得到了一个头衔：内容策划师。到2006年年中，YouTube的访问者每天都要观看超过1亿个视频。

随着网站内容激增，内容涉猎范围也不断扩大：商业电影和音乐录影，海量业余和专业色情片，然后就是虐童，斗殴和虐待动物。2007年，YouTube建立了内容验证程序以示对版权法的尊重。然而屏蔽恶意内容要比这复杂得多，需要大量的人力投入。

　　

有时筋疲力尽，有时兴高采烈，但永远处在巨大压力下的SQUAD一边评估着YouTube上的视频，一边逐渐制订出标准。他们遵从一条准则：“我能把这段视频分享给家人看吗？”绝大部分时间里，他们都独立工作，只在部门内部讨论。在某些特殊案例中，莫拉布兰科这样的策划师也会和YouTube的创始人进行商讨。在这些过程中，一个新的行业渐渐浮出水面：职业审查员。

2006年秋天，YouTube的律师和高层领导与SQUAD部门一起撰写了公司第一本针对SQUAD部门的规章手册。莫拉布兰科回忆说那本小册子只有六页纸，后来随着工作推进随时几乎每过一两周就调整更新内容。这群原本临时拼凑起来的员工还没意识到，他们正为言论自由奠定新的国际标准。

2007年，在SQUAD的努力下，YouTube第一次出台了明确完整的用户准则。他们禁止了色情、犯罪、无端的暴力、恐吓、垃圾广告和仇恨言论。然而准则中仍然存在着不容忽视的空白，这些空白对用户和审查员来说都是问题。

　　

随着YouTube日渐壮大，上传的视频也越来越多。YouTube作为具有新闻价值视频的发布平台的作用越来越重要。SQUAD中没人对新闻和传媒有经验，而这促生了一系列新的决定。

2009年夏，伊朗抗议者走上街头，抗议内贾德竞选成功。这是伊朗革命后最著名的政治事件。在莫拉布兰科和团队的监控下，很多抗议视频都被上传至了YouTube。

6月20日，他们碰到了一段记录一位年轻女性死亡过程的视频。这位26岁的女性在抗议亲政府武装力量的示威游行中，被子弹击穿了胸膛。这段颤抖的手机拍摄视频捕捉到了其临终前的惨状：她倒在血泊中，鲜血从眼眶汩汩流出。

这段视频上传几小时后便成为了莫拉布兰科团队的关注焦点。她回忆说当时并没有明确规定什么样的视频才有“新闻价值”，但她知道这段含有暴力画面的视频政治影响力非同凡响，也明白他们的处理方式将左右其命运。

莫拉布兰科和她的同事们最终决定让这段视频通过审查。这段视频就此在全球范围内掀起了关于言论自由及人权的重要讨论，并成为了这次政治运动的重要标志。

3

今天，YouTube的亿万用户平均每分钟上传400小时的视频。每小时，Instagram用户平均点赞1.46亿次，Twitter用户转发量2千1百万条。去年八月，马克·扎克伯格在Facebook上发帖说，Facebook网站刚刚见证了一项重要的里程碑：日用户量首次超过了10亿人次。

　　 这些平台的审查员们游走于企业利润、社会责任感与人权的交叉路口，对言论自由、不同政见、社会规范、用户安全及隐私等方面都发挥着重要的影响力 。什么样的违禁视频需要被删除？谁来决定保留哪些内容？新闻价值是由什么构成的？执法领域何时应当介入？微软研究员凯特·克劳馥认为，网络审查是“人类在公共领域何等言论才算恰当的深刻决策过程”。

　　

包含毒打或斩首的暴力视频可能是具有新闻价值的。色情视频可能含有政治意义，也可能只是有哺乳或日光浴这样纯良的内容。被作为喜剧上传的视频也可能含有公开的种族歧视、排犹主义、恐同等元素。“钓鱼者”和罪犯借匿名之机利用强奸甚至直播谋杀来达到煽动和勒索等目的。

正如《大西洋月刊》中一篇文章所指出，现有的内容审查系统是“破碎的”。一年半来，对众多业内人士的访谈显示，全球的网络审查已经在大企业中面临被边缘化、资金不足甚至被忽略等问题。需要警醒的是，早起那种基于直觉的审查制度今天依然在延续，只不过在很大程度上拒绝参与实质性的公开对话，也不回应媒体的调查。

在2014年《连线》杂志的文章中，艾德里安·陈记录了工作在第一线的审查员们的生活。在马尼拉，陈亲眼目睹了一群“地下工作者为了保护大多数人而深陷人性的泥沼中”。媒体和研究者将他们的工作比喻成捡垃圾，但他们的工作对网络礼仪及安全来说至关重要，有时甚至可以挽救生命。

　　

然而网络审查的相关细节总是躲开公众的视线，被当做商业机密雪藏在企业内部。尽管民间团体一直呼吁将信息公开透明，尚没有一家主要社交媒体平台公开过内部内容审查标准和标准的制定依据。Facebook、Pinteres、Twitter、Reddit和Google无一例外地拒绝提供过去和现在的网络审查执行准则，其中Twitter、Reddit和Google更是数次拒绝接受采访。这种保密背后的动机有几种。一方面，执行官们想保护专利技术产权；另一方面，他们也需要一定的弹性来应对瞬息万变的局面，并保护自己的员工及平台免于被公众苛责。

　　大体而言，用户将自己看作消费者。然而 社交平台通过三个方面对用户的依赖改变了这种线性关系：第一，用户产生内容――我们的八卦、照片、视频、评论和互动是社交平台的核心内容；第二，用户行为――积累、分析、压缩、重新包装，都是广告收入来源；第三，用户在审查中扮演着重要角色，因为几乎每种审查系统都有赖于用户的举报和投诉，这样才形成了支持平台品牌的种种规范。换言之，用户既是消费者，也是免费的电子劳工，发挥着不可或缺的作用 。

4

在2014年爆发的明星艳照门事件中（超过100位女明星的私房照被黑客公布在Reddit网站上），一项对16000多名Reddit用户的调查显示，50%不喜欢Reddit的人是因为它包含“恶意、攻击性内容及社群”。在2015年3月公开调查结果后，Reddit创始合伙人之一亚历克西斯·欧哈尼安及其他高管将公司对明星艳照门事件回应不力描述为“错失了在审查非自愿色情问题上成为业内领导者的机会”。两个月后，Reddit发布了公司第一份反骚扰审查政策，禁止发布报复性色情内容。

　　

现在，一些诸如YouTube、Pinterest、Facebook和Twitter这样的知名大公司已经开始运用科技和人力双重手段加强审查，并取得了一定进展。

莫拉布兰科从YouTube跳槽去了Twitter。2015年1月19日，她从Twitter辞职。尽管在Twitter的公共政策部，她已无需日复一日面对满屏幕的暴力影像，她还是在获得可观的收入后选择了离开。

今天，莫拉布兰科在旧金山市中心学习美容美发。她爱这份新工作。“你来这儿干吗？”她的老师有时会问。“你完全可以出去挣大钱啊。”

时不时她也会帮别人做一些网络安全咨询――她还没完全从老行业中跳出来。“但是事情需要改变，”她说。

　　

“我也想投身于这场变革中，但首先社会必须严肃对待网络审查员这份工作，整个互联网行业需要改变。”

编译：未来论坛 商白 来源：The Verge 作者：Catherine Buni, Soraya Chemaly文章转载请注明出处为 “未来论坛”微信账号（ID：futureforum） 未来论坛官网：www.futureforum.org.cn

　　

　　 “未来论坛”是由中国时下深具影响力的一批互联网先行者、投资界成功者、科技业前沿者发起，并于2015年1月20日正式创立。“未来论坛”将网罗全球最新技术和有洞见的人， 进行跨界、跨地域、跨年龄的交流与互动。它提供了一个入口，一个平台，让人们在基础逻辑的普适认知下，去获得方向感，去感知影响力，去踏进一片净土，去得到思想的孵化。

“理解未来”系列讲座，由“未来论坛”倾力打造，是面向社会大众开放的高质量月度科普讲座。“理解未来”系列讲座邀请富有洞察力、创新性和前瞻性的知名科学家和创业者与大众分享交流对未来的认知，促进社会大众对未来的理解与思考。