谷歌、FB悄然部署自动化技术 屏蔽极端分子视频

Facebook

凤凰科技讯 北京时间6月26日消息，据路透社今天报道，两位知情人士透露，美国多家最大的视频网站正在悄悄利用自动化技术，移除极端分子在他们网站上发布的内容。 

屏蔽宣扬极端主义的内容

此举标志着互联网公司在打击极端内容方面迈出的一大步。 随着极端分子的攻击范围不断扩大——叙利亚、比利时和美国都遭到了袭击——互联网公司都渴望想要删除其网站上宣扬暴力的内容，同时他们还面临着各国政府压力，要求其删除此类内容。

上述知情人士透露，YouTube和Facebook等许多网站都部署了专门的系统，屏蔽或快速撤下“伊斯兰国”的视频和其他宣扬极端主义的内容。

这项技术最早开发出来是用于识别和移除视频网站上受版权保护的内容。它会搜索散列值（hash，即互联网公司自动分配给特定视频的独有数字指纹），从而将所有与这种数字指纹匹配的内容快速移除。

这种系统可以阻止已被确认为“不能接受”的内容转发，但它不能自动屏蔽以前从未见过的视频。 这些公司并未确认是否正在使用这种技术，也不愿谈论是如何部署这项技术的。但众多熟悉该技术的人士称，它可以对用户发布的视频与被禁内容数据库进行比较，确认那些含有斩首或宣扬暴力内容的新帖子。

上述两位知情人士不愿讨论究竟需要多少人来评审被自动屏蔽技术确认的危险视频。他们也不会说明被禁内容数据库中的视频最初是通过哪种手段被确认为极端主义内容的。

互联网公司会继续在内部以及与竞争对手和相关利益方就这个问题进行讨论，因此，这项新技术的用途可能会随时间不断得到优化。

今年4月晚些时候，由于美国总统贝拉克·奥巴马（Barack Obama）和其他欧美国家领导人均表达了对于互联网激进化的担忧。据知情人士透露，迫于这种压力，Alphabet旗下YouTube、Twitter、Facebook和CloudFlare等互联网公司举行电话会议，讨论了各种潜在的解决方案，其中就包括由非营利组织“反极端主义项目”（Counter Extremism Project）提出的内容屏蔽系统。

机遇与挑战并存

这些公司的讨论突出了全世界上最有影响力的一些公司如今在解决恐怖主义、言论自由，以及政府与企业权力界限等问题上所发挥的重要作用和面临的挑战。

就 目前而言，还没有一家公司公开支持“反极端主义项目”的内容屏蔽系统。事实上，这些公司通常更担心外部力量对其网站的运营政策进行干预。

乔治华盛顿大学极端主义研究项目副主任希姆斯·休斯（Seamus Hughes）说，“这与违反版权的内容或儿童色情内容略有不同，因为这两种内容很显然是不合法的。”

休斯指出，宣扬极端主义的内容是一个很宽泛的概念，不同的互联网公司在界定这种内容时，都有自己不同的标准。

在此之前，大多数互联网公司主要依靠用户来标注违反其服务条款的内容，而且目前很多互联网公司仍然采用这种做法。接下来，被用户标注过的内容会由人类编辑亲自审核，一旦发现违规内容，就会立即删除。

两位知情人士称 ，现在使用自动屏蔽系统的公司并没有公开谈论这种技术，部分原因就在他们担心恐怖分子学会使用其系统，或是实行高压政策的政权可能利用这项技术来审查其异见者。

CloudFlare首席执行官马修·普林斯（Matthew Prince）说，“这些公司谈论这个问题不会有什么好结果。他们有什么理由去吹嘘审查制度呢？”

两位知情人士证实，“反极端主义项目”在上周组织首次公开谈论它的内容屏蔽系统，并敦促大型互联网公司采用这种系统。

美国前总统安全顾问参与

知情人士称，今年4月份的那次电话会议是由Facebook全球政策管理部门负责人莫妮卡·比科特（Monika Bickert）牵头举行的。据一名与会者透露，Facebook在会上提出多种方案供讨论，其中就包括“反极端主义项目”提议的方案。

“反极端主义项目”组织由弗朗西斯·汤森（Frances Townsend）和马克·华莱士（Mark Wallace）等人创建。汤森曾是美国前总统乔治·W·布什（George. Bush）的国土安全顾问，而华莱士则是2004年小布什竞选连任的幕僚团队重要成员。

三位知情人士透露，对于让外部组织来决定哪些内容“不能被接受”，与会的互联网公司都心存疑虑。

此次会议上提出的其他替代方案还包括，建立一个全新的行业非营利组织，或是扩大现有行业非营利组织的规模。与会代表讨论的所有方案还涉及散列值技术。

一个由行业资助的组织完全可以借鉴非营利性组织“全国失踪和被剥削儿童中心”（National Center for Missing and Exploited Children）的成功经验，后者利用一种名为PhotoDNA的系统来识别已知儿童色情图片。这个系统由微软免费授权给该组织使用。

微软资助开发相关技术

今年5月，微软宣布将向达特茅斯学院计算机科学家哈尼·法里德（Hany Farid）提供资金和技术支持，令其可以“开发一种技术，帮助利益相关方识别公然宣扬恐怖主义的内容。”法里德与“反极端主义项目”关系不错，参与开发了PhotoDNA技术。

据知情人士透露，在电话会议上，与会的互联网公司对“反极端主义项目”的提议表示了担忧，这其中就包括Facebook的比科特。她拒绝公开对那次电话会议以及Facebook所作出的努力发表评论。不过，她在一份声明中称，Facebook“正在与业内其他公司一道探索各种途径，以移除违反我们反恐政策的内容。”

最近几周，Facebook已给其他公司发去调查问卷，征求他们对全行业通力合作解决这个问题的意见。

Alphabet旗下谷歌发言人威廉·菲茨杰拉德（William Fitzgerald）也拒绝对本次电话会议或该公司极端主义内容自动屏蔽系统发表评论。YouTube是谷歌旗下视频网站。

Twitter发言人则表示，该公司仍在评估“反极端主义项目”提出的方案，“目前尚未作出最后决定”。

一名谷歌前员工称，除了打击侵犯版权的行为以及与内容制作者进行分成外，谷歌很早以前就对如何利用本公司内容ID系统进行过讨论。据知情人士透露，谷歌的内容匹配系统推出的时间要早于Facebook，但远比Facebook先进。

美国总统反恐政策高级顾问莉萨·莫纳科（Lisa Monaco）在一份声明中称，白宫对任何旨在帮助企业“更好应对恐怖主义网上活动威胁”的倡议都持欢迎态度。（编译/清辰）