为了解决弹幕喷子,直播平台Twitch研发了一个深度学习系统
从电子邮件到论坛,从论坛到微博,再从微博到现在的视频直播。当人们在网上发言的速度越来越接近口语的时候,也就给网络喷子带来了越来越多的便利。虽然从人类学会说到现在,还没有什么办法能阻止人类之间互相对骂。但网络空间不比线下,一个人用嘴骂人只能被少数人听到,而在网上却可能影响几千人几万人。在最新一季的南方公园中,甚至认为网络喷子是川普当选和第三次世界大战以及人类登上火星的主要原因。
如何阻止网络喷子成为了各大互联网公司的一个共同的课题,而美国游戏直播平台 Twitch 则为其它同行们提供了一个新鲜的思路。Twitch 今天上线了一个全新的工具 AutoMod,帮助主播们打击活跃在自己聊天室内的喷子。
AutoMod 并不是事后审查,而是将那些疑似有攻击性和歧视性的弹幕直接移入待审核列表由人来决定这些内容是否可以被放出来。根据选项,它可以过滤四类内容,分别是人身攻击、性语言、侵略词语和亵渎词语。
所有的专业喷子都会对任何使用机器过滤他们语言的行为感到不屑,因为他们总是能在第一时间找到突破屏蔽的方法。但是 Twitch 声称其工具远远不是一般的「关键词过滤列表」工作模式,而是采用了深度学习和自然语言识别系统。也就是说 AutoMod 是以整句和语意的方式在识别每一条弹幕中的「恶意」程度。Twitch 的发言人说:「除了不当的词语和短语之外,特定的表情符号的搭配和替换某些词语用的另外一些词语也会在第一时间被机器学会并过滤出来。」
根据 Twitch 的介绍,为了能够让这个拦截系统能够成功的跟上喷子的脚步,Twitch 使用了亚马逊 AWS 的机器学习平台作为后盾。亚马逊在去年到今年卖的火热的人工智能音箱 Echo 里集成的智能助手 Alexa 就是使用这一深度学习平台调教出来的。这让人看到了一丝将喷子从 Twitch 平台彻底驱逐的希望。
AutoMod 目前提供英文版,同时也在测试阿拉伯语,捷克语,法语,德语,意大利语,日语,韩语,波兰语,葡萄牙语,俄语,西班牙语和土耳其语等 12 个语言的测试版本。Twitch 主播可以在设置面板里将其打开。
不过如你所见,博大精深的汉语并不在其中。