网易云安全：直播用户量爆发，智能化风控成趋势

近日，第二届移动视频生态发展论坛在上海举行，200余位来自视频直播的行业领袖和技术专家就视频直播趋势变化、直播内容监管与规范、视频内容IP价值的发掘和重塑等主题展开探讨。

网易云安全(易盾)产品总监王博受邀出席论坛，并发表了关于“视频直播行业内容安全现状与实践”的演讲，他认为当下直播运营者在内容监管方面往往会遇到风险、成本、技术、效果等困境，而在内容安全解决方案上，做到有机整合、人工智能、内容风控这三点尤为重要。此外，网易云安全正式面向企业客户开放了其内容安全智能系统，这一系统在云安全服务领域处于业内领先。

网络直播爆发的同时，内容监管问题日益凸显

2016年被誉为“中国网络直播元年”，上半年网络直播用户规模就已经达到了3.25亿，占网民总体的“45.8%”，中国直播市场的总量超过了 250 亿元。网络直播作为一种新的大众 传媒 方式开始全方位走入公众视野。

一个新行业野蛮增长之后，暴露的是约束条件的不健全。“进入2017年，直播遇到新挑战，内容监管就是其中之一”，王博说，“仅2016年7月，文化部查处关闭的直播房间数超过2万、涉及网络主播超1.6万”。

随着国家在直播内容方面的收紧，有关部门对直播内容提出了要24小时监管、建立内容审核机制，包括录播先审后发，以及主播实名认证等要求。王博认为，在如此严格的内容监管要求下，直播运营者或COO往往会遇到以下四个方面的困境——风险、成本、技术、效果。

风险层面：如果某直播运营团队在内容审查方面经验比较少，往往会出现触犯法规高压线，轻则停站，重则关站。

成本审核：如果是自建7×24小时的审核团队，一般来说90后团队管理难度大、人员流动非常频繁，这会导致成本居高不下。

技术成本：无论是内容监管，还是文本反垃圾，采取自研技术时间周期长且成本也非常高。

效果不佳：垃圾清理不干净，极大可能会影响用户，因此造成用户流失。

控制违规内容，最好从源头解决

在直播内容黄、暴、广告日益严峻的情况下，打造纯净网络空间显得尤为迫切。在本次论坛上，王博根据网易20年的反垃圾技术经验，总结出了以下三点重要经验——有机整合、人工智能、内容风控。

有机整合是指必须有一个完整的、功能齐全的内容管控系统。“网易在做内容安全方面，对整个业务流程中每一个环节都有把控。举个例子来说，用户注册到登陆再到发表一些内容——包括图片、文本、音频、视频，我们都会做内容防护，确保最后的内容是纯净、安全的。”王博说。

借助人工智能。单纯靠人工解决审核问题，已经无法满足视频直播高流量的需求，人工智能在此环节中起到很大作用，让机器做机器做的事情，让人做人做的事情。在此方面，网易云安全(易盾)会通过机器学习进行语意分析及智能关键词分析，来判断发表的内容是否涉黄、涉暴、涉及谣言等。

内容风控，在反垃圾方面如果是事后做，会比较被动。反垃圾更为高效的手段在于运营者在源头或者垃圾没有产生之时，做到提前预知。王博表示，网易云安全(易盾)可以通过对用户行为的大数据分析，形成用户画像，能提前预知该用户是否产生诈骗行为。

据王博介绍，目前网易云安全(易盾)已经为疯播、全聚星、栗子直播、鱼泡泡等多家视频或直播客户提供反垃圾服务。针对直播行业，网易云安全(易盾)推出了专业的主播身份认证功能、直播挂机检测和直播黑屏检测功能等。随着视频直播用户内容递进式爆发，视频平台的内容安全能力走向系统化、智能化已经成为趋势。

此外，网易云安全(易盾)还推出有内容反垃圾、行为式验证码、注册保护服务、登陆保护等服务，已为众多UGC、PUGC平台提供内容安全和业务安全防护服务，为企业降低人力和技术成本，其相关技术已经处于业内领先。