图普科技升级内容审核2.0，以人工智能过滤低俗视频

雷锋网 (公众号：雷锋网) 按： 今年4月，对于互联网内容公司来说是多事之秋。4月4日，快手和火山小视频两家平台被广电总局约谈并进行内部清查整顿。9日，今日头条与凤凰新闻、网易新闻、天天快报等新闻类APP被做下架处理，其中，今日头条的下架时间最长，达到3周。10日，《奇葩大会》第2季视频全面下架，广电总局责令永久关停内涵段子。

4月6日，快手在某招聘网站发布的招聘信息显示，为了加强审核能力与内容上传量的匹配，快手将在现有2000人的审核团队基础上，扩招3000名审核人员，将审核人员的规模扩充到5000人。此前的1月3日，今日头条在招聘网站上发布了有关内容审核编辑的招聘信息，拟招聘2000人的内容审核团队，同时今日头条方面也表示，这个数据还会持续增加，预计很快突破10000人。

监管逐渐趋严，对网络低俗、色情、暴力内容零容忍、严整顿，网络内容平台亟需有效措施解决内容审核方面的漏洞。

5月29日，为了帮助直播和短视频平台适应加强的内容审核需求，通过图像识别来进行内容审核的人工智能公司图普科技发布“高召回·识低俗·懂视频”的内容审核2.0新产品。

图像识别技术与内容审核

传统的图像审核方式主要有三种：一是纯人工审核。企业员工“三班倒”工作，人眼鉴别该图片或视频是否违规。二是建立MD5数据库。网监建立存储违规图片、视频的MD5数据库，用户上传后自动分析MD5是否合法，则可避免涉黄内容重复分享。三是传统的智能审核。如识别色情图像，基本是通过图片RGB值识别肤色比例、通过建模识别异常动作、敏感部位等。

但是三种审核方式都存在较大漏洞：“三班倒”的人工容易导致审核效率低、误判漏判多等主观性问题；MD5则非常容易被篡改；传统智能识别色情图片准确率低、经常误报等。而以图普科技为代表的互联网图像内容审核专家，基于人工智能与图像识别技术领域的深度学习算法，通过模拟人脑神经网络构建模型，能够对高复杂度数据形成良好解读。通过大数据持续训练、频繁迭代，图普科技的图像识别云平台的内容审核产品的精确度达到99.5%，节省超过90%的人工复审工作。

高召回率打造识别“天网”， 实时视频理解识别低俗内容

发布会上，秒拍平台副总裁陈太锋表示：“面对目前严格的内容审核需求，我们平台方不仅仅需要准确地识别违规内容的审核服务，更需要能把所有疑似违规内容都识别全的服务。因为任何一条漏网视频带来的后果，我们平台方都是难以承受的。”

2017年短视频出现，成为了新的UGC载体。随着视频数量的剧增、违规场景的变化，监管方对内容合规要求也在不断调整，因此对平台运营的要求也原来越高。据了解，今年3月，某短视频平台累计清理27231条违规视频，8921个音频，89个挑战，永久封禁15234个账号。

据图普科技CEO李明强介绍，图普科技的内容审核2.0，使用更加成熟的深度学习技术，在1.0产品高召回率的基础上，具备识别低俗内容功能，能够读懂视频，帮助平台提高审核效率，过滤低俗、色情、暴力等内容。根据内容安全管理相关部门的规定，将低俗内容分为四个分类维度：危险性行为、成瘾性行为、涉嫌低俗场景、特殊人群，帮助平台确保不出现淫秽色情、凶杀暴力等有害内容，不传播低俗恶俗内容。

图普科技内容审核2.0产品除了拥有低俗内容审核功能之外，还借助AI技术深度赋能，通过人物属性、人物行为、场景识别、物体识别等四个维度来提取视频内容，帮助平台方高效细分视频内容，助力平台精细化运营。同时借助该功能，平台可以进行智能视频检索和比对，实现经典视频防篡改、版权视频受保护、敏感视频可检索。

据其官网介绍，图普科技是一家基于深度学习技术解读图片和视频内容的人工智能科技公司，提供图像内容审查服务，包括鉴黄、鉴暴、政治敏感、广告过滤、直播监控、头像审核等，在2014年初创建并开放了提供各类图像识别能力的云服务平台，目前图普云平台涵盖黄暴识别、人脸识别、证件识别、场景识别、图像风格化等数十种图像识别接口，日均图像接口调用数亿次，累计处理超过1000亿图像，是较早将人工智能成功商业化落地的企业。合作方包括映客、秒拍、今日头条、唱吧、酷狗、花椒直播等数百家互联网企业和政企机构。

---

现在关注“雷锋网”微信公众号（leiphone-sz），回复关键词【2018】，随机抽送价值 3999 元的参会门票 3 张

。