网课直播尴尬现场：老师讲解摩擦力，竟“涉黄”被封

被迫营业的“十八线主播”们又遇到了新难题——直播因“涉黄”遭封禁？

当朴实的人民教师，架上手机变身业务不熟练的网络主播；看惯沙雕直播的学生，正襟危坐把上网变成上课，一场大型的网课翻车现场拉开了序幕。

前不久，老师们还因为不熟悉直播软件闹出了许多笑话，现在，眼看新手主播们逐渐习惯了直播，直播平台“魔幻”的审核机制又给了新手主播们重重一击。

直播教学涉黄？

其中，最冤的应该就是生物课了，不少生物老师无奈的表示：讲了这么多年课，没想到自己一直处在涉黄边缘。

我们简单看几个例子。

比如温州某生物老师在上课时，讲到精子、卵子以及生殖器官等等生物术语时便遭到了直播平台的封禁，真是又心酸又好笑。

同样难受的，还有护理学校的妇产课程，刚开讲 2 秒钟就封，万万没想到，从生物老师到涉黄只用 2 秒......

再比如，物理老师上课时讲到物体的摩擦力的相互作用时也被封了，这和涉黄有什么关系呢？这个操作真的是好魔幻......

其他敏感行为

当然，也有一些老师还未触及到违禁词，直播间也被封了。

比如有生物老师在讲减数分裂时因为引入了一段其他平台的视频也被封了，虎牙还特地出了声明，表明封禁原因是：引用了其他平台视频，触发平台版权保护机制，并非是教学内容违规。

还有政治老师在讲到一些政治敏感词时，也遭到了平台的封禁。

但是在直播间抽烟的这位老师，估计谁都保不住了......

更迷惑的是，此前还有一些新闻爆出在直播平台吃香蕉、红薯等也会被鉴定为涉黄，当然，老师们在直播中还没有遇到这样的情况，但我们大致可以猜测到这和直播平台的审核机制有关。

而网课这种正常教学涉黄的，其实应该属于被直播平台鉴黄系统误杀的情况。事实上，以图像识别技术为基础的直播平台主要依赖 AI 鉴黄，但 AI 鉴黄对关键词有很强的抓取鉴别能力，比如摩擦、用力，但对语境的把握却不够强，进而导致某些情况下的误杀。

直播平台为何会误杀？

网络直播行业经历了井喷式爆发后，到现在依旧保持着持续火热的态势。但这一市场火爆的背后也暴露了一些问题，低俗内容屡见不鲜，其中涉黄是最为严重的一个现象。近几年，相关部门已经针对这些乱象加大了打击力度，因此基于互联网直播平台的有害信息检测成为重中之重。

通常情况下，直播鉴黄会通过视频截图、图像识别、语音技审、弹幕监控、关键字抽取等能力智能识别色情内容。

其中视频直播内容的审查鉴定可以从以下几个步骤：识别图像中是否存在人物体征，统计人数；识别图像中人物的性别、年龄区间；识别人物的肤色、肢体器官暴露程度；识别人物的肢体轮廓，分析动作行为；除了图像识别之外，还可以从音频信息中提取关键特征，判断是否存在敏感信息；实时分析弹幕文本内容，判断当前视频是否存在违规行为，动态调节图像采集频率。

具体来看，直播时，它的数据是实时生成的，需要用到流媒体技术，包含图像、音频两大数据源，所用到的检测技术也不一样。首先会对直播中的音视频资源提取，分别交由图像处理模块和语音处理模块，针对图像数据我们要提取关键帧，针对语音数据，把视频数据中的音频资源提取出来。

在图像识别部分要对图像预处理、图像分割，拿到有效的区域来检测，在有害信息识别检测阶段，会完成特征提取、目标分类、判断匹配，找出里面涉黄、涉暴的信息。

音频的数据提取之后，上传到到服务器端。拿到音频数据之后，第一步是音频预处理（流媒体缓存、断句切分、统一格式、降噪处理），然后是内容检测（语音识别、关键词检索、语音识别）。除了内容审核之外，还有其它的检测，例如直播平台会对当前主播身份的确认、广告检测、语种识别等。而这种基于图像识别的视频涉黄检测准确率可以达到 99% 以上，可以为视频直播平台节省 70% 以上的工作量。

值得注意的是，人工智能的鉴定只能将海量视频/图片中的疑似黄色内容筛选出来，它可以将审核范围从无边无际中圈出一个范围，但并不能像人一样理解每张图片中内容的准确含义。因此，AI 鉴黄虽然替代了大量人力，但仍然不能完全替代人工，各大平台仍然保留有大量人工审核人员。很显然，老师们在直播中被误伤便是 AI 鉴黄师的功劳，而并非人工审核的结果。

不过，办法总比困难多，直播不行改成录播，全盘都上不行改成先上主课，教材和课件不行改成电子版作业，直播账号被封就换个平台，总不能耽误学生们的学习，但大家最期盼的还是希望疫情尽快结束回到学校上课。 雷锋网 (公众号：雷锋网) 雷锋网雷锋网

参考资料： 用网易易盾内容审核系统，修炼出的鉴黄师“读心术”

如何利用图像识别、语音识别、文本挖掘做好鉴黄？

深度解析音频技术背后的技术 | 硬创公开课

。