ugc社区类产品系列1：违规内容的处理

　　景德镇是一个文明和谐的国度，而我们时刻要保持互联网环境的干净。但对于ugc社区类产品，内容是用户创造的，平台只能即时发现及时处理。倘若不干不净的信息被网警盯上了，可能不会向你打任何招呼，直接拔掉网线了。

　　所以，在景德镇干产品，你还得学会一件事：如何快速高效处理违规信息。

　　按照内容传播环节，扼杀在摇篮里是最保险的，即提交后自动处理。但总有漏网之鱼还是没法被干掉，那就只能在传播中解决掉。

　　提交后如何识别并自动处理

　　如何自动识别和处理，需要搞清楚内容包含的信息载体元素和发布内容的行为模式。

　　信息载体上，内容可分为文字、图片、音频、视频，其中对文字的处理手段最成熟，即关键词、url等特殊文本信息过滤，图片、音频、视频，恶意url链接地址识别。这个过程时间极短，系统只能通过词库或者二维模型做简单运算并给出是否发布成功的提示，不能做过多运算。如bbs、cms都采用此过滤法处理。

　　传播中如何识别和处理

　　行为模式上，对用户所处地理位置（ip识别、地域识别）、访问方式（登录行为方式停留时间、是否立即发布后离开）、内容发布行为（发布频率、提交速度如何）、账号资料（昵称、邮箱是否有无规律；是否间隔更换账号登录、账户之间是否同一批次注册等）、社交关系（是否与马甲账号关联、是否有真实社交关系存在、是否参与互动），通过这些维度建立模型进行用户过滤（是否禁用账号），内容过滤。这个过程需要系统强大的运算，故在发布后进行处理。比如搜搜问问违规问答发布后几分钟被清理，就是采用的此方法。

　　对机器无法识别处理的内容，比如一些文字内容中关键词隐喻（正话反说、哑谜等手法）、拆分（如装13）等处理手法，机器没法识别，可采用用户举报功能。系统通过收集用户反馈，对内容进行协同过滤。比如新浪微博大多数内容的有举报功能。

　　但也有特殊情况，内容发布的时候不违法规则，但发布后造成了不良影响被判为违规内容了。这时候通常采用系统管理员立即进行人工清理。如新浪微博李开复事件禁言三天。

　　对违规内容处理手段

　　对违规内容，一般采用前台清理后台数据保留的做法，严肃的，数据全部清理。又或者采用仅发布者可见，其他用户不可见。或者内容排序垫底靠后不靠前显示，让违规内容直接淹没掉。

　　看完你会发现处理违规内容的过程，其实和推荐引擎的工作原理挺相似的。最开始一层过滤需要快速响应，类似推荐引擎的冷启动，第二层、和第三层过滤，就需要采用离线数据模型和在线隐性行为模型（系统对用户交互产生的数据反馈分析）和显性行为模型（其他用户举报的反馈数据分析）结合分析过滤掉。

　　本文虽然写的有点硬，但还是较好理解。主要分享的是一种思路，处理此类问题的方式。产品同学在具体工作实践中，可以结合自己的产品找出维度建立过滤层级模型使用。

　　来源：投稿，作者gauin，微信公众账号gauin’s blog，原文链接。