58同城的 “内部风控手册” ：自研与第三方SaaS携手构建大型风控体系

在 互联网 江湖驰骋的15年间，58同城主动承担起维护内容社区的职责，在自研内容安全能力的同时，也遴选了第三方平台作为能力的补充。58同城在解读安全运营之时说。

内容风控是为了更好地确保社区用户的安全，以带来更好的用户体验。内容风控的设想从社区诞生之初便存在了。此后，跟随着社区生长，内容挑战层出不穷，形式多样，内容风控能力建设不敢有半分松懈。

经过多年发展，58同城已经拥有自研且完善的内容安全能力。“为了做好风险兜底，我们与网易易盾合作，易盾对于内容安全问题识别效果较好，且服务响应速度快，最终引入了易盾的多项内容识别服务。”

年底回顾，多方的努力没有白费。违规内容在人机协作的大型风控体系下一一现形，共同为用户打造了良好有序的网络环境。这一变化也让审核人员直呼放下了身上的重担。AI识别工具犹如敏锐的“雷达”，指哪儿打哪儿精确命中，人工审核不仅更高效了，而且质量得到改善，总体的成本更是降低不少。

遭遇内容风险变形怎么办？

“58同城，一个神奇的网站！”

伴随着清脆的话语声，58同城自然而然地浮现在人们的脑海。58同城作为领先的生活服务平台，连接了人与信息、人与人，每天上千万条讯息在这里汇集，蕴藏着探索工作、生活的新可能。

2021年，跨越了PC与移动时代的58同城全面向产业化布局发展。58同城业务覆盖招聘、房产、 汽车 、本地生活服务等领域，旗下拥有安居客、58到家、赶集网等核心品牌，全产业化催生了更多的数字内容，也锤炼着58同城的风控实力。

内容风控不仅仅是对内容方面的风险进行控制。58同城十分重视建设内容风控安全体系，具体而言，针对互联网的海量内容衍生出的外部、内部风险做宏观到微观的审核和引导。从内容表现形式来看，主要有图像、文本、视频、音频等，对内容的审核主要以一级兜底安全为核心，主要针对涉政、涉黄、违禁、暴恐、广告、诈骗等多种违规问题进行处理，要求零容忍。

冷静思考过去，风险内容层出不穷，企图用博眼球的内容形式不惜触碰网络合规安全底线，跃跃欲试寻找漏洞以躲过安全检测机制。

58同城表示，违规内容对平台口碑造成的结果是“多米诺骨牌”式的倒塌：用户体验降低引发用户流失，最终会影响平台的发展。内容安全关乎企业的生命线，风控的有效性可以帮助企业化解“监管”风险和“社会舆论”风险，守住内容风控的“大门至关重要”。

集合算法，把握个体经验与细节

从线上到线下，再从线下到线上，催使着内容安全能力不断升级，58同城秉持着“自研不能放”的原则，也引入了更为优质的第三方算法能力。

58同城通过采取“机审+人审”的内容审核机制，把好信息安全关口。具体应用过程中，考虑到业务使用范围场景复杂度与误伤，先由机器审核打头阵进行初审，对于初筛过的内容由人工按照机审处理规则（如色情、暴力）等维度对内容形式（如图片、评价）进行二次审核。

在这个过程中，基于人工智能的审核系统可提供相应的用户、商户等辅助信息数据，协助运营部门对内容进行快速决断。以目的为标尺，58同城制定了内容风控的三大方向：

1）政策层面的内容合规，要符合监管的要求；

2）社区氛围的良性导向，如避免谩骂、争吵等；

3）社区用户安全的保证，如避免引流、灰产等；

只有跨过了三大坎儿，才能更好地进行社区运营。伴随着国家互联网内容立法不断完善，“互联网+”内容平台的范围不断扩展，“内容风控”考核从无到有再到逐步规范，汇集成一系列法律法规。

最新实行的《网络信息内容生态治理规定》显示，监管对于各项违规内容都做了详细规定，大致概括可分为涉政、违禁、暴恐、色情等四类。“这部分是政策红线，一旦触及，轻则约谈，重则下架、封禁。内容安全的标准应该和行业、国家标准对齐。”58同城分享到。

58同城不断提升自身内容安全能力的建设，在风控体系下，自研与第三方SaaS如何组合平衡，是摆在面前的一个矛盾。58同城是这样解答的：

首先，58同城信息安全团队基于平台现有的风控系统及时捕获各种内容监管信息，增强各种已知监管内容检测能力的覆盖度和准召率，提升快速止损的应对能力。其次，面对时刻存在的未知风险，团队进行基于单个case快速追杀能力的储备。最后，在多种类型和变形问题上，团队集合了以网易易盾为代表的第三方优质能力进行补充，让风险的底兜更牢固。层层推进，严守信息安全底线，切实保障用户权益。

在解决方案的应用层面，58同城指出，“不同场景设计有不同的解决方案，分析现有能力并提供策略，策略要从单个内容出发，延伸到发布该内容的用户基础信息、关系链、过往内容、实名可信度等诸多维度进行调参和计算，并进行线上定期巡检。”

联合风控，效果好过单打独斗

对平台来说，用户分享交流的内容（UGC内容）越多，平台就更为丰富。如何将内容中的“杂质”迅速沉淀下来，是综合性内容社区共同的难题。不良讯息一旦借由平台之力触达普通用户，会对内容社区形象带来不利影响。

58同城在“风控”这件大事上安不忘危。如今，面对各类内容风险，58同城显得十分从容，因其在身经百战后摸索出了一套独特方法论：通过“全面体检，对症下药，循环复查”的方式，全方位、全场景提供内容安全检测与风控等服务，58同城也表示：

内容风控是一个大的体系，除了基础审核，还包括前期内容产生风控规范、舆情引导、内容的二次巡检、产品界面的风控提示等很多的工作配合，企业风控能力必须步履不停，才能防患于未然。