网易易盾携手“清朗网络”的践行者，婚恋社交安全的背后是数字内容风控

疫情期间，约会应用软件意外成为必需品，不仅霸榜iOS应用商店下载排行榜，更是在去年获得了超6亿人的使用。可见，陌生人 社交 模式成为当代青年交往的重要助推器，人气紧追老牌社交软件。

在此背景下，陌生人社交软件迅速蹿红。某陌生人社交软件在专注于“交友”生态建设的同时，始终秉承“守护用户交友安全”的责任，构建了一支100人以上的审核团队，并引入网易易盾的数字内容风控体系，为用户可信度与APP内容生态把关，保证陌生人社交的真实性与安全性。

一、聚焦单身交友，发挥先行者优势

某陌生人社交软件，是一款以 互联网 思维开发的婚恋交友APP，让单身男女通过文字、语音、视频等多种方式与同城附近异性聊天与互动，已有超过千万用户在平台快速搭讪结识了心怡的另一半、知心朋友、红颜蓝颜知己。

以独特的文化内涵，丰富品牌调性，该陌生人社交软件不仅强调产品的单身交友属性，更传递年轻人对自我、情感的表达，通过对自己的“示弱”的调侃，形成幽默的反差效果。在短短4年内中，APP已经实现100倍用户增长，在2020年7月APP总用户量突破1亿，成功跻身中国垂直社交产品TOP3产品。

二、各大风险 识别和管控

在信息高度发达的今天，该客户经历了 商业 模式的阶梯式创新，以智能的AI匹配算法，以声音、视频、AI智能推荐机制为抓手，为用户快速推荐相互有好感的异性。

在这里，搭讪聊天回复率高，平均回复等待时间小于5秒，让用户快速进入状态。内容交互节奏的加快，意味着内容审核机制的快步赶上。该客户从以下2方面出发，对可靠和稳健的数字内容风控体系提出要求：

海量UGC内容安全：色情、虚假广告、违禁、暴恐、涉政等内容的监察与拦截，有损平台形象，IM私聊、社区、评论、动态、用户资料、直播等环节是用户参与的重点，也成为所有互联网内容平台关注焦点。

新进用户身份把关：进行风险审核时，不可避免需要对新用户进行综合评估， 首先必须在不影响个人隐私的情况下，其次账号背后的身份真实、可靠性往往难以把控和确认。

陌生人社交平台所面临的内容风险来自于各方各面，识别和管控细碎且复杂，大大掣肘了业务稳定健康发展。近年来，采用先进技术应对风险，成为行业进步的一个必然选择。

三、“清朗”主体责任多维度把握

清朗网络空间的治理行动稳步开展，陌生人社交向着健康的方向发展成为大趋势。该客户以平台自身监管责任为使命，携手网易易盾，共同构建一套全面覆盖、相互连结的数字内容风控体系。

在合作中，该客户强化了“先审后发”和“三重审核”机制，利用AI机初审，基于智能审核平台开展人工复审，以及总编室终审，保证真实社交的安全性。

AI机审，基于自然语言理解、深度学习等技术，覆盖图、文、音、视，实现毫秒级违规预警。从源头出发，敏感词检测一般作为第一道关卡，同时结合智能模型对文本二次识别。易盾为其设置了敏感关键词、策略规则组合、语义模型，针对敏感信息进行实时预警，达到拦截垃圾内容的目的。

根据客户的场景及需求，设立专项完成优化方案：一是，确定了四档风控等级，通过分级制度更好管控内容服务。二是，根据日常运营需求，灵活定制内容监管策略。三是，为违规问题匹配定制化标签，确保审核数据结果一目了然。

网易易盾还为用户真实性提供全面验证，所有技术基于合法隐私数据之上。用户画像技术通过用户行为、设备IP等信息，分析用户是否有黑灰产风险，是否为虚假账号，最小化地利用个人数据，从而最大程度地满足个人数据隐私合规要求，实现用户身份的验证。

最后，通过舆情周报、月度报告、年度报告，API报告、特殊时期安保专项等多个环节进行定期反馈，提供审核过程的数据监控、质检优化等功能，确保审核质量的真实可信。

四、一站式风控效果显著

长远来看，数字内容风控体系接入简单，一站式提供数十种算法模型、多类违规内容对抗策略与全栈智能审核平台，大大降低公司开发成本与节省内容治理人力，确保了不同场景下的内容对用户无害，势必将全面释放交友的流动性，让社交更具活力。

用户安全

每一位新用户都经过“系统+人工”双重审核，超过9成的用户通过真人认证。真人社交让APP拥有了更多的用户技术和较强的用户粘性。

内容安全

以2021年2月为例，APP累计处理违规案例22409例，禁言处罚10705例，封禁账号218例，永久封禁账号11486例。由数据可知，APP“净网行动”卓有成效，违法违规行为数据连降5个月，降幅明显。

内容审核不再只是为了发现与删除不良内容，有效区分出高风险的访问者、并持续跟踪各类内容风险，成为了平台的每日课题。目前，易盾一站式“智能内容检测解决方案”接入简单，效果显著，为众多头部娱乐社交公司所采用。