微博、豆瓣、抖音都在做的新功能，终于让网络暴力不再无解

来源：爱范儿

一些见不得光的恶意将一个 16 岁的少年逼上了绝路。

Carson Bride 在自杀前搜索的最后一个词条是「 如何显示 Yolo 用户名 」。

Yolo 是一个匿名 社交 应用，因为它的设置，使用者永远无法知道背后发送消息的人是谁。可以说这是一个完全不受拘束的神秘空间。而当它背后充斥着恶意的时候，铺天盖地的信息也会让你有一种不被世界所容的错觉。

▲ Yolo 是一个匿名应用

Carson 在连续数月收到来自 Yolo 的匿名负面信息后选择结束自己的生命。他的母亲并没有通过 媒体 向各个平台施压，要求他们公示对儿子进行长期辱骂、逼迫之人的名单，而是起诉了儿子使用的社交平台 Snap、Yolo、LMK。在她看来，这些公司没有遵守自己的服务条款和政策，违反了消费者保护法，且助长了欺凌行为。

这就是故事的结局，一个母亲因为儿子的自杀起诉了网暴者借之宣泄恶意的平台，而非平台背后的人。

这次，平台不再隐身

阳光照在海面，我也归于大海。从这里结束自己的一生，也带走了这个世界上最美的风景。

寻亲男孩刘学州最后在微博诉说了自己被生父母出卖、养父母身亡、遭受校园欺凌猥亵以及被网暴的一生；确诊新冠病毒的周女士个人信息在网络被疯传，不少人通过公众平台嘲讽她「千里送毒」；江歌的母亲在维权过程中遭到了部分网民的辱骂，她 5 年起诉了 10 名网民。

▲ 网络暴力已经不是个别问题 . 图片来自：comminit

以往发生网暴事件，总有人出现呼吁真善美，让每个人规范自己的行为不要成为「压倒骆驼的最后一根稻草」。个体的行为在网暴事件中被反复的提及，平台固然会受到批评，但被指责的更多是通过平台隐藏自己的人。

只是越来越多人在拿起法律武器反击时不仅针对背后的施暴者，也开始要求平台能发挥更大的作用。Carson 的母亲并不是孤例，隐藏在平台背后的人固然可恨，但没有及时保护用户、制止暴行的平台同样不能独善其身。

一位法学从业者表示，面对网络暴力，平台和自然人都需要承担应有的责任。《刑法》就规定，网络暴力行为涉嫌诽谤罪和侮辱罪，可处以 3 年以下有期徒刑、拘役、管制或者剥夺政治权利。只是落在一个个具体的案例中，网暴行为导致的「情节严重」的情况都较难确定。

▲ 图片来自：rsearch blog

平台也有《网络信息内容生态治理规定》做出了限制，不得制作发布侮辱或诽谤他人，侵害他人名誉、隐私和其他合法权益的内容；应当采取措施防范、抵制制作展现血腥、惊悚、残忍等致人身心不适的内容。

如果只是谈到网络暴力的提前预防和保护，那从平台和用户的角度来说，针对平台去做产品的优化升级也要比限制用户来得更容易。毕竟用户千千万，而平台就只有那几个。所以不管是政策的要求还是平台自己的迭代，我们都能看到越来越多平台在主动做出改变。

各显身手，制网暴

中国 互联网 平台对网暴越发关注是从今年开始的。

2022 年 1 月开展的清朗行动中列出了重点整治的五个方面，其中首先被提及的就是「网络暴力、散播谣言等问题」。在这个行动后，越来越多平台上线了有着不同命名的防网暴功能或模式。

▲ 网暴来自屏幕背后看不见的手 . 图片来自：Mingyongcheng

反应最快的是微博，1 月 24 日，微博在回应刘学州事件时就表示平台拟上线一键开启「防暴模式」，用户可以在隐私设置里对评论博文和私信的人加以限制；还可以开启「评论防火墙」，由系统自动屏蔽人身攻击和恶意骚扰的内容。

微博在 3 月 11 日就正式上线了这一模式，相较于其他平台，微博这一模式最大的不同在于「将综合考虑评论、私信等各个场景的不同行为特征，提前发现潜在被攻击用户，做好前置环节的预警提示，引导高风险用户主动开启一键防护功能，进一步减少和预防用户遭受言论攻击的情况。」

▲ 微博一月底曾预告「防暴模式」

平台：微博

功能名称：一键防护

上线日期：3 月 11 日

防护日期：7 天

主要功能：7 天内不接收未关注人的私信，未关注人将无法评论你的微博，未关注人转发你微博的记录将不会展示在转发列表中

打开方式：「我」-「隐私设置」-「一键防护」；引导高风险用户主动开启

▲ 一键防护开启界面

和微博为用户构建防护墙不同，抖音还会主动出击，向那些内容发布者示警。用户在评论区发布的违规 / 低质评论会被模型匹配校验，收到评论弹窗「该评论可能对他人造成负面影响」，引导用户重新编辑。若用户选择继续发布，则评论也会不公开可见，进入审核环节内合规才能放出。

▲ 抖音将自己称为首个上线「评论发文警示」的平台

平台：抖音

功能名称：发文警示

上线日期：2 月 23 日

防护日期：持续

主要功能：系统模型判定已发送的评论存在问题，则会推送弹窗提醒，建议发送者重新编辑，去除不当言论；若发送者坚持发送，则该条评论不会在评论区出现

打开方式：平台模型自动校验

▲ 抖音的「评论发文警示」功能

紧接着的是豆瓣，它对于用户在平台过往内容的保护更为详尽。不仅用户无法回复内容、收藏内容，你未关注的人也无法查看你的个人主页，无法查看往期内容，能够有效隔绝潜在的「挖坟」行为。

平台：豆瓣

功能名称：应急防护模式

上线日期：3 月 25 日

防护日期：3 天、7 天、14 天

主要功能：隔离窥视（仅关注者可查看个人主页内容）；预防骚扰（陌生人未经同意无法私信，非友善评论自动隐藏）；控制传播（仅关注人可回复内容，可禁止该内容的转发收藏）

打开方式：「设置」-「隐私设置」-「应急防护模式」

▲ 应急防护模式可选择防护持续时间

这是目前已经上线了防治网暴整合方案的平台。其中很多功能可能是原本应用就已有的功能，例如不同平台均可设置禁止关注 X 天内用户评论、限制转发等等。

知乎就有强制关闭评论、强制开启评论预审等功能，系统 + 人工双重安全评估的模式在一定程度上可以过滤一些攻击性内容；B 站也有私信智能拦截、私信垃圾箱、防骚扰模式帮用户隔绝不良信息；小红书、快手等平台也能对互动、关系进行更多的限制和选择。

但平台能够提供一个完整的解决方案依旧是不同的。

▲ B 站这样的非社交平台也有私信智能拦截的功能

让用户打开应急的方案

豆瓣对爱范儿表示，他们在设计「应急防护模式」的功能时，是对用户遭受网暴、隐私威胁一般路径的观察来进行规划的。

常见的网络暴力包括言语攻击、人身侮辱、人肉搜索、传播谣言等，那豆瓣就选择通过保护受害者的个人历史和隐私（隔绝窥视）、减少直接的言论攻击（预防骚扰）、降低二次传播的几率（控制传播）这几方面去重点防护，切断惯常网暴者对受害者信息收集和信息轰炸的链路。

▲ 豆瓣

打开这个模式，意味着他人无法查看你过去在社交网络留下的只言片语，也没办法根据你过去的互联网历史编造、再创作出侮辱性的内容。同时，那些最为恶毒的言语攻击也无法展现在你面前，私信、评论、转发的道路被堵住了，没人可以隔着屏幕给你的心扎上一刀。

人人都在说互联网的互联互通，但每一个平台的防网暴模式反而构建了一间难得的安全屋。用户在短时间内看到的内容都是经过处理审核的，恶语无法伤人，只能在屏幕后宣泄自己的恶意，而这些恶意也会受到惩罚。

已经有了越来越多的受害者通过诉讼维护了自己的合法权益，让网暴者赔偿、道歉。但诉讼的高成本和一句脱口而出的恶意似乎并不相抵，并非所有的受害者都愿意花时间精力去做这件事。平台在这个阶段也能发挥作用，不管是禁言处罚用户，还是给用户进行警告，平台干预的成本是更低的。

▲ 被造谣出轨的受害者就选择通过诉讼维护自身权益

微博在上线「一键防护」模式外，就透露了平台正在开发建设行为监测模型的消息。有了模型的加持，平台可以通过分析用户不友善评论、举报数量频次等数据，准确识别网暴苗头，从机制上、源头上来解决问题。

在清理违规信息的同时，我们也会依据不同行为性质，采取阶梯式处置：针对参与网络暴力的账号，采取批量禁言、限制功能等处置，对首发、多发、煽动发布网暴信息的账号，采取永久禁言等措施，对涉嫌违法犯罪的，移交有关部门依法追究法律责任。

▲ 微博

只是功能跟上了，宣传也得跟上。一位曾经因为一条内容问题而收到网友私信辱骂的人表示，她认为这个功能管用，但也质疑用户会不会主动打开它。

「其实专门私信骂我的就三个，但我都受不了，忍不住去看有没有支持的言论，看到其他人也在说我有问题就很 emo，那几天都很不爽。」提及自身经历，这位曾经接受过负面信息冲击的用户也提出了自己的质疑：「所以我觉得还有一个很重要的问题是，他们（用户）能不能知道这个功能，愿不愿意不看其他人的评论，打开这个功能？」

在防网暴模式上线没多久的今天，功能普及率和用户主动打开的意愿都属于未知。在这种时候，像微博、抖音这样可以主动出击的平台也能发挥自己的作用，前者引导用户打开这一功能，后者主动为用户在评论区构建一堵安全墙，让恶语无法攻破。微博就对爱范儿表示：

我们也正在开发完善系统自动提醒机制，对高风险用户做出主动提醒，引导用户开启，进一步减少和预防用户遭受言论攻击的情况。

▲ 图片来自：Omidyar Network

从为用户提供隐私设置的选择，到为防治网暴建立一套系统的升级方案，再通过宣传引导用户使用这一功能、了解这一功能，平台的变化经过了很多年。但这依旧可能是开始，而非结束，每一个平台在运营过程中也在收集用户的反馈，等待下一次的升级和迭代。

豆瓣也对爱范儿表示：

这几个方向其实是对目前防护模式策略的一个概括，但并不是对于网络暴力治理措施的穷尽。