狙击网暴

近几年，因网暴而造成的悲剧性事件时有发生，一方面是各类反网暴措施不断升级，另一方面是网暴的形态不断更新，如何整治网暴受到全社会高度关注。

习近平总书记在党的二十大报告中指出，要“健全网络综合治理体系，推动形成良好网络生态”。

中央网信办近日发布了《关于切实加强网络暴力治理的通知》（以下简称《通知》）。提出要建立健全网暴预警预防机制，强化网暴当事人保护，依法从严处置处罚。

《通知》中这样描述网络暴力：“针对个人集中发布侮辱谩骂、造谣诽谤、侵犯隐私等违法信息及其他不友善信息，侵害他人合法权益，扰乱正常的网络秩序。”

国家互联网信息办公室咨询专家、中国传媒大学人类命运共同体研究院副院长王四新告诉《中国新闻周刊》，《通知》出台的背景，是网络暴力的社会影响日益扩大，严重败坏网络空间言论生态和信息生态。

中央网信办对网暴一直保持着高压治理态势。早在今年4月，中央网信办就部署开展了“清朗·网络暴力专项治理行动”，主要聚焦网络暴力易发多发、社会影响力大的新浪微博、抖音等18家平台，通过建立完善监测识别、实时保护、干预处置等措施，进行全链条治理。

8月23日，在国务院新闻办举行的新闻发布会上，中央网信办（国家网信办）副主任盛荣华曾表示，在集中力量整治网络暴力、网络水军、网络黑公关这些问题时，中央网信办针对不同类型网络乱象的特点，抓住要害、对症下药。

平台应负怎样的监管责任？

在最新印发的《通知》中，中央网信办提出要“进一步压实网站平台主体责任”。

“加强平台自律，强化平台的相关职责，有助于遏制网络暴力现象。”王利明是中国法学会副会长、中国人民大学教授，他对《中国新闻周刊》说，平台掌握关键信息的基础设施，也有一定的技术手段应对网暴，实际上已经是获得了一定权力的“准监管机构”，因此需多发挥平台的监管责任。

王四新认为，加强网暴治理是平台必要的付出，也是平台维持安全运营的基础性要求。

实际上，对平台而言治理网暴并不是一种没有回报的付出，因为良好的平台氛围也是竞争力之一。知乎社区治理业务负责人告诉《中国新闻周刊》，平台内，以问答为主导的内容形式使得用户间的互动行为频繁，在观点的碰撞中，用户间的摩擦、争论在所难免，在这样的背景下，知乎希望能够维持一个友善的社区氛围，“在平台上，如果大家都友善进行互动，认认真真回答，社区才能繁荣起来，商业化道路也会比较好走。”

在王四新看来，中央网信办印发的《通知》为网站平台规定了较为细化的治理网暴的措施，指导性较强，“等于是给平台出了一份操作方案”，“以前平台可能不知道怎么去解决网络暴力问题，但现在有了这个方案，平台就可以有针对性地落实平台的跟进措施。”

《通知》对网络暴力给出了描述性定义，但没有给出明确的定义。王四新表示，这并不妨碍平台和用户对网络暴力的认知，因为网络暴力在网络空间太普遍了，每个人都几乎经历过，《通知》对实施网络暴力方式的列举，有助于平台和用户更准确地对这个问题进行把握。

中央网信办印发的《通知>网站平台规定了较为细化的治理网络暴力的措施，指导性较强，“等于是给平台出了一份操作方案”，“以前没有这种操作方案，平台可能不知道怎么去解决网络暴力问题，但现在有了这个方案，平台就可以按照这个方案去针对性地落实平台的跟进措施。”

一位抖音安全产品经理对《中国新闻周刊》说，网暴与“非网暴”在很多时候难以区分，这对平台来说是监测和排查网暴的一大困难。一位业内人士说，由于缺乏认定标准，行业内的多个网站平台在监测网络暴力时，还是按照自己的理解在做。

中国政法大学比较法学研究院教授刘文杰对《中国新闻周刊》说，要区分正常言论表达与网络暴力确实存在困难。

目前，各个平台几乎都根据中央网信办的指导意见和平台特征，总结了一套对网暴内容和行为的判定体系。

例如，知乎会判定为网暴内容和行为的，包括泄露他人隐私、煽动网友对他人进行无根据地扣帽子、贴负面标签，使用包含脏话、蔑称等言语对他人进行辱骂攻击，无视对方意愿对他人进行恶意骚扰等。豆瓣的判定体系包括使用不雅粗俗的词汇攻击他人、讽刺挑衅他人、抬杠拱火、煽动众人情绪、对个人或群体持歧视偏见的态度等。

上述抖音安全产品经理表示，抖音会严格处理诅咒、咒骂等突破底线的违反公序良俗的内容，没有真实依据、造谣、传谣、污蔑他人的内容，人肉搜索、违规曝光和传播当事人隐私信息的内容，以及事件中对当事人周边无关人员、物品的曝光与无端指责。

不难发现，各个平台总结的网络暴力标准体系，仍需要其进行相当程度的主观判断。王利明建议，国家网信部门在其职权范围内可以制定一些细则，规定网络平台在处理相关侵权信息时的处理标准、处理流程等事项。

如何将网暴扼杀于萌芽？

将网络暴力的风险扼杀在萌芽阶段，是治理网暴的理想状态。

王四新认为，“预防”是治理网络暴力最重要的一个环节。在中央网信办的《通知》中，“建立健全网暴预警预防机制”也被放到了第一项。

根据《通知》，中央网信办要求网站平台加强内容识别预警。目前，各个网站平台都拥有一套对存在网暴风险的信息内容进行识别和过滤的手段。

前述抖音安全产品经理对《中国新闻周刊》说，在内容识别方面，抖音会根据相关内容语境、评论、背景等进行综合研判，包括机器研判和人工研判，平台已经研发了一些智能识别模型，目前线上已经有100多个模型在运营，会提前拦截侮辱辱骂内容。

抖音方面认为，评论是网暴的“重灾区”，如果评论区的内容被模型判定为不当评论，平台将反复提醒内容有风险，直至用户最终修改。

知乎则会根据内容的违规程度，限制内容的展示范围。知乎社区治理业务负责人说，对于不友善的内容，平台会对其进行折叠，降低其在社区里曝光的机会。明显带有侮辱性质的语言，会被平台删除。

微博社区负责人对《中国新闻周刊》说，微博建立了一套关键词词库，分为A、B、C三个级别，包括各类脏话和“绿茶婊”“怎么还不去死”等不友善词汇，并且设置了126个禁发关键词，用户发布内容触及这些关键词时会出现弹窗，提醒用户要友善评论，并且内容无法发出。

这位微博社区负责人说，关键词词库会不断更新，“比如涉及饭圈的讨论会有很多黑话，随着时事热点的出现，也会有很多新造的词语。”根据微博于8月10日发布的《微博网暴治理报告》，截至7月31日，微博添加的网暴关键词有700余个。

尽管各个平台在关键词策略等识别技术上都有相当的投入，但在平台看来，机器审核仍然只能承担一部分工作，人工审核不能被替代。

王四新认为，“预防”是治理网络暴力的过程中最重要的一个环节。在中央网信办的《通知》中，“建立健全网暴预警预防机制”也被放到了第一项。

根据《通知》，中央网信办也要求网站平台建立涉网暴舆情应急响应机制，即组织专门力量，及时收集网暴相关热点话题和舆情线索，并发现网暴异常行为。

以微博为例，其设立了7×24小时专项巡查小组，有专门的工作人员进行巡查，同时优化关键词策略。

微博社区负责人说，针对一些可能会产生网暴相关舆情的事件，微博还会派更多人手在话题落地页进行监测。

对于参与网暴的账号，微博、抖音、豆瓣、知乎等各个平台有类似的处罚机制，即根据行为程度的不同作出删除言论、短暂禁言、永久禁言、封禁账号等处理。

抖音在2022年1月至6月共拦截了9218万条不当信息，封禁及禁言账号11348个。微博在2022年4月24日至7月31日处置内容1931万余条，其中占比最大的三类内容是粗俗冒犯类、煽动情绪类、讥讽内容类，处置账号1.8万余个。

不过，在平台不断加强对于用户言论的审查时，另一种担忧自然而然地出现了。研究互联网法和版权法的刘文杰认为，如果平台对用户言论的事前过滤多了，会对言论自由造成较大的损害。

“平台的事前审查不是不可以，但是一定要谨慎。”在刘文杰看来，“通知-移除”这样的事后监管模式应该起主要作用，事前过滤不仅要谨慎使用，还要尽可能确保算法识别的准确度。

“通知-移除规则”始于1998年美国《千禧年数字版权法》，在该规则下，如果网暴受害者告知平台出现侮辱、诽谤等违法信息，并提供足够充分的材料，平台进行移除即可。

但“通知-移除”规则的有效性也遭到质疑。北京师范大学亚太网络法律研究中心主任刘德良认为，该规则不符合网络时代信息传播的规律，无法有效阻止网络暴力中侵权信息的发布和后续传播。

“侵权人发布信息和受害人通知平台或者平台巡查到侵权信息中间总有时间差，比如说有人把受害人的裸照发到网上，一旦发布了，传播的范围既无法控制也无法预测，平台事后再删除已经没有什么意义。” 刘德良认为，平台应该承担事先审查义务。

“一键防护”能否保护当事人？

为加大网暴治理力度，《通知》要求网站平台通过一系列措施强化对网暴当事人的保护，包括优化私信规则，防范网暴内容通过私信传输。

《中国新闻周刊》了解到，近段时间以来，许多网站平台已经对私信功能进行了更新。以豆瓣、微博、小红书为例，未互相关注且24小时内未有过私信往来的陌生人，在得到用户自己回复前只能发出一条私信。另外，用户均可以设置私信的范围，可选范围包括所有人、自己关注的人、互相关注的人和禁止私信。

一些平台还有更为严格的私信规则。在豆瓣，新注册用户或近期有过违规的用户，无法直接向陌生人发送私信消息，需要通过“打招呼”并得到回应后，才可发送私信。

抖音则在今年上半年推出了私信临时对话功能，陌生人每次只能向单个用户发送一条申请信息，用户回复后，陌生人才能与其临时对话，有效期为 24 小时，超时后重新申请。

2022年以来，包括微博、抖音、豆瓣、知乎、小红书、B站在内的多个平台推出了“一键防护”的功能，即让用户一段时间内（通常是7天或14天）不会接受未关注人的私信、评论和转发信息。“设置一键防护功能”也被写进了《通知》，作为中央网信办对更多网站平台的要求。

微博方面对《中国新闻周刊》表示，一键防护功能是让用户进行自我保护的应急措施，当用户遭受大量攻击时，该功能将未关注人的各类信息屏蔽，“就像戴上降噪耳机，让用户感知不到网络暴力的信息。”

防止用户的个人信息被窥视、挖掘并被二次造谣，是网站平台治理网暴的另一个方向。

在豆瓣，用户可以对个人主页的信息展示设置可见范围，例如对未关注的人或关注不满三十天的人，仅对其展示半年内的10条动态，而在用户开启“应急防护模式”后，他人将无法关注自己，只有关注的人才可以查看自己的个人主页内容。在微博，用户可以将可见时间范围设置为“最近半年”。