对网络暴力要强化预防预警

近年来,网络暴力引起全社会高度关注,也成为互联网空间法律治理的重点、难点与痛点。今年,国家网信办等四部门联合发布《网络暴力信息治理规定》(以下简称《规定》),这是我国首部专门针对网络暴力的部门规章,进一步完善了我国网络暴力信息治理的制度体系,对于净化网络环境、培养健康的网络生态意义重大。

网络暴力包括在网络上针对个人肆意谩骂侮辱、造谣诽谤或侵犯隐私等行为,不仅侵犯公民合法权益,扰乱网络秩序,破坏网络生态,甚至可能导致他人“社会性死亡”、精神失常、自杀等严重后果。而这些后果通常是不可逆的,即使对行为人施加惩罚,也无法完全恢复网络暴力对被害人所造成的伤害。网络暴力一旦发生,受害人常常无力招架、难以回应、百口莫辩,难以澄清正名、找到施暴者,在试图维护自身合法权益时甚至连举证往往都非常困难。基于这些特征,对于网络暴力的治理,不仅应注重事后惩治和救济,更要强调事前的预防预警。具体而言,应根据网络暴力的形成与发展过程,将其划分为不同阶段,并有针对性地提出不同的处理措施,体现出从“事前”到“事中”,再到“事后”的全链条、全流程治理模式,形成完整的治理体系,最大限度阻断网络暴力事件的发生,避免对被害人造成不可逆转的伤害。此外,事后救济是需要成本的,尤其是对于造谣诽谤类的网络暴力而言更是如此,澄清谣言对被害人名誉、信用、个人形象的损害,通常需要耗费大量人力、物力、财力,并且往往效果还不尽如人意。因此相对而言,事前预防更为经济高效。正因如此,《规定》专设第三章“预防预警”,强调对网络暴力信息的事前预防,主要包括以下三方面的具体举措。

第一,识别监测与及时预警。网络信息服务提供者应当在国家网信部门和国务院有关部门的指导下细化网络暴力信息分类标准规则,明确网络暴力信息的判断标准。在此基础上,利用数据模型对海量信息予以筛选鉴别,对于疑似网络暴力信息再进行人工复核。另外,网络信息服务提供者应当建立健全网络暴力信息预警模型,根据对信息的识别监测结果,综合事件类别、针对主体、参与人数、信息内容、发布频次、环节场景、举报投诉等因素,及时发现潜在的网络暴力信息风险,并对有关部门提出预警,便于其在充分研判的基础上尽早采取相关防范措施。

第二,理性引导与严格管控。若网络服务提供者有证据证明存在网络暴力信息风险,应当及时对网络用户进行引导,促使其文明互动、理性表达。对于表现异常的账号,网络服务提供者应当及时采取真实身份信息动态核验、弹窗提示、违规警示、限制流量等措施进行管控,阻断可能产生的网络暴力,将其消灭于萌芽状态。

第三,信用管理与再犯预防。网络信息服务提供者在依法对用户进行真实身份信息认证的基础上,应当建立健全用户账号信用管理体系,对每一网络用户账号的信用进行评级,若某用户账号存在涉网络暴力信息违法违规情形,则应将其计入该用户信用记录,依法依约降低相关账号的信用等级或者列入黑名单,并据以限制该账号功能或者停止提供相关服务。

立足此次对于网络暴力信息风险预防预警提出治理要求,结合网络暴力的治理特点,在具体实践中,应重点关注以下方面,持续提升对网络暴力事件的事前预防效果。

明确识别标准,做到统一性与多样性并重。预防预警措施发挥作用的前提是对网络暴力信息的准确识别,网络平台应明确识别标准,建立健全网络暴力信息特征库和典型案例样本库。为防止对网络暴力信息的认定偏差,应充分发挥行业协会的指导作用,引导各网络平台确立相对统一的识别规则与识别标准,在确保公平性的同时实现多平台联合治理、共同打击的效果。此外,不同网络平台的主营业务、用户群体、运行模式等不一致,因此在治理过程中,各平台亦应充分考虑自身具体情况,采取多样性、个别化的治理措施。例如社交平台强调对用户发布内容的审核,包括文字、图片、视频等,而购物平台则应注重对商品评论区的内容进行识别监测。

重视科技赋能,兼顾准确与高效。在信息爆炸的时代背景下,如何在海量信息中准确识别出网络暴力信息或疑似网络暴力信息,仅仅采取人工筛查的形式是不现实的,必须依靠前沿科技的辅助。当前,人工智能技术已覆盖反诈、反恐等多项工作,在文本分析、图像识别领域取得突破性进展,还能借助数据挖掘技术发现潜在的风险因素,预测可能出现的违法犯罪活动。这一技术同样有助于破解网络暴力把关难、防治难的困境。具体而言,可以采用人工智能、大数据等技术手段,参照事前建立的网络暴力信息分类标准、特征库和典型案例样本库对网络信息进行精准识别与高效监测,同时依靠网络技术,建立健全网络暴力信息预警模型与用户账号信用管理体系,并且在发现风险时,对异常账号远程进行及时管控。

强化系统思维,坚持协同共治。网络暴力具有规模性,对网络暴力的治理也必然是一项系统工程,仅仅依靠单一力量难以取得有效成果,必须重视政府、平台、用户等多元主体协同共治。网络信息服务提供者应当在国家网信部门以及其他有关部门指导下进行网络暴力信息的识别监测,若发现存在网络暴力信息风险的相关信息内容出现浏览、搜索、评论、举报量显著增长等情形的,应当及时报告,帮助相关部门迅速了解情况并采取应对措施。司法、行政机关应加强良性互动,在依法履职的基础上,不断健全网络暴力预警、保护、防扩散治理机制,在分享信息、发布典型案例等方面相互配合,广泛开展社会法治宣传。

畅通救济渠道,把握网络暴力与正常表达的界限。在加大预防预警举措的同时,必须兼顾保护网络用户获取信息、正常表达观点和自由创作的空间。网络空间中信息数量巨大、承载内容丰富、表现形式多样,在对网络暴力信息进行识别与监测的过程中,可能会出现误判的情形,而一旦某账号被认定为存在网络暴力信息风险或异常情况,轻则收到提示、警示、限流或身份核验,重则被列入黑名单并限制功能、停止服务。因此在网络暴力信息治理过程中,必须设置相应的救济渠道,允许相关用户进行申诉,由网络平台进行复核,若最终认定确实属于误判,则应及时采取补救措施,例如将其撤出黑名单、恢复其账号功能、继续提供相关服务等,对于误判给用户造成的损失,由网络平台给予一定形式的补偿,做到既不遗漏网络暴力的苗头、放任网络暴力的发展,也不将网络暴力治理扩大与泛化、损害用户的合法权益。

（编辑：马慧彬）