6 月 28 日,抖音举办预防治理网暴开放日,正式推出屏蔽和举报不当评论、私信临时对话、一键防暴等新功能。2022 年以来,抖音针对频发的网暴现象,先后上线了 12 项新功能,处罚帐号 11348 个,拦截 9218 万条不当信息。开放日上,抖音还介绍了在预防治理网暴中存在的困难和局限,如在“快速”与“精准”之间难以兼顾等。
6 个月上线 12 项新功能治理网暴
2022 年,网暴现象在东航客机事故、唐山打人等热点事件中频频出现。据统计,超过 50% 的网暴行为由重大灾难、悲剧人物等现象引发。
开放日上,抖音相关负责人表示,在互联网平台,发布评论、私信是公众对社会热点事件和人物表达意见最主要的方式和场景。但同时,因发布成本较低、传播效率较高,也容易产生骚扰、侮辱谩骂甚至诽谤造谣等网暴行为。在抖音,日常被举报并处理的评论中,“谩骂,人身攻击”占比 32.79%。
另外,网暴一旦爆发,还极易在多个平台流转,有些网暴行为还从对当事人的口诛笔伐蔓延至其周边“人”或“物”。在唐山打人事件中,疑似犯罪嫌疑人的子女和朋友,甚至相关的服装品牌,均遭遇“声讨”和“嘲讽”。
(抖音安全产品经理刘欢介绍抖音的网暴治理工作)
上述负责人介绍,从 2017 年开始,抖音就有专人关注和处理平台上出现的侮辱谩骂现象。今年 6 月,抖音正式上线了屏蔽和举报不当评论、私信临时对话、一键防暴等新功能。加上之前的发文警示、正向引导、粉丝管理等,2022 年以来,抖音已经上线了 12 项治理网暴的功能。
除了产品技术上的不断推进,抖音还成立了一支心理关怀团队,对那些因网暴等原因产生不良情绪的用户,实施专门的心理安慰与关怀。“我们在努力向用户提供一份多场景下,预防和治理网暴的操作指南”,这位负责人表示。
数据显示,2022 年 1 月至 6 月,抖音共拦截不当信息 9218 万条,封禁及禁言账号 11348 个,累计处置网暴事件超 100 起。
治理网暴,“快速”与“精准”难以兼顾
虽然付出了大量努力,但在开放日上,抖音坦承,治理网暴,依然会有诸多困难和不足。首先,在不同场景、人际关系、个人主观感受下,“网暴”与“非网暴”往往难以明确区分。其次,对不同程度的网暴言行,处罚措施也各不相同。因此,平台处理快速聚集的网暴时,难以兼顾“快速”与“精准”,一些难以避免的错审、漏审也容易引发公众不满。
(抖音生态产品经理李琰谈平台治理网暴的困难与思考)
“除此之外,不同用户对不同处置结果的反应也不同,觉得平台处置或轻或重”,抖音相关负责人表示。重大事件中,不断反转且难辨真伪的新信息,也会增加治理难度。这位负责人透露,唐山事件中,各平台先后出现了 200 多个“嫌疑人”的抖音帐号信息,“可嫌疑人一共只有 9 名”,这位负责人表示,“平台难以甄别这些帐号的真伪,这大大增加了平台的处理难度。
开放日上,中国传媒大学教授王四新分析目前治理网暴的难点。他表示,目前行业内缺乏相关法律法规,立法层面尚存在一定空白;标准上存在缺失,行业处置标准不统一,各平台尺度不同,处置缺乏一定依据常被投诉;当需要网络执法机构和当地执法机构协同执法时,协同策略还不完善;网暴治理过程中同时涉及公开数据和私有数据,平台不能主动监测和分析用户私人信息。
(中国传媒大学教授王四新谈网暴预防与治理)
“法不责众的认知是错误的”,中国中国政法大学教授朱巍认为,“对网络暴力的预防和制止,离不开平台、网民、行业协会、司法系统等多方主体协调,只有形成合力,才能杜绝网暴。”
(中国政法大学教授朱巍谈“言论自由”与“网络暴力”的法律边界)
“面对网暴,预防大于治理”,抖音相关负责人表示,“但无论如何,这是平台需要长期投入且必须完成的任务。”