"
互联网内容人工审核就像在一片扫过雷的雷区里散步,大部分时候都是安全的,但是运气不好的时候就会踩到地雷,而且有的地雷还是核地雷,一触发整个平台可能粉身碎骨。
"
作者|于松叶 嘉荣
编辑|月见
“11月最忙碌的一个月,共参与了21930次工作讨论,最晚一天是11月12日·凌晨4:42。这个月,你在忙什么呢?”
这是B站武汉分部内容安全中心图文审核部“暮色木心”的企业微信记录。而2021年,“暮色木心”共处理了199240次工作会话,花费了73024分钟。哪怕按照全年无休,一天算下来也要处理545次会话。
2月7日,微博职场博主“王落北”曝出B站武汉AI审核组代组长“暮色木心”因过年期间被要求加班,在晚上9点到早上9点的工作强度下,初五凌晨不幸因脑出血去世,原因为加班。
一经曝出,事件快速发酵。今日之前,B站一直迟迟未有官方正式回复,流传出的只有一封《内容安全中心全体通告》,通告中B站表示逝者在事发前一周并未存在加班等情况。
B站里的视频也风平浪静。昨日有内部人士向「新熵」透露,“最近几乎各账号往B站投的关于此事件的内容被拦截了。”在B站今日作出官方回应后,平台上才陆陆续续放出了几条相关视频。
一次内部邮件截图回应加一次外部回应,事发五天后才奔赴武汉与逝者家属见面,一切行为都让外界不买单,以“正能量”著称的B站本次让不少用户“脱了粉”。
在十二周年的周年演讲上,B站董事长兼CEO陈睿曾一再提及社区的健康度,“我们之所以这么重视内容,这么重视UP主,是因为我们知道,好的内容是让用户长期留在社区的根本原因,这是一个前提。”
或许B站可以称得上是健康的内容社区,但本次事件却暴露B站或许并不是一家“有爱”的企业。关心社区的健康,关心平台的用户,却忽视了员工的内容社区又能否称得上“健康”?
在官方正式回应中B站表示将开展以下工作:一、将用最大力度扩招审核人员,今年增加招聘1000人;二、加强员工体检及增设全天候的健康咨询室。
这就够了吗?凭爱已不能持续发电,B站又将如何寻找最优解?
PART.
01
笨重的人工审核
不少业内人士曾指出B站的机器辅助审核较弱,因此较依赖人工审核。
B站在其招股书中层表示内容筛选团队的员工专门负责日以继夜地每周7天每天24小时审核及监控上传到平台上的内容,“所有其他内容(主要为用户发布的弹幕)亦会由我们的筛选系统进行自动筛选。”可见B站的机器审核只起辅助角色,人工才是主要审核力。
即便拥有算法审核,出于复杂的内容加之AI的合格率无法达到百分之百,人工审核岗也一刻不能放松。
“作为资本螺丝钉就是这么可悲”,李磊是B站南方某城市的一名视频审核人员。
在短视频的红利时代,不少人争先恐后入局,内容爆炸也随之而来。2021年第三季度B站博主数量同比增加了61%,每月上传到后台的视频数量就超千万,同比增长了八成。
这也意味着后台审核工作量的成倍膨胀,但与此同时,审核的人手却没有成正比增加。一B站审核岗人员表示该岗位流动频繁,“天天有人离职,哔哩哔哩天天招人。”李磊告诉「新熵」:“审核岗一直在招,搞人海战术,因为需要大量人手去处理信息垃圾。走的人也多,毕竟待遇垃圾、工作强度大。能留下来的要么是家门口的,要么是觉得还能往上爬有饼吃,要么是已经在找下家。”
需要人却留不住人的背后,是B站与工作量不符的薪资及不合理的职能体系。
B站审核工作时间制度分为“行政班”和“12小时班”两种。行政班连续五天上9个小时,12小时班做一休一。若选择后者,李磊的到手工资折合成时薪不到24元,若为前者,算上多出几天的通勤时间成本,时薪只约20元,甚至不足南京最新公布的非全日制用工小时最低工资22元。
尽管B站官方回应称公司未春节期间值班的同事给予法定三倍的薪酬,但据李磊反映,“关于加班费,B站过年期间只有初一、初二、初三三天有三倍加班费,除夕和其他时间是没有的,国庆期间也只有123三天法定假日有三倍加班费。据说是因为‘综合工时制’,所以普通的休假日从来没有过双倍工资。”
而哪怕只拿到这个在当地非全日制最低用工时薪上下徘徊的薪资,这些审核人员需要面对的已是“不可承受之重”。这些压力除了海量的任务数量,观看不合规及无法对外开放的问题内容对他们也是常态。
绩效方面,李磊透露,B站近几个月把“VPN支援”的制度设的更严格。“以前支援不上线就是绩效扣一两分,而平均绩效都是按七八十分左右计的。新的规则直接改成了不上线加班就绩效降档,不仅扣奖金,而且影响年度绩效,影响前途。作为代班组长,组员不想上线支援,组长为了不扣自己的绩效,只能上线硬抗。人效必须到最低审核量才能下线还意味着加班不能磨洋工,必须按在公司的效率工作,差一点都有制度惩罚。”
每天在电脑面前不停地拖动鼠标,为了保证工作质量,一个视频需来回看好几遍,一个审完,还有数不完的视频躺在后台。除了精神压力,B站的审核员们几乎都在工作过程中发现了自己肉眼的外在变化——视力下降、体重飙升、心脏疼痛、体质精神变差...,这些在B站审核人员身上已成了共性。
“感觉不仅眼睛的感光能力变弱了,而且大脑也好像有块什么地方变成了真空,稍微运动运动,血液流动快了就有种一抽一抽的疼。”而这距离李磊加入B站还不足一年。
B站审核岗招聘相关要求
B站似乎对此习以为常,甚至在其招聘广告上直白要求“需有较强的抗压能力,能适应晚班”。在最新回应中,B站表示今年将进行扩招并加强体检。但若不完善现有的工作体系和相应的薪酬制度,B站将依旧笨重。
PART.
02
当小破站成为“大哥”
在视频领域,B站早已成为一枝独秀的存在。
2021年6月3日的“第九届中国网络视听大会”上,优酷总裁樊路远大吐苦水:“现在,我们叫B站‘大哥’,因为B站大哥的市值是我们爱奇艺大哥+腾讯(视频)大哥+我(优酷)打个七折,加起来比我们还要高。”
紧接着,樊路远剑指B站,表示“我们希望B站能一直把原创短视频当做自己的主要发展目标。”无独有偶,随后爱奇艺创始人龚宇重点强调了二创等侵权问题,再次将矛头对准B站。
B站的成功,根本原因在于和优爱腾的商业模式有着本质上的区别。当优爱腾在影视剧、综艺节目、选秀等方面疯狂砸钱时,B站靠着PUGC(专业用户自制内容)的独特模式生存得如鱼得水。
当优爱腾们推出优质剧,B站UP主们会出二创剪辑为喜欢的演员或CP打call。这种情况下,B站的二创对影视作品本身起到正向的宣传作用。当优爱腾们推出雷剧,B站UP主们会出吐槽剪辑引爆观众痛点。如2021年下半年针对“古装丑男”现象的舆论讨伐中,B站的大量二创剪辑视频起到了推波助澜的作用。
古装丑男相关视频播放量普遍很高
总的来说,虽然优爱腾们不断烧钱,连年亏损,某些时候也难以避免地成为了B站的视频养料。在这种态势之下,优爱腾们自然对B站颇有怨言。但作为国内独一无二的PUGC的长视频网站,B站的创作主体繁杂,内容繁杂,因此潜在问题最多,面临的外界压力也最大。
仅在春节前,B站就被两个巨大的舆论争议困扰。1月15日,有网友爆料,B站上有不少破解医院、学校等公共场所的监控视频,令大众不寒而栗。1月18日,医生在B站直播病人妇科手术一事再度引发巨大舆论反响。彼时,关于B站的审核机制已经成为舆论关注的重点,不少网友以洪范所等几位政法专家的普法直播迅速断播和妇科手术多次警告后才断播作为对比,质疑B站的审核机制和平台价值观。
左为上传破解监控内容的B站账号;右为违规直播妇科手术的B站直播间
基于这两次事件,有不少用户和UP主表示,B站对“人工审核”一直颇为引以为傲。在视频方面,如果有黑名单人物出现在UP主上传的视频中,即便是做了遮掩处理,审核员也会将视频打回。至于直播,政法专家的直播几乎是秒掐断,不存在多次警告的现象。
虽然B站也有AI审核作为人工审核的辅助,但公共场所监控视频上传和妇科手术直播事件的发生,说明B站引以为傲的审核机制存在巨大漏洞,无论是人工投入和AI智能度,都亟待提高。然而不幸的是,仅仅二十天之后,就发生了B站审核员过劳猝死事件,这让人们不禁将几件事情联系起来,并怒骂资本的贪婪和冷血。
自2015年踏上资本的快车道之后,B站开始愈发小心和谨慎,逐步和盗版资源决裂。2017年7月,B站开始了最大规模的盗版整治行动,大量盗版影视资源下架,令用户猝不及防。与此同时,B站的审核速度也在不断下降。
有UP主告诉「新熵」,2018年,自己上传的视频需要审核12-24个小时才过审。这种速度,对于内容具备实效性的UP主颇为不友好。此后,B站的审核速度一度飙升至几小时之内,但进入2020年,B站的审核速度再次跌至谷底。
2020年,受疫情影响,UP主数量和内容数量双双激增,导致老UP主发现审核速度明显下降,不少UP主的视频需要近一天才过审。这种情况的出现,说明B站对内容数量的爆发式增长并未作出配套的应对措施。进入2021年下半年,UP主们感受到B站的审核速度明显提升,可以达到1小时内过审的水准。
但有UP主发现,B站的审核机制和审核速度似乎一直是受外界压力推动的。UP主李樱表示,“2020年初,我剪辑的《火影忍者》相关剪辑视频被如数退回,标注原因为‘根据版权方(优酷)要求,本站撤下该片’。而后,我将视频长度缩减至不涉嫌侵权的3分钟之内,才得以重新发布。”
李樱的经历说明,如果版权方不介入,B站对二创视频就处于放任状态;一旦版权方介入,B站就会大规模下架相关视频,审核员的工作量也会激增。B站上的公共场所监控视频引发关注后,平台在两天时间内清除了平台上的所有相关视频。总是要靠外界压力推进审核,B站的审核速度自然难以处于平稳状态,给到审核人员的压力也会波动性猛增。
PART.
03
内容审核的不能承受之重
在员工猝死事件发生后,B站承诺今年扩招1000人。李磊表示,“B站视频审核人员(包括培训人员)在1000人以上,算上图文审核人员起码有2000多人。”扩招1000人,意味着B站的审核效率理论上能够大幅提高。但值得注意的是,B站并未对外界关注的AI审核做出改进承诺。
目前,抖音、快手等PUGC内容平台和B站一样,均采用先机器审核,后人工审核的双重审核机制,机器难以识别的视频,会交由人工进行复审。只不过各个平台的审核速度有很大差异,抖音和快手的审核速度很快,普遍是秒传视频,或者几分钟之内即审核完毕。相比之下,B站的审核速度相形见绌。
B站的审核速度慢,不仅仅受人手不足影响,内容繁杂、视频长度普遍较长也是重要的影响因素。李磊表示,舞蹈区、游戏区、生活区的稿件因为容易被AI分类,所以单独设置了AI复审,即人工审核较少。其他分区的内容,则多需要人工审核参与。UP主也普遍表示,视频内容越长、内容越敏感,审核时间也会相应变长。
另一方面,B站相较于其他平台,未成年用户更多,所以审核标准也更加严格。根据官方数据,2020年以来,全国“扫黄打非”办公室接到关于B站问题的线索约500条。上海市相关部门先后对B站行政立案处罚6次,约谈10余次,主要整治涉及刊载儿童“邪典”、内容低俗等问题;
有影视剪辑UP主告诉「新熵」,影视剧中接吻等镜头,需要打码后,视频才能发布成功。也有B站前员工表示,B站的人工审核不一定是一遍,也有可能审核很多遍,以排查风险。所有短期播放量数据高的视频也会有运营人员进行回查。
多重因素叠加,使得B站的审核速度难以和抖音快手相匹敌,也使得AI审核难以有更大的作为。人工审核,成了B站PUGC内容生产模式下不得不重度依赖的路径。
B站过度依赖人工审核的另一个重要原因是,社区氛围也需要通过审核机制来进行隐形调控。
抖音、快手在下沉过程中产生了糟糕的评论氛围,优爱腾们效仿B站搞弹幕和社区,也被明星粉丝搞得乌烟瘴气。反观B站,虽然近几年用户圈层不断扩大,用户逐渐多元化,但社区氛围总体没有偏离幽默诙谐的传统调性。
2016年,B站老用户感觉到社区氛围开始发生变化,吐槽、抗议之声不绝。彼时,B站的竞争对手A站尚未处于下风,B站必须守住社区氛围,留住老用户,于是,B站的弹幕、评论、私信、动态等内容也进入强审核时代。有用户对「新熵」表示,在B站发动态时,卡通人物着装稍微暴露的插画都会被驳回。
对用户所发内容的全面审核,也造就了更隐蔽的脏话文化,如B站用户会将脏话“垃圾”替代为“屑”,这种类似于黑话般的B站内容,无法被系统识别,虽然可以人工识别,但也没有相关依据将其判定为违规。
正如李磊所说,“互联网内容人工审核就像在一片扫过雷的雷区里散步,大部分时候都是安全的,但是运气不好的时候就会踩到地雷,而且有的地雷还是核地雷,一触发整个平台都粉身碎骨。而目前还不存在能审出所有问题内容的AI,未来也大概率不会。”所以针对当下的问题,B站只能选择吸纳更多的员工来扫雷。
(文中李磊、李樱均为化名)
本文首发于微信公众号:新熵。文章内容属作者个人观点,不代表和讯网立场。投资者据此操作,风险请自担。
(王治强 HF013)