B站审核员春节高强度加班猝死一事,再次掀开互联网带来社会变革的B面。还因为与"审核"这一工种相关,渲染了一层更加讳莫如深的色彩。滴滴车司机,网商与外卖送餐员,人工智能训练师,客服等等,是这个多、快、好、省的互联网进步大景观下总被熟视无睹的暗面。我们总关注一种"技术进步论",关注技术的发展如何根本而自动地提高了效率,在这些例子中,我们不能忽视,技术也许知识更广泛的捏紧了握住一个个人的那只手掌。
B站审核员春节高强度加班猝死一事,再次掀开互联网带来社会变革的B面。还因为与"审核"这一工种相关,渲染了一层更加讳莫如深的色彩。
滴滴车司机,网商与外卖送餐员,人工智能训练师,客服等等,是这个多、快、好、省的互联网进步大景观下总被熟视无睹的暗面。我们总关注一种"技术进步论",关注技术的发展如何根本而自动地提高了效率,在这些例子中,我们不能忽视,技术也许知识更广泛的捏紧了握住一个个人的那只手掌。
到此处我们容易陷入对资本主义的批判,认为问题仅仅在于企业追求最高利润的恶习,只要企业多投入人手增加招聘名额,似乎问题就自动解除了。问题被简化为一个"资本的道德"问题。
或是从审核员的问题回身看待审核制度存在与言论自由的张力,抨击权力带来审核的需要。问题又被简化为一个"权力的道德"问题。
与其说这是"道德"问题,我更认为这是个"技术"问题。我当然无意为资本和权力其中任何一方开脱,只是想重新审视这个问题的复杂性,只有往里探入更多,我们才可以更好的理解技术到底以一种什么样的方式影响了我们,进而了解到我们面对的是一种什么样的挑战,进而才有可能真正发现解题的方向。
了解"审核员",及其工作,及其背后的技术逻辑,我们还是从互联网构成的一个特点开始。在早期对传播的理论构建上,就有"强联系"和"弱联系"的区分,这个我想自然不必我重复了,互联网是典型的"弱联系",但这种弱联系又可以区分为"微博"和"微信朋友圈"的模式。
微信朋友圈的特征可以促使我们反过来重新感受熟视无睹的微博特点。其中我想最显著的一个特点就是朋友圈内容评论仅仅对双向关注关系可见,就是说,你在一个朋友圈内容下的评论,只能被本人以及你们共同的好友看到。
举个简单例子,我发一条朋友圈,很有可能被我另一位朋友严厉地抨击,但如果在一个很松散的弱联系之下,极有可能这条抨击只有我和他两个人看到。这是弱联系的关系,但使用了强联系的私密性,因此除了将聊天记录和朋友圈截屏发到微博等环境,鲜有大争议从朋友圈爆出,这是产品设计的原因。这当然也就导致了朋友圈内容不会具有传播力。
但微博不同,既是单向关注关系,又是评论对所有人可见,可转发,这是弱联系也完全是基于互联网的"全透明"信息模式。因此在很多情况下,微博上一个人若被网暴,也许评论区最高赞的那一条完全不知来处,就因为其言辞激烈或用语刻薄,被顶在一个最显著的位置。
谁都可以评价,且这个评价对所有人透明,这是互联网本身"开放"的特性,这里不管是一个论坛、一个微博帐号、一家餐厅的点评区、一个商品的评论留言都是如此。正是这样的机制导致互联网拥有很高的透明度,我们可以据此快速了解一个人、一件事、一件商品,而且速度之快,信息之多,这构成我们在互联网的主要体验。
而这种极速的言论之风,不管是在短时间内捧高一个人一个企业,还是在短时间内让一个人一个企业快速"凉掉",我们都已经经历过无数次了。弱联系不等于弱影响,实际上这种弱联系却有可以直接左右人命运的极强影响。这应该是一个简单的"技术事实"。
而这个技术事实,既会影响这份高强度的"用工伦理",也会影响这份工作与其他人言论审核的"自由伦理"。
不知你是否有这样的经验,你也许在睡前浏览淘宝,就一件商品咨询商家,你自觉肯定得到第二天早上才能够收到回复,没想到在子夜前后,商家却秒回了。
为何商家如此卖命地工作,个中原因我们今天用"卷"来形容。只要有一家店几乎全天无休地提供商品咨询,其他商家就会认为在他们不能解答消费者疑惑的时候,消费者就转而购买了那些可以解答疑惑的,彻夜回复的商家,24小时的客服就变得普遍。
互联网不仅高速连通,影响巨大,且互联网从不歇业。在夜半时分有人在询问商品信息,在夜半时分也就有人在微博或任何评论区或褒或贬。
设想你是一家自媒体的运营者,或你是一个明星的工作室团队,在这样一个只需数小时也许就可因为评论区彻底崩溃的时代,你会怎么做呢?你如何避免自己不要一觉醒来,发现自己已经身处热搜?你会不会也安排人三班倒保证24小时监控来控制风险?"用工伦理"的困境就在此处,审核作为与重大风险相关的工作,势必比起盈利性的职能承担更大的压力,因为比起少收益,人们都更敏感与担忧伤害和损失。
我们转向自由伦理,现在我们离堕落成为魔鬼还有一步之遥。大家都有上网的经验,见惯了网络上的各种批判,这些所有批判里面,基于谣言的多吗?基于误解、偏见的多吗?甚至有很多,你根本看不出其中有任何之"见",你看到的就是一句刻薄的话,一句非常难听的言语,其下是这句言语的复制、点赞和整齐的队形。假设你是这家自媒体的运营者,或者一个明星,一个企业的团队,你现在已经用三班倒的24小时监控发现了这些问题,而这样的批评和网暴正在聚集,你会怎么做呢?
摆在你面前的有三个按钮,『回复』、『删除』、『拉黑』。
如果你现在的答案是『删除』和『拉黑』,我们已经与这个巨大的体制殊途而同归。
我能理解在这个位置上会有一个辩护,即作为一个运营者,我们开展审核的是真正的"谣言"和"谩骂",而我们批判的对象则不是。那么我想提示的是,在真正的实际网络争论中,这二者并非泾渭分明地呈现为"疯狂的谩骂谣言"和"真实有理的批判",绝大多数时候网络言论都落在中间晦暗难辨的位置上。
因此我们绝对不能在这里采取这样一个立场,基于网络批判,有道理的决不能『删除』和『拉黑』,必须好好地『回复』沟通。而对于那些没道理的,『删除』和『拉黑』则完全没问题。这个立场的唯一结果几乎就是,凡是我自己发出的批判,那当然就是"有道理的",但是我收到的批判,那当然就是"没道理的"。这个立场最终会把我们拖入谁对谁错,谁有道理的泥沼,而绝大多数情况下,这个问题被困于身份和立场,虽然这个问题"不应该"是一个身份和立场的问题,但实际上他确实是。
我们可以视这一点为一种"基础状态",这是我想通过前半部分树立的,即"三班倒高强度审核"的用工伦理不是"资本之恶",而来自不修不眠的互联网以及其高度透明和极速传播带来的风险控制之必然;而『删除』+『拉黑(禁言)』不是"权力的粗暴",自由伦理的困境是绝大多数人处在那个位置上都会去做的事情。我甚至都还没有提到"举报"和"投诉",这是一种对审核干预的积极呼唤,也构成审核员日常工作的很大一部分。
此外,其实审核人员还面对大量的垃圾广告,推销信息,暴力色情元素,以及其他更加极端的精神污染物。而所有这一切则被编织在一个不断变化的标准与抽检KPI巨大系统中,这是一个戴着一身镣铐来直面人性之灰暗的职业,是这个技术世界产生海量垃圾的回收站。
这就是我在最开始的观点,我们面对的不是一种"道德困境",而是一个"技术困境"。一种"技术性"的言辞激发,高速传播、短文本和这个激情四溢的环境,产生的不会都是善良和趣味。就像"技术性"激发出关于互联网的"多、快、好、省",实现的不总是技术,而是一群群活生生的人。更可怕的是,技术虽然无法解决"任务",但技术可以为人的枷锁提供更紧迫的控制手段,不管是加诸于网约车和外卖送餐员身上的"系统",还是审核员身上的考核与监控体系。
请注意,这些"系统"的使用同样不是因为道德的问题,我们可以想象一个没有KPI体系的世界吗?虽然作为一个打工者的位置,KPI似乎总与你的利益相斥的,但为何该方法被如此广泛的使用到各行各业?那不是因为"肉食者鄙",不是立场决定了剥削。在韦伯的视野中,这就是一种"现代理性",这种对效率的歌颂与追逐,与我们对"多、快、好、省"的效率歌颂和追逐完全一致,某种程度上,他们还构成了"没有买卖,就没有伤害"的因果关系。
至此我们明白,我们也许无法改变这种工作被技术裹挟的KPI系统的特点。这是这种技术思路和分析可以带给我们的,让我们得以从一种技术的"宰制"上看到今日困境的来源,而不必把问题完全归因于他人的"道德"。在这个例子中,高强度的审核压力来源于互联网本身的高速和从不打烊的特点;审核的需要一方面来自互联网极速信息流动和透明带来的巨大风险,『删除』和『拉黑』是任何"理性人"在里面都会做的抉择;另一方面的审核来自那些更不理性的部分,那是一些更加赤裸的"恶"。
那是否可以把这一切都推向企业,我们不想改变自己的使用习惯,也不愿意增加使用成本。用工者也赚取计件工资,不愿意因为减少工作时间也降低收入。那唯一的办法就是企业加倍他们的工资,并加倍招聘的人手,这样他们可以以一半的工作量,保持之前的收入。我们总认为互联网企业赚得盆满钵满,他们有义务这样做。
但如何实现这一点呢?难道要行政强制各个互联网企业提高待遇?但这带来了新的公正问题,那么那些非互联网企业的低收入者呢?甚至在疫情中受到影响还在降薪的低收入者呢?行政干预会更容易对高薪进行"限制"(如最近的影视限薪令),但很难强制单独增加某个"行业"或某几个企业的低收入,这会带来更大的公正争议。停止他们的加班也有困难,我们可以用政策遏制996,其实那只影响劳动力市场上很小一部分人,你可以把这个看作一种符号性的管制。但对于广泛使用计件工资进行收益核算的人群,却很难严格管束他们的劳动时间,这会直接影响他们的收入。
看上去非常无望,这是很多社会问题的今日呈现。在方法穷尽时,我们总是习惯一种"立法"或"管制"只要改变,问题就自动解决的逻辑,但少有问题可以如此解决,更不必说其会衍生出的更多问题。因为技术而衍生的用工伦理困境,这些为技术神话而填充为燃料的职业工种,恐怕没有一种"自上而下"的一次性解决方式。
自下而上的方式呢?这在欧洲已经取得成功,至少在英国和荷兰,Uber司机赢得了与企业的诉讼,一定数量的司机被作当作雇工看待,而非所谓的"零工经济"。但这并不是政府的政策施舍,因此只有参与集体争取的司机被看作雇工,而非所有司机。当下,互联网的劳动阶层权益现在正在全球如火如荼的发展,400名亚马逊的包裹分拣工现在也正在一项针对亚马逊的诉讼之中,争取他们的权益。但因为一些特殊的原因,这不是我们可以实现的路径。
我们将与很多问题长存,没有毕其功于一役的解决方法,在这个漫长的与问题共存的时间里,道德激情和大是大非,或是任何诉求一一场盛大网络风暴带来结构性问题的结构性解决之途可能都无法实现其目的,还会因为分歧加剧而失去问题转寰,依靠彼此妥协来求得局部优化的空间。问题是长期的,为问题留出可妥协、商议的空间,是个极其重要的事,这也许会是我们面对大多数技术衍生问题的状态。在这里我们需要的反而不是愤怒,是耐心。