社交媒体背后的内容审核员直面黑暗的“清道夫”

12月19日报道(编译:叶展盛)

“他们对待我们的方式非常差。如果你不按要求的做,他们有一万种方法整你,”Michael说道。

Peter和他的同事告诉记者,他们希望像谷歌的全职员工那样生活,拥有更高的薪水,更完善的医疗保险,还希望拥有更加体贴下属的领导,适当减轻自己的工作压力。

这种工作需要多个团队协作。在大多数时候,被举报恐怖主义或虐童的内容由奥斯汀等团队负责。谷歌称这些员工是通过第三方公司雇佣的,但在采访中不少员工表示自己是合同工。对于政府方面的法律请求,谷歌则交给全职的员工处理,他们会第一时间删除相关的图片、视频和链接。

杜德克父母代理律师说,和解协议要求宜家与安全倡导组织“家长反对倾倒”见面,让更多消费者了解问题家具召回事宜。另外,杜德克父母将从赔偿金中拿出100万美元(696.6万元人民币),捐给倡导对衣柜作更严格稳定性测试的组织。

Peter是这家网站的内容审核人员之一,YouTube将他和同事们分配到不同的内容队列中,比如版权问题队列、种族憎恨和骚扰队列,以及“成人”色情队列等。

当时的招聘内容里表示,法律助理需要处理一些法律请求,移除搜索引擎中“侵犯版权、诽谤和其他不合适内容”请求的链接。另外法律助理还需要审核一些包含虐童内容的图片。“但我非常清楚地记得当时的注释写着‘这种内容移除工作每周只有1到2个小时’,”Daisy说道。

让她出乎意料的是,暴力内容非常多。2015年11月13日,宣布效忠ISIS的恐怖分子在巴黎和圣丹尼的郊区演唱会中发动恐怖袭击,死亡人数达130人,受伤人数达413人。

随后记者采访了一位女员工,她也是谷歌的内容审核人员,年薪达到了“六位数”,拥有不错的医疗保险和其他补贴。但这并不能让她免受审核内容带来的危害。这位员工负责移除恐怖主义和虐童方面的内容,她的急性焦虑发作频繁,和儿童交流时经常哭泣。有心理医生将她诊断为创伤后应激综合征。

据采访的工作人员透露,Accenture要求每位内容审核人员每天要在5小时内处理120部视频,他们每天拥有两小时的休息时间,以及一个小时的午餐时间。之前有高管承诺会将5小时减到4小时,但至今没发生。Accenture则否认给员工设立了任何工作量要求。繁忙的工作还会进一步压缩休息时间。

这些工作人员更是深受暴力的影响,每天审查凶杀画面让他们越来越焦虑。现在Peter看到动作片中的枪战画面都会感到难受。还有部分员工通过药物来解决焦虑。

同时,为解决万达广场中小微商家现金流困难,万达商管集团联合微众银行迅速推出商家纾困融资方案,预计至少100亿元资金驰援中小微商家。万达广场单个中小微商家可授信100万元额度,同时可享受优惠贷款利率政策。万达广场各商家可直接线上向微众银行企业直通银行部申请(详见具体申办流程),最快当天获批,以租金贷和经营性贷款解决商家资金。

可以说Daisy是伴随这项谷歌服务一起发展的,最开始她选择这份工作是看上了谷歌丰厚的福利:公司的餐厅和小厨房、免费的按摩和干洗服务。最终她选择在谷歌的总部,也就是加州山景城工作,随后这支团队被转移到了附近的森尼维尔市。一年的薪水是7.5万,加上谷歌的股票,总收入接近9万美元。

2015年,Daisy Soderberg-Rivkin申请了谷歌公开职位中的法律助理。然而这份工作实际上就是内容审核,它只是套了一件“外衣”:“法律方面的内容移除助理”。

在奥斯汀,Accenture开始进行新的尝试。公司开始尝试将视频和照片改成黑白色,以观察内容审核人员受到的情感影响是否会降低。

Peter表示,当他刚在VE队列工作时,就开始脱发,体重也在增加,人也开始容易发脾气。哪怕是在节假日,当他开车经过上班地点时,都莫名一阵心悸。

但在过去一年里,有研究调查了一百多名内容审核人员,结果证明这并不是一个二元性的问题。部分工作人员在入职后前几周表现出PTSD的早期症状,还有一些人则是在工作数年后才患病。

经过面试的层层筛选,人事部门给Daisy赋予了神圣的使命——让互联网变得更加安全。“这听起来简直像在度假。在谷歌工作,你能喝免费的海宝茶,午睡有休息室,每周只需要花几个小时看点闹心的内容。这么好的工作哪里找?”当时她只有23岁,她就告诉母亲决定入职。

因为擅长法语,Daisy被分配到负责法国地区的内容审核,最终成为了该区的项目主管。如今,她每天都要筛选报告,确定内容是否合适——是否违法法律或谷歌的服务条款。

Peter以及不少同事都是移民。Accenture招募了一批像他一样会讲阿拉伯语的人,其中不少人是在中东地区长大的。公司将他的语言能力评定为7级,能够精确地识别憎恨言论和恐怖主义宣传,随后就能将这些内容从网站上删除。

工作一年后,Daisy当时的男朋友表示她发生了很大变化,整天提心吊胆,晚上睡觉说梦话,有时候还会尖叫,而且她总是很累。一位室友曾在背后轻轻戳了她一下,结果她就突然转过身来攻击对方。“我的第一反应就是‘这个人要伤害我’,我总是把生活中的事情和那些图片联想到一起,”她说道。

去年,Peter的一位同事因为工作压力崩溃,最后放弃了两个月的工资选择离职。另外一位同事也因为工作换上了焦虑症和抑郁症,同时还因为饮食不规律,导致严重缺乏维生素,最后不得不住院。

“如果你每天看着别人拿刀砍下另一个人的脑袋,你会感觉这个世界简直疯了。这会让你感到恶心,你会感觉活着没什么意思,”他说道。

随后Daisy听从心理医生的建议,养了一只狗,与它一起参与课程,让它成为自己的情感支撑。随后她发现自己能慢慢和儿童接触。“看着孩子拍拍我的狗,我发现我和他们的关系真的有了很大的进步,”她说道。

Daisy主要负责恐怖内容审核,儿童色情图片(CSAI)更会让她感到不安。虽然当初说每周只要审核一到两个小时,但实际上这类工作占据了不少时间。

另外,万达商管集团正在与多家其他银行积极洽谈支持万达广场中小微商家的优惠贷款政策,近期有确定消息后将及时通告。万达商管集团将尽全力帮助万达广场商家,特别是众多中小微商家,大家共克时艰,力争万达广场的商家不倒闭或极少倒闭。

坏消息到来之快,远超奥斯汀办事处的预期。尽管有数百名内容审核人员全天候轮班工作,Accenture仍然难以跟上负面视频的增加速度。随着中东恐怖事件的发酵,暴力极端主义的视频越来越多,2017年公司招募了十几位阿拉伯语的员工进行审核。

推广:猎云银企贷,专注企业债权融资服务。比银行更懂你,比你更懂银行,详情咨询微信:zhangbiner870616,目前仅开通京津冀地区服务。

在刚入职时,临时员工还能享有和全职员工一样的休息时间,可以在办公桌上吃东西,自由去卫生间,以及自由安排假期。几个月后,Accenture和Cognizant等公司就开始收回这些权利,还不允许员工带手机。

与此同时,她表示很感谢公司能提供带薪病假,并认为自己是员工中比较幸运的一个。

美国先前两个家庭因宜家家具压死孩子起诉宜家。宜家随后于2016年6月在美国和加拿大召回大约2900万个储物柜和梳妆台,包括800万个马尔姆系列柜子。 

“我们需要更多的人参与到这个工作中。但整个系统也有待完善,包括它的运作方式,如何为员工提供支持,如何为他们提供工具和资源处理内容。否则,问题只会越发糟糕,”Daisy说道。

值得注意的事,公司不仅仅在试验。同时它也在限制内容审核人员审核内容的时间,为外出治疗的合同工提供病假,为离职的、患上长期心理疾病的员工提供帮助。

谷歌为员工安排了一位咨询师,但只会不定期到访,而且预约很快就会被占满。“当我们收到通知邮件后,就要抢着去预约咨询师,因为每个同事都有类似的症状。”在成功预约后,咨询师建议Daisy去看看心理医生。

“你整天都要看那些残肢断臂横陈在血泊中,脑细胞都无法正常工作,”她说道。

这些员工都是移民,之前在从事保安、快递配送等工作,他们从朋友那里听到了这个招聘。“我们刚移民到美国的时候,大学学位根本得不到承认。因此我们什么都做,”在该网站工作两年的Michael说道。

在此之前,Daisy没有任何心理疾病,她也没想到这份工作可能会给她的心理健康带来影响(可能谷歌也没想到)。入职后,公司也没有进行过任何这方面的培训。

目前,全国抗击新冠肺炎疫情正在攻坚阶段,除湖北外,万达广场逐步恢复营业。万达方面表示,希望商家在做足防护并符合当地政府要求下恢复营业,万达商管集团愿与所有合作商家共渡难关。如合作商家在恢复经营后现金流困难,可通过网络服务平台向其租赁的万达广场申请,延期缴纳2020年3月和4月的租金及物管费,商管集团将对全国六万多户商家进行一企一策审核,最长可延期至2020年12月底缴纳。

宜家在声明中说正着手解决“这个十分重要的家庭安全问题”。

2016年6月的法国国庆日,ISIS的恐怖分子驾驶一辆货车冲入节庆人群,造成86人死亡,458人受伤。网上的相关图片和视频开始剧增,公司高层要求Daisy高负荷工作,处理这些内容。Daisy也想要加快工作进度,然而事与愿违。“你只能看到待审核的内容越来越多,”她说道。

这是她第一次出现急性焦虑症。

在内容审核方面,谷歌和YouTube采取了与其他科技巨头相同的方法:花钱请其他公司完成这个任务。其中,Accenture运营着谷歌旗下美国地区最大的内容审核网站,这家公司位于德克萨斯州奥斯汀,它的内容审核人员在全天候地为YouTube服务。

Peter最初是负责“暴力极端主义者队列”(VE)的,这也是Alphabet最严肃的工作之一,这份工作给不少人留下了严重的后遗症。

随着网络服务的增加,谷歌部分服务的用户数量甚至超过了10亿,它雇佣了一支内容审核大军。然而上传内容简单,审核内容却很困难。今年10月,该公司在报告中表示,在过去一年里,谷歌删除了16万条包含暴力极端主义的博客和照片,平均每天438条。

另外谷歌也在尝试用技术解决这些问题,包括利用机器学习系统负责这些工作。谷歌的研究员还表示,将来可能会将照片里血液的颜色改成绿色、对脸部进行打码等,观察它对工作人员情绪的影响。

然而负责处理恐怖内容的人员就没那么幸运了。他们表示上司剥夺了自己的休息时间,老板要炒你甚至不会给个合适的理由,没有预先通知就修改排班更是家常便饭。

在YouTube上,大部分待审核的内容都是良性的。如果没有内容待审核,那么审核人员就比较空闲。然而他们的工作量取决于所在的地区以及上司的同情心。有几位员工表示非常喜欢这份工作,原因是找到非法视频就能获得奖励,同时工作也非常简单,有大量的空闲时间用来放松。

研究发现这能显著改善员工的心情——至少在试验期是这样的。

YouTube的首席执行官Susan Wojcicki曾表示内容审核人员数量已达到1万。但公司没有透露美国地区有多少人。合同制的工作人员更加廉价,相比之下,全职员工年薪达9万美元,这还不包括分红。因此临时工、合同工和第三方人员占据了54%。

还有一次,Daisy和几个朋友在旧金山的幼儿园看到一群小孩,一位护理人员要求孩子们抓住一根绳子避免掉队。“我眼前仿佛闪过一个画面。一些和他们差不多大的小孩被绳子绑起来,遭到了性侵。当我看到小孩和绳子的时候,就想到了这些画面。然后我呆了好一会,几个朋友问我是否不舒服,我坐下来休息了几分钟,非常想哭,”Daisy说道。

如今Daisy已经离职两年了,但她还会受到一些后遗症的困扰,有时急性焦虑症复发,她也需要抗抑郁药物来稳定情绪。

一个星期后,她选择申请读研,最终被塔夫斯大学法律政策学院录取,并于今年年初获得硕士学位。如今她在R Street Institute担任政策研究员,她关注儿童和科技,还抽空去谷歌给决策者们提供儿童隐私和内容审核方面的信息。

公司让两组人员分别审核彩色和黑白的照片、视频。每两周,对他们的心理状况进行问卷测试。

Peter已经从事这份工作两年,他也担心自己的心理健康。他的家人反复要求他离职,但他又担心离职后找不到这样一份高报酬的工作:每小时18.5美元,折算成年薪大约是3.7万美元。

在奥斯汀,每天两小时的休息是标准。有4位员工表示,当任务非常繁忙时,有员工就会自行放弃休息时间。大约在六个月前,为了达到既定的任务目标,他们也开始放弃休息时间。每个人的电脑上都安装了录屏软件,以此记录每天是否达到5个小时。但还有其他工作任务,比如检查邮件、参加团队会议,这些并不会计入工作时间。

她非常庆幸自己不是合同工,哪怕在就诊期间也能获得薪资。“这几个月我在反复思考自己的选择和出路,”她说道。

在经历半年的治疗后,Daisy回到了自己的岗位。让她遗憾的是,上司的态度并没有太大的改变。“他们刚开始会关心我。‘工作做得怎么样?刚回来可以慢慢做。’但最后,所有的事情都会重新和效率挂钩。”

之后Daisy也开始接受治疗。在此过程中她明白了工作效率的下降并不是自己的错,当人们反复看一些让人不安的图片后,有些人会暴饮暴食和增重,有些人会剧烈运动,而Daisy这类人就容易疲劳。