您现在的位置是:网站首页> 内容页

Facebook前员工哭诉血泪史:日审帖子8000篇,我已对儿童色情内容麻木

  • 乐游官网注册账号
  • 2019-10-16
  • 167人已阅读
简介一名Facebook前仲裁员说,不断涌现的令人不安的材料压力,最终使她对儿童色情和兽交内容变得麻木不仁。27岁的SarahKatz2016年通过第三方承包商Vertisystem,

一名Facebook前仲裁员说,不断涌现的令人不安的材料压力,最终使她对儿童色情和兽交内容变得麻木不仁。

27岁的Sarah Katz 2016年通过第三方承包商Vertisystem,在加州门洛帕克的Facebook总部担任了8个月的内容审查员。她的工作很简单:弄清楚举报给Facebook的帖子是否违反了公司详细的社区标准。

实际上,这意味着每隔10秒就要看一次全新的、潜在恐怖的材料,并迅速决定是否需要将其丢弃。需要审核的帖子被称之为“票据”,每天大约有8000个。

为应对这一冲击,Facebook去年雇佣了4500名像Katz这样的仲裁员,并于2017年5月宣布计划再雇佣3000名仲裁员,以帮助Facebook对抗用户输出最黑暗的角落。Facebook也在投资人工智能,来帮助处理违规的帖子。

Facebook在5月份的一份透明度报告中,详细说明了它在禁止内容方面存在的问题。它说,今年前三个月,它对2100万个含有裸体和性活动的帖子以及340万个含有暴力画面的帖子采取了行动。数百万篇含有仇恨言论、垃圾邮件和恐怖内容的帖子也被删除。

审查者必须签署关于冒犯性材料的弃权文件

内容审查者在开始为Facebook工作时需要签署了一份弃权文件,这基本上是承认他们准备好了查看令人不安的材料。它还旨在保护Facebook免受任何潜在的法律诉讼。

Katz签署的文件写道,仲裁员将接触到“可能冒犯某些人”的材料,包括色情图片。它补充说,如果工作人员“不想继续”,他们应该“迅速通知”Facebook。

“Facebook有数十亿用户,人们不知道如何正确地使用这个平台,所以有很多色情、兽交和暴力画面,”Katz表示。“Facebook上有很多你可能不希望看到的共享内容。”

Katz在门洛帕克的一个开放式办公室工作,那里有免费的小吃,同事之间也很友好。她说,他们会排队等待审查的帖子,一旦分配好帖子,她需要在几秒钟内作出决定。

如果达不到票据目标,后果自负。Katz说,如果有“一两次”没有达到目标,将会被警告;三次以上,“你可能会被解雇。”Katz说,她从未看到有人被解雇,但工作人员私下里都知道这一点。

“过了一段时间后,你会发现这是一份单调的工作,”她说。“你肯定会对一些照片材料变得不敏感,因为你看得太多了。许多内容趋于再循环。”

不断浮现的邪恶照片

Katz说,有一份特别险恶的照片和视频不断出现在她的队列中。

她说,照片中的两个孩子,看起来大概9岁至12岁,他们面对面站着,腰部以下没有穿衣服,彼此抚摸着。Katz说,很明显,摄像机后面有人在告诉他们该怎么做。

“它会消失,但又会再次出现。一天之中它会多次出现,”她说。“每次的用户位置都不一样,这一次来自巴基斯坦,那一次来自美国。很难找到最初的来源。”

Katz说,当时并没有要求她举报分享这些材料的账户,这一点让她感到“不安”。

“如果使用者的帐号不足三十天,我们会以假帐号之名停用该帐号,”她说。“如果帐号超过30天,我们只需删除内容并继续保持该帐号的活动状态。”

▲她的经历引发了Facebook在其平台上解决剥削儿童问题的有效性问题。

该公司在2011年与微软签署了一项协议,来使用其PhotoDNA技术,旨在扫描Facebook和Instagram上的所有图像,标记已知的儿童色情内容,并防止其被重新使用。此外,Facebook仲裁员需要接受培训,当他们看到这些内容时,会在内部进行识别。

Facebook在2012年向《纽约邮报》表示,它向美国失踪和受剥削儿童国家中心报告了所有剥削儿童事件。

公司发言人当时说:“我们对上传到Facebook上的儿童色情内容是零容忍的,并且在防止和移除剥削儿童内容方面非常积极。”

Katz说,她不知道2016年是否还会有这样的情况。

她说:“Facebook现在可能有这样的政策,认为你应该举报它,但当时他们没有。”

Facebook拒绝评论Katz的声明与其所宣称的政策之间的差异。

人类视角的细微差别

Katz现在是云计算公司ServiceNow的网络安全分析师,她撰写了一部科幻小说《Apex Five》,灵感来自她在Facebook的工作生涯。她对自己在Facebook上的经历并不持乐观态度,认为这份工作的负面影响远远超过了她保护用户的感觉。

“这项工作需要很多人的眼睛,无论人们怎么说,也不能全部分配给人工智能来完成,”她说。“我们作为人类,存在角度上的细微差别。人工智能可以帮助跟踪来自数十亿用户的所有内容。而人的因素也必须被考虑进去,这样我们才能一直做得很好。”

Katz敦促科技公司做更多的工作,把仲裁作为一种职业而不是短期工作。

“不仅Facebook,一般的社交媒体平台也应该全职聘用内容仲裁员,因为这会提供更多的激励,”她说。“这真的激励我们做好一份出色的工作,让它成为我们想要坚持的东西。”

Facebook发言人说:“我们的全球内容审查团队在帮助为Facebook社区创建安全环境方面发挥了至关重要的作用,这是我们的首要任务。我们认识到这项工作往往是很困难的,因此我们为所有员工提供了健康和心理支持。”

“Facebook上有20多亿用户,所以这是一项非常重要的工作,因此我们最近将现有的4500多人全球社区运营团队,增加了3000人,以审查我们每周收到的数百万份举报。”

文章评论

Top