Facebook前员工哭诉血泪史:日审帖子8000篇,我已对儿童色情内容麻木

  • 时间:
  • 浏览:0

一名Facebook前仲裁员说,不断涌现的令人不安的材料压力,最终使她对儿童色情和兽交内容变得麻木不仁。

27岁的Sarah Katz 2016年通过第三方承包商Vertisystem,在加州门洛帕克的Facebook总部担任了8个月的内容审查员。她的工作很简单:弄清楚举报给Facebook的帖子不是违反了公司全部的社区标准。

实际上,这是因为每隔10秒就要看一次全新的、潜在恐怖的材料,并越快决定不是时需将其丢弃。时需审核的帖子被称之为“票据”,每天要花费有300个。

为应对你就说 冲击,Facebook去年雇佣了430名像Katz那我的仲裁员,并于2017年5月宣告计划再雇佣300名仲裁员,以帮助Facebook对抗用户输出最黑暗的角落。Facebook也在投资人工智能,来帮助处置违规的帖子。

Facebook在5月份的一份透明度报告中,全部说明了它在禁止内容方面地处的问題。它说,今年前那我月,它对210万个含晒 裸体和性活动的帖子以及310万个含晒 暴力画面的帖子采取了行动。数百万篇含晒 仇恨言论、垃圾邮件和恐怖内容的帖子也被删除。

审查者时需宣告关于冒犯性材料的弃权文件

内容审查者在现在现在开始为Facebook工作时时需宣告了一份弃权文件,这基本上是承认亲戚亲戚朋友准备好了查看令人不安的材料。它还旨在保护Facebook免受任何潜在的法律诉讼。

Katz宣告的文件写道,仲裁员将接触到“机会冒犯就说 人”的材料,包括色情图片。它补充说,机会工作人员“要我继续”,亲戚亲戚朋友应该“越快通知”Facebook。

“Facebook有数十亿用户,亲戚亲戚朋友我想知道怎么正确地使用你就说 平台,就说 有就说 色情、兽交和暴力画面,”Katz表示。“Facebook上有就说 你机会不希望看到的共享内容。”

Katz在门洛帕克的那我开放式办公室工作,那里有免费的小吃,同事之间也很友好。她说,亲戚亲戚朋友会排队等待英文审查的帖子,一旦分配好帖子,她时需在几秒钟内作出决定。

机会达如此票据目标,后果自负。Katz说,机会有“一两次”如此达到目标,机会被警告;三次以上,“你机会会被解雇。”Katz说,她从未看到一帮人被解雇,但工作人员私下里都知道你就说 点。

“过了一段时间后,我能 发现这是一份单调的工作,”她说。“你肯定会对就说 照片材料变得不敏感,机会你看得太久了。就说 内容趋于再循环。”

不断浮现的邪恶照片

Katz说,有一份不为什么么险恶的照片和视频不断出先 在她的队列中。

她说,照片中的那我孩子,看起来要花费9岁至12岁,亲戚亲戚朋友面对面站着,腰部以下如此穿衣服,彼此抚摸着。Katz说,很明显,摄像机上方一帮人在告诉亲戚亲戚朋友该缘何做。

“它会消失,但又会再次出先 。一天之中它会多次出先 ,”她说。“每次的用户位置时需一样,你就说 次来自巴基斯坦,那一次来自美国。不能自己找到最初的来源。”

Katz说,当时并如此要求她举报分享哪此材料的账户,你就说 点让她感到“不安”。

“机会使用者的帐号严重不足三7天 ,亲戚亲戚朋友会以假帐号之名停用该帐号,”她说。“机会帐号超过30天,亲戚亲戚朋友只需删除内容并继续保持该帐号的活动状况。”

▲她的经历引发了Facebook在其平台上处置剥削儿童问題的有效性问題。

该公司在2011年与微软宣告了一项协议,来使用其PhotoDNA技术,旨在扫描Facebook和Instagram上的所有图像,标记已知的儿童色情内容,并处置其被重新使用。此外,Facebook仲裁员时需接受培训,当亲戚亲戚朋友看到哪此内容时,会在组织组织结构进行识别。

Facebook在2012年向《纽约邮报》表示,它向美国失踪和受剥削儿童国家中心报告了所有剥削儿童事件。

公司发言人当时说:“亲戚亲戚朋友对上传到Facebook上的儿童色情内容是零容忍的,因此 在处置和移除剥削儿童内容方面非常积极。”

Katz说,她我想知道2016年不是时需有那我的状况。

她说:“Facebook现在机会有那我的政策,认为你应该举报它,但当时亲戚亲戚朋友如此。”

Facebook拒绝评论Katz的声明与其所宣称的政策之间的差异。

人类视角的细微差别

Katz现在是云计算公司ServiceNow的网络安全分析师,她撰写了一部科幻小说《Apex Five》,灵感来自她在Facebook的工作生涯。她对自己在Facebook上的经历不须持乐观态度,认为这份工作的负面影响远远超过了她保护用户的感觉。

“这项工作时需就说 人的眼睛,无论亲戚亲戚朋友缘何说,就说 能全偏离 配给人工智能来完成,”她说。“亲戚亲戚朋友作为人类,地处强度上的细微差别。人工智里太久 帮助跟踪来自数十亿用户的所有内容。而人的因素也时需被考虑进去,那我亲戚亲戚朋友太久 一个劲做得很好。”

Katz敦促科技公司做更多的工作,把仲裁作为五种职业而时需短期工作。

“不仅Facebook,一般的社交媒体平台也应该全职聘用内容仲裁员,机会这会提供更多的激励,”她说。“这真的激励亲戚亲戚朋友做好一份出色的工作,让它成为亲戚亲戚朋友要我坚持的东西。”

Facebook发言人说:“亲戚亲戚朋友的全球内容审查团队在帮助为Facebook社区创建安全环境方面发挥了至关重要的作用,这是亲戚亲戚朋友的首要任务。亲戚亲戚朋友认识到这项工作往往是很困难的,因此 亲戚亲戚朋友为所有员工提供了健康与生理支持。”

“Facebook上有20多亿用户,就说 这是一项非常重要的工作,因此 亲戚亲戚朋友最近将现有的430多人全球社区运营团队,增加了300人,以审查亲戚亲戚朋友每周收到的数百万份举报。”