现阶段，德国曾经成为Facebook最为重要的内容审查中心之一。当然，在某种水平上，这也是由于一项全新的法律规章，要求各家社交媒体公司无效移除自家平台上的仇恨性言论和暴力性言论。目前，在柏林和埃森两座城市，Facebook的内容审查员超越1000人。他们当中的大少数，都受雇于一家名为Arvato的业务外包公司，这是德国知名媒体效劳企业贝塔斯曼集团（Bertelsmann）的子公司。
虽然内容审查的详细流程和相关准绳目前还是对外保密的，但我们对Facebook在德国延聘的内容审查员停止了长达一年的深度看望，所以对他们的任务环境和删帖准绳还是有了一定的理解。
上面，就是已经担任Facebook内容审查员的Burcu Gültekin Punsmann，针对本人之前在德国的相关任务阅历向群众停止的引见（全文均采用第一人称）。
去年七月，我第一次离开柏林，随后就在Arvato找到了一份内容审查员的任务。当然，选择这样一份并不太受大家欢送的任务，有一大局部缘由是受猎奇心驱使。而且，在此之前，我历来没有想象过，世界上竟然还存在这样一种任务。由此，我便成了一名外包评论员，参加了Facebook社区运营的小家庭。该团队的成员数量不计其数，遍及全世界各个角落，平常任务进程中运用的言语多达40种。由于聚集了来自世界各地掌握多门言语的受教育廉价休息力，柏林也在最近一段工夫成了Facebook全新的内容审查中心，而且德国政府也是加大了对敌视性言论的法律规制力度。
虽然这份任务我只做了三个月就辞职了，但我以为本人还是应该向外界大众引见一下这三个月来的紧张任务体验。在很大水平上，这算得上是一次自我反省和自我学习的锤炼。另外，我也把这样一种分享当成是本人与过来三个月来每天面对的暴力内容彻底说再见的最佳途径。我希望可以经过我的描绘让大家愈加理解这份任务，也让更多人开端关注并且实在参与到这样的内容审查任务中来。当然，有一点要声明，我并非是要泄露公司相关秘密，毕竟我现在也是签署了员工保密协议的。所以，在这篇文章中，我将不会过多讨论Facebook开收回来并且遵照运用的相关内容审查准绳。而且，从我过来三个月的任务经历中，我也发现Facebook所采用的相关政策准绳会不时停止重新评价，所以是十分灵敏的，会依据详细状况停止相应变化。
刚开端，我是十分享用培训和入职进程的，也很开心本人可以身处这样一个国际化、多元化的任务环境当中。虽然我之前也从事过一些国际开发任务，但不一样的是，在这里团队中的每位成员都是移民，并非德国本国人。而且其中大少数都是年老人，他们有着各种各样的背景。所以，也正是这样一种多元性和综合性，吸引我参加了Facebook的内容审查团队。要晓得，Facebook自身就是一个社交媒体平台，可以将一切用户与里面绚丽精彩的世界联络起来。但是，内容审查却是一项高度封锁、高度秘密的任务。而我一开端之所以对它猎奇，就是由于如此自相矛盾又无独有偶。
除了Facebook，其他还有很多社交媒体平台，也都拥有属于本人的用户／社区监管零碎，毕竟没有人会在用户上传内容之前对内容停止审查。或许，有时分有些用户会在平台上发现一些不太恰当的内容，并且向公司赞扬或告发。而内容审查员每天的根本任务，就是处置这些由用户提交下去的赞扬和告发。关于这样一个在全世界范围内拥有20亿用户的社交媒体，我们可以想象一下平台上每天会生成多少内容。据我所知，均匀每个星期提交下去的用户告发信，大约有650万封。因而，内容审查员的任务是历来没有止境的，一个星期七天简直没有任何间歇。
所以，假如说要用一两句话来复杂概括我所从事的任务以及我在这个进程中所起到的作用，我是很难做到的。难道说，我扮演着审查员的角色，限制用户的言论自在？我想，我并没有。我团体尊重每位用户的言论自在，即使他们收回的是支持声响，也尊重用户运用一些最为新颖的言语方式来表达本人内心想法的自在。详细说来，我担任的是土耳其市场。所以平常处置的很多告发信，都会反映出土耳其社会现如今存在的认识形状分歧成绩。除此之外，还有一些针对历史述事的争论，以及各种各样轻重水平不一的宗教攻击成绩。不过在这样一个进程当中，我倒是见过不少风趣的景象。有些用户虽然实质上是想表达本人对某些价值观、理念和信仰的应战甚至藐视，但却运用了一些意图振奋人心的新颖词汇。
不过，相比言论，我其实处置得更多的是行为。我以为，在大少数状况下，图片和文字并不是一种表达自我的方式，而是一种真实表现态度的方式。通常，告发信中的那些行为，都是严酷暴力的，其中包括敌视性言论、施虐行为、欺凌行为和自残行为等等。毫不夸大地说，这些内容都是十分十分暴力的。虽然我之前在战争建立和人道主义推行任务中，也真逼真切地阅历过抵触、见过不少暴力行为，但假如从一位普通用户的角度动身，我还真的是无法想象，现如今暴力成绩竟然在社交媒体上也是如此严重。
在这些暴力内容中，有一小局部是带有立功性质的。而且，这一点也是让我愈加忧虑的缘由所在。都不需求专家，只需你是正常人就都能随便区分出来，这些暴力人士的态度、行为和表达方式，曾经充沛标明我们这个社会似乎要脱轨了。我已经亲眼见过一些毫无人道主义肉体可言的行为，毫不尊重社会标准和团体隐私，礼义廉耻也都消逝殆尽。难道说，这些社交媒体工具在潜认识中破坏了社会审查和品德屏障，鼓舞大家无视约束和忌讳？但这里又有一个成绩，也就是在这些社交媒体平台上，虽然有些人的行为毫不尊重社会标准，但你又不能说他们反社会，由于他们发帖的目的就是吸引大家的留意，希望他们给本人点赞并且与本人停止互动。所以，我经常想，要是在理想生活中的公共场所，比方公共交通工具、咖啡馆或公园里，也呈现这品种似的恶劣态度和行为，那该是什么样一种情形。
而我之所以选择在三个月之后辞职，次要也就是由于真实忍耐不了本人这种近乎专业却又畸形的高度紧张甚至是警觉的肉体形态。而且，我发现本人的这种任务节拍，无法顾及到家庭生活。由于我还有一个七岁的女儿，只需是上晚班就简直见不到她，没有任何亲子工夫。
其实一开端，我选择这样一份任务，只是为了应战一下本人，看看本人能否有才能顺应这种完全不同、完全封锁、高度紧张的任务环境。出去了之后，我才发现本人身处一个全球化的数字无产阶级当中。在那个密闭空间内，有着700多位内容审查员。不只与外界没有任何交流，彼此之间也简直没有什么交流。我的任务工夫和休息工夫，都是经过严厉计算和记载的。绝大局部工夫都要据守在本人的任务台上，即使是暂时有事走开，也就只要几分钟的工夫。我都不确定，像我们这些人终究能否做出了奉献。但有一点是可以一定的，那就是我们的确经过本人的微薄之力，协助整个价值数十亿甚至数百亿美元的行业往安康方向开展。
说白了，内容审查员的次要任务就是剖析。这不只是一项十分困难的任务，也是一项对内容高度敏感的任务。由于审查员需求正确判别，终究在那些遭到告发的内容中，有哪些是值得保存，而有哪些是需求删除的。这种需求感情作为支撑的审查任务，关于算法来说真实是太复杂了，虽然在某些状况下审查员似乎就应该像计算机一样疾速给出回应。这种对一致性、规范性以及严厉任务权衡目标的要求，并没有给我们人类足够多的判别空间。所以，人类的直觉也来不及做出回应。假如依照数据来看，一位内容审查员均匀每天要处置1300封告发信。
也就是说，分到每一封告发信上的反响工夫就只要几秒，你需求在这短短几秒钟的工夫内决议帖子是保存还是删除。相当于说，人类要像计算机一样自动给出下认识的回应、做出下认识的决议。但蹩脚的是，这种较为机械的反复行为，会给人带来一种懊丧感和孤立感。在这种状况下，情感反响显然是不能够的。而审查员的自动性一旦遭到了抑制，所能做的也就只是不时搜集案例，针对政策破绽给出处理方法。虽然这种规范操作流程可以在一定水平上保证客观性，但不带任何情感的揣测，也就限制了审查员考虑发帖人真正发帖意图的能够性。所以，我团体还是以为，审查流程要愈加兽性化一点，在审查判别时带入一些团体情感，真正为那些极端的暴力人士提供协助，从而真正消弭抵触或暴力的本源。
虽然各位内容审查员身处同一团队以及同一个开放的任务空间，但这种紧凑的任务工夫布置在最大水平下限制了彼此之间的社交互动。这样一种虚拟空间有形中带来了一种孤立感。因而，他们审查的那些内容，所带来的影响也就有形中被缩小了。只需你在任务线上，那就会随时收到告发信，内容包括各种各样的文字、图片和视频。这些忽然出现出来的内容终究是些什么，事前并没有人晓得。所以，审查员并没有工夫去停止肉体形态上的转换和过渡。
换句话说，本人想要提早在心思上做好预备，基本就是一件不能够的事情。有时分，我们必需要在短短几秒钟的工夫内了解告发信中的内容。可以说，这份任务可以带来的就只是继续不时的压力。迅速的反响和处置，让本来较为复杂的剖析进程完全变成了一个机械的自动化进程，而审查员就不断在反复着这样一个机械的进程。因而，即使在八小时任务完毕上班之后，也很难霎时从这样一种紧张和复杂的形态中跳脱出来。说得不难听，这份任务让审查员发生了一种依赖，甚至是上瘾了。有时分，我在梦里都还反复着相反的操作。
很多时分，在内容审查的进程当中，我多么希望本人能是一位社会任务者或心思学家。甚至有时分，我都发生了一种错觉，以为本人从事的是急救效劳和执法效劳。可理想是，我并不是。我觉得本人可以做的事情十分少，可以起到的作用十分小，我基本无法为这些暴力内容的发布者提供任何一点协助，也无法改动这样一种社会现状。我不由在想，这难道就是我们所生活的社会理想的数字化反映吗？我努力通知本人，这些内容只是来自那些社会最为边缘、最为保守的人。但是，暴力内容似乎却又如此罕见。还好，令我欣喜的是，我次要担任的并不是本人国度和社会的暴力内容告发任务。所以，关于那些处置德国本国暴力内容告发任务的同事，我真的是十分同情，替他们感到遗憾。
说到这里，置信大家都能觉得到，这并不是一份人人都能胜任的任务。早在现在面试的时分，公司就给我们打了预防针，让我们确定本人可以处置这些内容。可即使如此，又有谁会想到真正开端任务当前，这些内容会这么令人忧虑。好在关于这样一种任务环境，我也不是毫无预备，毕竟我之前做战争建立和人道主义推行任务时，就阅历过类似的紧张任务环境。所以，不管是从年龄上，还是从经历上，我都要比其他一些同事稍好一些。关于那些年老的同事，我也替他们感到痛心。毕竟在这样一个以年老移民为休息力根底的体系当中，审查员的均匀年龄只要28岁。
作为一名新员工，我参与了一个由心思援助参谋组织的半天研讨班。虽然这个研讨班算是半路出家，还不太成熟，但我也可以了解，毕竟有总归要比没有好。至多它能让高度紧张的审查员，暂时分开本人的任务岗位，找他人交谈倾吐。虽然我没有要求公家参谋的协助，但其他同事能否要求了，又有多少同事这样要求了，我就不太清楚了。总之，这样一种研讨班的存在，自身还是挺让人欣喜的。我能感遭到，有些同事关于这份任务的临时影响有点担忧甚至有点恐慌。所以，找人交谈聊天、互相分享，就有着十分重要的意义。由于除了这样一个研讨班，我们没有方法在其他一些场所来讨论这些事情。以前，我们已经在公共交通上用英语讨论过这些事情，但如今想想还是挺担忧这些说话内容给其他乘客带来的负面影响的。
说到行动暴力、诽谤中伤和歹意诅咒，审查员简直曾经成了“专家”。由于与这些内容有关的词汇，自身是十分少的，遭到各种各样的限制。但在审查进程中，却总能发现一些用词十分有意思的长篇大论。不过，如何区分这些中伤诅咒和性剥削，又是一个大难题。之前，我历来没有想过一些中伤诅咒的词汇，居然还能如此带有性别暗示。关于审查员来说，随处可见的欺凌行为也是十分让人头疼的。本来我们以为欺凌大约就是校园欺凌，但现实并非如此，基本就不局限于青年身上。有时分，看到那些成心针对她人的严酷无情的言论内容，真是让我十分心烦。大少数这样的帖子，就真正切切抱着损伤别人的意图，明晃晃地表达本人的施虐倾向。
另外，还有很多内容包括有较为极端的图片暴力，这就让审查员的任务愈加难做了。大家都需求找到一种合适本人的方式，来无效处置这些图片暴力。在这方面，我发现本人要比新同事的经历略微丰厚一些。在这种高度紧张的任务环境中，审查员必需要占据自动位置，不能遭到这些内容的影响，尽力克制本人内心那种愤恨和恶心的觉得，这自身就十分费脑费心。有时分，审查那些有关死亡的暴力内容，我就权当本人做的是法医任务。而且，由于相关政策规则十分详细，有时分我还需求反复播放某些暴力视频或不断检查某张暴力图片的细节。
在某些不由自主发生同情的状况下，审查员的肉体形态就愈加蹩脚了。看到鲜血、碎肢和焦尸，真的是让人惧怕。但后来，我也就逐步学会抑制本人看到这些内容时的恶心感。通常，我只要在看到那些会把本人与其他真实集体联络起来的内容时，才会发生同情。有些残暴的细节，我努力让本人无视，却是真的做不到。另外，看到某些幸存者内心的那种焦虑和压力，也会让我发生激烈的同情之感。其中，最为糟心的就是那些带有折磨和优待内容的视频，尤其是优待儿童和植物。
上文也说到，我次要担任的是土耳其市场。所以，在审查这些内容时，我看到了少量与中东地域抵触相关的帖子。该地域混乱的社会现状，完全真实地反映到了社交媒体中。我发现，在土耳其的社交媒体上，随处可见那些与伊拉克和叙利亚抵触相关的内容。那些武装人士会应用网络技术来记载本人的和平情况，发布一些标榜本人骁勇善战、兄弟情深以及讪笑朋友的内容。大少数状况下，这些发布在社交媒体上的内容，都是没有经过指挥零碎同意的。总之，完全可以看到这些抵触荒唐混乱的实质。不过，好的一点就是抵触单方都还在社交媒体上停止互动，也有着相反的文明信仰。
已经有几个星期，我们天天看到的，就是与缅甸罗兴亚人大屠杀相关的图片和视频。那些帖子大多是谴责立功，呼吁各方关注并且采取相应举动。虽说是有一些旧事价值，但其中有些图片真实是太过血腥，所以采用暴力办法来呼吁关注，也并不是一个正确选择。
不过，说了这么多，关于审查员来说，最为瘆人的还是那些砍头视频。我本人就已经见过很多。虽然我对鲜血没有太多的恐惧感，但砍头和死亡还是无法承受。每次看到这些视频，我都要努力抑制本人内心的恶心。尤其是在穆斯林节日盛典时期，我每天都要看到很多宰杀家畜的内容。之所以看着糟心，是由于我发现本人不能十分明智地将这些植物砍头与人类砍头孤立起来看，总觉得十分类似。或许，关于植物来说，砍头的苦楚还会继续地更久一些。
说到这里，或许有人要说极端恐惧组织ISIS，应该是砍头视频的独一来源。但其实，并非如此。在这些视频当中，有很多是来源于拉丁美洲和缅甸的支持大型贩毒集团的内容。不过，ISIS的视频内容要更为复杂。他们会在视频中参加混杂视听的场景和背景音乐，所以视频看上去非常不真实，想要看清受益者最初的面部表情，简直就是一件不能够的事情。其实，这些视频终究有多恐惧倒是其次。关键成绩，就在于这些视频为何可以传达开来。试想一下，发布这样一则砍头视频，面前有着什么样的真正意图？由于在我处置的那些视频当中，简直没有几则是直接由ISIS恐惧分子发布的。那么，那些发布者是出于施虐倾向和暴力倾向，还是出于吸引关注？
总之，关于这些内容，内容审查员独一能做的就是删除。想要给发帖者发条音讯，通知他们所发内容太过严酷，简直就是一件不能够的事情。我希望当前，审查员除了复杂的删除，可以愈加频繁地行使劝说的权益。我也已经想过，假如能与发帖者深化交流一下或许能带来一些改动，只是工夫基本不允许。我想，这需求整个社会齐心协力，需求落实相关教育。说究竟，审查员想要提供的平安维护，还是来自于用户本人发布的帖子。社交媒体内容审查的重担，不能仅仅依托科技公司。虽然他们可以提供相关的网络支持，但终究还是要靠整个社会一同努力。