净网特工

你知道为什么有的微博内容会被官方删除吗？你知道为什么B站博主发的视频有一些不能通过审核吗？你知道为什么微博热点会被撤下吗？……这些背后存在着特殊的工种，那就是“网络审查员”。

《网络审查员》是我无意间在微信公众号看到的，吸引我的就是它的特殊，这是我从未听说过也从未关注过的一个工种。出于好奇，我利用下午的空闲时间将其看完。

这篇影片是纪录片，它讲述着一群网络审查员的真实工作。什么是审查员？就是网络的清道夫，清理不符合规定的图片，影片。他们是由互联网一些平台比如脸书，推特等等来和菲律宾的外包公司合作，清理网络上的罪恶（黄色内容，反政治言论，血腥暴力等）。塔曼的工作看似简单，实则不易。

在菲律宾，很多工作的薪水都很微薄，为了能够获得好点的生活，会有一些人选择了网络审查员这个工作。有个女孩面试的时候，看到的视频是恋童癖，一个女孩正在进行口交，而另一个影片则是，一个女孩身上都是精液。对于这些画面，她无法忍受，但因为工作需要，还是要克服自己心中的那个坎。另一名女审查员在步入这个行业之前是很单纯的，一些敏感词比如肛交之类的含义她并不清楚，为了这份工作，她甚至通过看性爱片进行学习这些词。除此之外，因为全球化劳动力，对于审查的内容多数是来源于其他国家，而对历史背景一无所知的情况下，审查的难度就会增加。

在审查的眼中，有些艺术不得不删除。有个女艺术家画了一个川普裸体，并且画上了一个很小的生殖器。虽然审查员知道这幅画表达的意思是，川普的能力和他的生殖器一样弱，不适合领导美国。但是涉及到裸体的图片是审查的底线。尽管艺术家自己认为，为什么会有人觉得裸体恶心。还有一个摄影师，他对叙利亚十分关注，他将一个溺水的小男孩发布到他的脸书上，不到三天就被删除。虽然他想呼吁战争的可恶，政治间的博弈造成无辜生命的丧失，但是影片涉及到sisi影片，审查员不得不删除。

审查在一定程度上，阻挡了黑暗，但也阻挡了真相。叙利亚战争的打响，很多难民都会通过手机记录真实的情况，最后却无法过审。

联合国言论自由权特别报告员说“这些公司越来越多权力决定什么留下什么撤下，利用人乐于安逸，讨厌努力，讨厌挑战的心态。随着时间的推移，总有一天，丧失我们进行批判性思考能力，妨碍接收挑战的能力，造成限缩言论。”

网络审查员的本质是不容犯错，他们决定着人们将会看到什么。而看到的这些东西，很可能引发战争，霸凌，犯罪现象等等。所以他们小心翼翼。这是一项不轻松的工作，更是一份艰巨的责任。有些黑暗是光无法到达的地方，只有审查员能替我们前往。虽然有利有弊，但是利大于弊总是好的。

（摘抄：社交媒体是中性的，不会助长什么，但如何才能吸引眼球增加关注是原因，而愤怒是最有效的诉求。）

作為一個威權體制下的網民，看完這部紀錄片的第一感受便是：隔靴搔癢，過於浮泛。

社交媒體上出現的種種問題，其實也就是現實世界的反映。色情/血腥/恐怖組織/政治，每一個議題下都可以分化出無數的觀點與立場。紀錄片試圖用不到一個半小時的體量，以網絡審查員為主要視角進行全方面的探討，注定只能泛泛而談。

但我確實欣賞導演對不同立場的同等尊重。理论的说法叫做：“兩面說辭”。

對於色情的判斷標準。是藝術還是淫穢？

對於恐怖組血腥視頻的判斷標準。是非法傳教還是真實歷史記錄？

對於社會災難真實記錄的容忍度標準。是新聞的真實要求還是對苦難者的二次剝削？

對於不同政治觀念/仇恨言論的容忍標準。是憲法給予的言論自由保障還是民主社會的底線堅守？

不同人站在不同的立場與坐標，自會給出不同的答案。正如影片中所說：背景與身份決定了思維方式。而社交媒體這個平台無非是為不同立場、不同觀點的交鋒提供了舞台。平台背後商業資本、政治權力、民眾影響且深深塑造著社交媒體。

科技公司為了利益，會不斷滿足民眾的個性化需求進行算法推算，由此進行的信息推送最終造就信息茧房。民眾接受的信息內容越來越狹窄，加之同溫層相互抱團取暖，觀點自會越來越極化。

但我其實認為這樣的說辭有些高估了民眾的自主權與選擇空間。真正掌握且控制信息的還是那個無形的手。為了政權的穩定，可以要求科技公司進行IP鎖定，限制特定內容的瀏覽。自然也可以直接建造一個全球最大的局域網。以保護民眾之名（更多時候的常見話術是為了保護下一代）剝奪本可以擁有的自由。殘酷而又現實的未來構想“數字極權”，或許正在一步步到來。

我喜歡影片最後那位辭職的審查員說的那番話：不要逃避，不要麻木自身。

現實本身的苦難與黑暗是刪除不了的。（但我支持的是有底線的自由空間，並非放任自流）呆在一個溫良且無害的環境之中，會影響個體批判性思考能力，挑戰能力的訓練，逐漸縮緊自身表達的空間，放任民粹思想的氾濫。個體被迫或者無意識地逃避現實，逃避了公民所需承擔的責任。與此同時，語言本身也遭到了殲害。

只有在大量信息獲取的前提下，才能進行相對有效的信息判斷與審視。在簡體中文信息這個極其糟糕的環境下，一味地聽信與一味的不聽信，都是糟糕的能力體現。（孫楊一事的輿論風向轉變是極其具有參考價值的控制案例。足以以小見大。）（好像話題扯遠了orz......

說回正題來，對於影片中的審核員我內心十分同情，領著不高的薪金，每天都得直面黑暗與血腥。

但對於第三帝國的審核員，秉著一個沒有來由便被炸號的人的立場，我只能勉為其難的認可他們作為一顆不鬆動的螺絲釘所作出的努力。可轉念一想吧，我能體諒他們，誰來體諒我？

紀錄片裡提到的問題一時半會兒也解決不了。思想本來也無法統一，唯一要做的是建立一個文明包容的互聯網空間。全球都在右轉，樂觀的來說：或許此次疫情能成為契機，讓大家重新意識到全球化的重要性。開放包容的精神還能得到提倡。但悲觀的來說，歷史不會一直前進，要做好止步不前甚或倒退的準備。（或許在這個時候成為一顆第三帝國的螺絲釘不失為個體的良好選擇🌚（對不起，俺又在陰陽怪氣了

[纪录片赏析课作业01]

我们还上不了脸书呢

上周，我找到了一张《感官世界》的稀有海报，想把它发布在微博上。

可是，怎么都发布不出来，关键是这张图片并没有露点。

既然不能在微博上发布，那我是不打算在文章里贴出这张海报了。

你们也别去豆瓣上找了，没有，我也没有上传的计划。

当然，写这些不是为了显摆我发掘海报的能力。

我是对于微博上对于图片是如何审核的机制比较好奇。

大家应该有过这种经验，发布在微博上、豆瓣上、B站上、百度贴吧上的内容被删的情况。

不管是因为人工审查，亦或是因为别人举报。

困惑、震惊、愤怒，“为什么删我的东西，我发的内容没什么违规啊”，这应该是大家的第一反应。

我除了好奇这些审查机制外，更好奇这些机制背后的人。

也就是这些网络审查员。

《网络审查员》

先把时针拨回到2013年3月23日，在脸书上有一条视频，视频的内容是关于儿童性暴力。

在视频下架之前，它已经有了超过4000次的分享，以及数不清的评论。

这条视频引起了导演汉斯·布洛克和莫里茨·赖斯维克的关注。

为什么这种事情会发生？为什么这些网站没有及时地进行处理？

这个就是《网络审查员》的缘起。

01

这是一群隐形的人

菲律宾，马尼拉，一间办公室。

经常传出“忽略”、“忽略”、“删除”、“删除”的声音。

坐在电脑前的人目不转睛地盯着屏幕上频频闪过的图片、视频。

这些图片与视频包含着大量暴力、血腥、色情的讯息。

他们就是谷歌、推特、脸书等社交媒体雇佣的网络审查员。

上面就是这些网络审查员的日常工作。

他们的工作不能对外讲，甚至连工作本身都是秘密。

他们看似是为互联网三巨头工作，实际上，他们所在的公司只是外包公司，他们的工资也是由外包公司来发。

每天有2万5千个指标，意思就是他们要删除2万5千条不良信息，每一天。

想想一下让一个普通人每天看虐杀、色情、暴力，他会变成什么样。

但是这些审查员必须要看，因为这是他们每月的KPI指标。

他们可以选择跳过一些引起他们不适的视频，如果被发现业务评分就会扣分，他们每个月只有三次的机会。

他们家境的贫穷也不允许他们放弃工作的机会。

要么读书，要么捡垃圾，对于来自社会贫困阶层的他们而言，选择就是如此残酷、简单。

每天都要穿过垃圾山、趟过垃圾海去上班，他们有一家子要养，他们必须珍惜工作的机会。

她，在审查期间看过一个儿童性暴力的视频，让她震惊不已。

她很痛苦，但却不能辞职，因为她签了约，只能硬着头皮接着干。

虽然杜特尔特政府宣称,从2018到2022年，菲律宾经济规模要扩大50%,并要迈入中高等收入国家的行列，但是菲律宾的贫富差距依然悬殊。

富人吃肉，穷人吃土。

这些来此贫困村庄的审查员们，咬着牙也想挺过来。

有些情况，并不是咬牙挺一挺就能解决的。

其实几年前，我就看过一篇关于推特公司审查员心理健康问题的外文文章。

文章就讲，这些审查员工作了几个月之后，都要接受心理辅导。

就像片中出境的几位工作人员。

在直面人性丑恶之后，他们的心理健康状况都很糟糕。

她，每天都要接触大量的色情视频。为了判断一个视频是忽略还是删除，她必须了解各种性方面的术语。

她在家看了大量的A片，还经常去逛性用品店，每晚都会做各种丁丁的梦。

用她的话讲，既有罪恶感，也有羞羞的快感，甚至还看上了瘾。

一个清纯少女就这样变成了一个老司机。

她这种情况还算轻的。

他，看过几百遍斩首视频。

次数多到，仅仅凭着尸体身上的切口，他就知道尸体是用小刀割的，还是大刀砍的。

麻木，看到了麻木。

当麻木累积到阈值的时候，就是他们崩溃的时候。

片中一位审查员，生前是负责审查自残视频，看过了数不清的自虐视频后，在家上吊自杀了。

没有人关心他们的心理健康。

02

审查的标准是什么

关于网络内容的审查本身就是一个悖论，如何在追求言论自由的前提下，又能保证言论的自由不会危及到我们自身。

这世界上没有一个人不想追求言论自由，但是要付出的代价呢，怎么办？

单单靠我们自身的批判性思维，举世浑浊唯我独清,众人皆醉唯我独醒？

戴维·凯伊，联合国言论自由特别报告员是这么说的。

他觉得对于言论自由设限，会导致民众获得越来越少的信息，以至于尖锐意见会从网络上销声匿迹。

那为什么现在网络暴力越来越严重，互相仇视的情绪越来越高涨。

这问题到底是出在谁的身上，真的是这些社交平台监管不力，是我们被这些社交平台诱导？

答案是非常复杂的。

对么？对，但是这个对也有预设条件。

什么问题都不可能只有A与B两个面，我们也不能也二元论来看待问题。

一个平台该如何判断该如何审查一张图片、一段视频。

一个平台认为是危险的消息，在另一个平台可能认为其具有新闻价值。

黄安娜，前谷歌/推特法律负责人举了一个例子。

萨达姆在被处决的时候，有人把视频发到了油管上，网上一共有两段视频，一段是萨达姆被处以绞刑的视频，一段是萨达姆的尸体。

这样一来，就要决定到底是该留哪一段视频，他们最后选择了萨达姆被绞刑的视频，因为这段视频具有历史价值。

而这样就带来一个问题，如果审查员不知道图片、视频的背景信息，该如何决定是该忽略还是删除。

审查员因为不知道背景消息误删的情况，也很常见。

不仅仅是这样，每个平台都要自己的标准。

像下面这张越战的著名照片。

它就因为涉及了未成年裸露而不符合规定。

对于这些审查员来说，最严重的的失误，就是疏漏裸体内容。

03

到底为谁所用

就算一个审查员每天能处理25万条违规信息，但是每天脸书、推特上还是会有海量的信息流出现。

再说，不论是人工智能识别还是人工识别，这种机制都是被动的。

社交媒体是带来了恶，还是引爆了恶？

每个人使用社交平台的目的各不相同。

美国艺术家伊尔玛·戈尔画过一张特朗普的裸体画，并把它放在了自己的脸书上。

引发了网络上的广泛讨论。

甚至特朗普本人都在白宫发言的时候，都讨论过自己的尺寸没有那么小。

现在的社交媒体已经可以强大到可以干预到国家领导人的发言。

NGO的成员，会在网络上收集视频，在视频被删除之前，先把视频保存下来。

对于他们来说，存档非常重要。

他们把这些视频收集起来后，发布在油管上。

他们用这方式记录战争，以此来让人了解战争的残酷，从而达到反战的目的。

来自叙利亚的艺术家，会把自己的创作放在脸书上，表达自己的政治观点。

美国右翼活动家，在社交平台上发表对于难民问题的观点，一口一个绿绿、臭大粪。

也会在游行示威上做直播，表达自己对于左派的不懈。

现在的言论自由已经被曲解了，人人都相信自己认为的真相。

就像片中提到的，自从特朗普上台以后，美国政治两极化日趋严重，左派与右派都不愿意对话。

这么一来，罪魁祸首就是脸书？是脸书有意识地发挥了推波助澜的作用?

没人能够回答。

最后就用脸书创始人扎克伯格在一次发布会上说过的一段话做结吧。

选择希望、克服恐惧，需要有勇气。

说我们能做出前所未有更好的东西。

要想改变世界必须保持乐观。

每一次我们连接网络、每一次创新，日复一日前进一小步。

所以我认为我们的共同努力比任何时候都重要。

- FIN -

公众号：小鲜电影（xiaoxianmovie）

内容审查员就像是一名狙击手，我们的目标是违反应用程式规定的用户。 我妈妈总是告诉我，如果不好好读书，就只能跟她一样当个拾荒者，他们依赖捡垃圾为生，这是他们唯一知道的谋生方式。我害怕自己将来只能留下来跟着捡垃圾，这也是促使我用功念书的一个原因。 2016年1月，我画了一张男性器官很小的川普画像，叫做“让美国再次伟大”，它立刻爆红，数百万人在许多社群平台上疯传，几天后川普在竞选辩论中提到自己的器官尺寸，我记得有朋友打电话告诉我说，是你让川普在辩论中透露他的器官大小吗。 作为内容审查员，你必须要有原则，是你在决定人们是否该看到某张图片，所以头号重大错误就是批准裸照、 和女性胸部、男性器官，这没有容忍的余地。 一个虚构的作品，它并不暴力，也无关性爱，它只是一个人的裸体配上川普的脸，不懂为何人们会觉得人的裸体这么恶心。 这工作真的不好做，但最后却成了带罪恶感的乐趣，感到罪恶是因为我居然在看这样的东西，乐趣是因为我现在很享受看到的内容。 脸书基本上就是一家科技公司，有许多工程师经营，它重视自家产品，重视公司设施，它重视发展规模，重视用户体验，但它不是一家媒体公司，它不会考虑到内容或内容创作，或是内容编辑和审查的事，这些事并不在它的基因里面，只要脸书碰到有人说，“嘿，你们要为这内容负责的时候，他们的答复会是，‘哦，我们只是搞数学的，我们只负责写演算法，去提供你们想要的东西，我们不干涉编辑’”，但政治现实是在川普之后，在英国脱欧之后，这样的说法已经不行了，我们现在在一个点上，只要大众不接受现状，在某些点上政府就会立马介入，我认为脸书是了解这情况的。 YouTuBe一直希望能够跨越国界，因此从2007年左右，我们遭遇许多被封锁的情况，当土耳其政府不知如何与你取得联系时，他们索性关闭你在该国的服务。我们花了一段时间才弄清楚，是什么令他们感到不舒服，我们最后终于设法掌握了令他们不开心的特定影片，其中有些是关于凯末尔，有些则是他们声称违反土耳其法律的恐怖主义影片。我记得有一天我在凌晨两点，审查令土耳其政府感到不快的67个影片，从中做出哪些应该删除，哪些应该留下的决定，有个重点是对于一些影片来说，它们其实没有违反社群准则，所以一般不会从平台移除，可是却触犯了土耳其的法律，所以我们决定对土耳其用户采取IP位置封锁，土耳其用户将无法看到这些影片，我不喜欢这种解决方式，但这就是我们的做法。 街上聚集了许多了不起的人，警方在这里部署的人数相当多，我很好奇他们会在这里待多久，因为我知道只要他们一撤离，人们就会开始干架。 一些左派人士认为你政治不正确，我们这群人拥有枪支、子弹，受过训练，只要我们开始开枪射杀，我相信所有的赃东西很快就会消失。 人性归人性，而科技就只是种中性工具，并没有助长任何东西，但事实并非如此，因为科技确实存在偏见，偏见就是它实际追求的一个目标，那个目标就是什么才能得到最多人的关注，什么才能吸引数十亿人，成功转移他们的注意力，并且保持下去。 这项工作会损害你的大脑，让你觉得暴力是正常的，让你认为杀人，轰炸是正常的。 我不能让影片影响你，但这因人而异，有些人就是会受到画面的影响。 我突然自己，为什么要做这份工作，只是为了让人们认为上网是安全的，事实上在你的日常工作中，上处都是危险，我们在奴役自己，我们应该从麻木中觉醒，因为这并不安全，我们应该正视现实。 选择希望而非恐惧这需要勇气，期许我们可以建立比过去更加良好的环境，你必须乐观的认为你可以改变世界，我们投身其中，每一次都是一种联系，每一次都是一种创新，日复一日，日复一日，这就是为什么我认为我们一起投入的工作，现阶段比以往任何时候都重要。

像fb这样的垄断型大企业，你说他搞审查是完全出于对使用者身心健康着想，才偷偷摸摸在第三世界国家录用这么一大批低学历打工者负责审核，我是完全不信的，这里不可能没有经济利益和政治立场的考量。

毕竟我在推特和脸书看到的关于中国的很多视频，有些比较血腥暴力色情的，他是没有删除的，你能说他们一点政治立场都不站吗？如果在脸书，一个内地的和台湾的骂起来了，内地的被举报会被封号，台湾的毛事没有，你说这里面没立场吗？我踏马是完全不信的。

抛开政治不谈，只看有没有权利审核。我觉得权力这个事，和脸书等媒体的垄断地位是分不开的，他的规模太庞大了，全世界都在使用，除非你不用。他当然没有资格审查，没有资格替别人的大脑做决定该怎么思考，但是一个垄断性大型私企，不是普通使用者能控制的，那就变成他怎么说怎么有理，你没办法。

脸书这类大型垄断媒体自认为可以审核使用者，但是，谁又来监管他们呢？谁在为他们站台，他们背后有没有被谁操纵？我们都不知道！！！！

#一百部纪录片计划#002《网络审查员》

几个事实：

1、网络世界，是一个虚拟世界，它并不是现实世界的本真反应，更像是一个基于现实世界某点的放大镜或者哈哈镜。网络平台，无论是社交媒体、视频网站或者搜索引擎呈现出的内容都是经过筛选和审查的。通过网络看到的世界，是带着滤镜或者有色眼镜看到的世界，但很多人以为现实就是如此，这是一种幻觉。

2、硅谷科技巨头，脸书、推特等，包括国内的字节所宣称的技术和算法中立，是一种谎言，因为这些平台的商业模式是广告模式，获取更多的用户、更多的转发和关注是他们的目的，这必然导致算法推荐带有诱导更多观看和分享的基因，刺激情绪的内容，加强极端言论的内容会有可能获得更多的推荐和传播，算法中立本身是不可能的，正如脸书的产品经理所说，脸书事实上对美国内部极端意见群体的对立冲突，起到了推波助澜的作用。

几点值得思考的问题：

1、如果网络反应的不是一个真实的世界，真实的世界，有善恶美丑，网络为了限制罪恶的扩散和影响，需要把色情、暴利、恐怖等内容进行审查删除。

那么如何界定内容的标准？艺术图片与色情图片、战争新闻与恐怖影像，邪教与神学……如果确定审查的标准与界线？

2、谁有权力制定审查的标准和界线？平台的审查标准和不同国家的法律标准是否足够公开透明？

3、执行审查工作的人的心理健康如何保护？

就如片中展示的，一个人每天2.5万张图片，几乎每个审查员每秒就要审查一张图片，其中会有大量传播色情、罪恶的内容，他们过量摄入了这些恶的东西，就像毒素一样侵入他们的大脑和心灵，冲击着他们对世界真善美的信念，有的人需要通过信仰上帝，用宗教来安慰自己的罪恶感，有的人变得麻木，有的人看了太多自残视频，过于悲伤，申请调岗而不得，最终抑郁自杀……

这些菲律宾的审查员为了相对当地较高一些的收入，以牺牲自我心灵为代价，在“保留、删除”的程序工作中异化自己、奴役自己，在自我美化、自我救赎和自我毁灭中挣扎，这是一份残酷的工作！

很有意味的一点在于，这种残酷的工作以第三方外包的形式存在于发展中国家，而硅谷只是宣称连接美好…就像一个事物的光与影，光辉留给了硅谷与科技创新者，暗影留给贫穷国家的打工者。

技术、媒介是中性的吗？傻子都知道不是。不然也不会有网瘾和杨永信了。

反过来看，而互联网曾经承诺的“连接每一个人”的乌托邦，在当今现实里的大图景到底是什么样子？

社交媒体，在总体上，是否将把我们的世界变得更好呢？

这几年对互联网和智能手机全球性地改变人的行为的嘲讽或自嘲也不少见了。

前不久又爆出脸书向剑桥分析泄露5000万用户而被用来操控选举的新闻。

上个月中下有哥本哈根纪录片电影节，偶然去看了这部 《清理者》The Cleaners。

片中播放了去年年末美国法庭关于 俄罗斯和2016年大选 Russia and 2016 Election Investigations 的调查。法官质疑，这三大公司的内容环境受到国际政治力量的左右，影响选民，以及被用来组织、散播、宣扬非人道的行动。唯唯诺诺中互联网公司的法律负责人（我不确定这里使用的名词是准确的）说到了自己外包了大量的员工来审核内容的事实。而脸书透露出，他们雇佣的审查者居然有数千人之众，而且未来还会继续增加人数。

——这些被雇佣的网管就是本片的主角，他们内部自称为“内容仲裁者”content moderator，所谓的“清理者”。这是一个驻扎在菲律宾马尼拉的公司，而他们的职业对于外界是一个秘密。

影片开始的时候，镜头在一间典型的现代白领办公室里，关着灯，只有一个人操作着一台亮着的电脑，并只能看到这个人面部的局部。背景音不断回放着，“删除”delete/“无视”ignore/“删除”delete/“无视”ignore……随后镜头跟随同一个主角描述ta夜晚上班的场景，穿过熙攘、喧闹、混杂的马尼拉的城市街道、高架桥，进入一栋漂亮的办公楼。在喧闹拥挤的亚洲城市里，做一项秘密却关乎数十亿人口的工作。这就是他们的工作内容，而操作看起来如此的简单，就是审核每天从全世界上传的上百亿的照片、图片，然后决定是要保留还是删除。

脸书内部关于上传信息内容规定的条例相当复杂，关于对暴力、色情的内容判定是否删除的规定，有一百多条。然而在去年被卫报曝出来以前鲜有人知。被采访者包括Google的负责人、工程师，面对镜头，检讨公司创始人们对中性技术的美好设想并没有尽到相关的责任；而另一方面也列出了关于支持自由者的质疑，包括一些内容被删的艺术家、摄影师。

“这些规定也让自由言论倡导者担忧。他们认为，Facebook可能已经成为了世界上最大的审查员，该事实敲响了言论自由的警钟。”

脸书提供的强大平台，涉及了一系列冲突明显的社会问题，包括美国内部的种族，西欧对移民的态度——到底是发泄不满，还是有组织的政治立场，这两者界限模糊。以ISIS为例的恐怖组织也在借脸书宣扬自己的。片中截取的片段。蛋最让我看不下去的是缅甸迫害罗兴亚人，一个母亲对着镜头哭诉自己的家庭怎样被迫害。——这种原本平缓融洽的文化混杂，被西方殖民者弄得互相仇视的例子早就不新鲜了。

传播能力的扩大，既然足够提供人与人的连接，也可以能让人与人更加分裂。爱是可以被传播的，那么仇恨也可以；敌意、仇视、偏见，技术本身不会过滤任何人人心里的东西。

回到清理者们，这项工作是否看起来十分简单？

然而，到目前为止机器/ AI还没有能力处理人类复杂的认知和表达。光是言论，根据不同的语境，是发泄情感还是表达真实意图都难以判断；再加上图像、视频中更加复杂微妙的视觉语言，机器对此无能为力。而这些内容仲裁者也有很大的负担：他们的神经每天要处理25000项图片或视频，而对每一张图片最多只有8秒钟做判断。这对大脑是巨大的负荷。

更糟糕的是，他们要经手的材料大多都是令人不适甚至不安的内容：色情、虐待、战争、恐怖组织的非人道行为——尽管在正式工作之前已经被训练去应对这些内容，但仍对他们的日常生活也造成困扰，也包括道德上的处境。

开头的场景展示了他们的两难处境，深处闹市，却做着全世界的网管，而工作内容也不能让身边的人知道——他们需要一个让自己心安理得的身份，当然也需要这份得体的薪水；他们不得不相信自己确实是在有尊严地维护秩序。很多人也因为上面这些原因放弃了这份工作。

技术到底带来了什么呢？纪录片的好处是，导演呈现给你的是各方视角和立场。这个问题暂且还不会有结论。

它是给我们所有人的问题。

片头片尾，截了两段扎克伯格对公众的演讲；看他如何表情坚定、豪迈地谈论脸书如何能够成就新的未来。

然后片尾字幕亮起，意味深长，留下片场一片唏嘘。

“太可怕了。太可怕了。”

我跟波兰的好朋友聊起感受，感觉出来的大概是对全球网络的这种无序状态和其无解的担忧。——就他所言，人们还是倾向于相信，世界是需要秩序的；但由谁来引导呢？现在的声音越来越多、越来越庞杂，到最后就是谁也不服谁。朋友说，这里为什么美国人会雇佣菲律宾人就很玩味了——菲律宾是个天主教国家，在价值观上跟西方基督教世界更相通。

技术悄然滋生的权力绕过了所有人的眼睛，但信息审查是真实存在的。（你看，我们的互联网环境在世界上也没有那么特殊嘛）

过去的“信息集权”提供了同一套世界的框架；哪怕你要质疑某个事实，要叫骂对着的也是同一个屏幕。而今天每个人都在自己的屏幕里接受现实，在传送到自己眼前的信息流里，营造自己世界的小泡泡——而且老一辈还带着上个时代的惯性：“那么多人都看了的信息，能不是真的吗？”。但外面还有个过滤的大泡泡呢。

信息是种权力无疑；我想对于很多人，这部片的隐喻是，我们以为今天的时代走向的是美丽新世界，其实背后并行着一个一九八四。——反正我对这种自由斗士的论调保持怀疑；有时不免有点“见到短袖子就想到裸体”的意思。

尼尔·波茨曼早在60年代就在《娱乐至死》里说过的话，到今天仍然适用：从有广播、新闻报纸、电视开始，这个世界的行动跟信息比率越来越小了，我们关注的大多跟自己眼前的事实、跟自己的生活无关。大多数事情不需要关注。而这个世界本身运行机制的复杂程度，远远超出一般普通人所能理解；这种理解也许是不必要的。 我们自己，是在为这个世界带来了更多的噪声，还是更多的秩序、平和呢？这个问题，互联网不会回答我们，技术也永远不会回答我们。

靠点击就能得来的东西并不真的属于我们自己。

这个世界会好的。不是因为技术，而是因为我们在把自己变好。

“很多我看过的照片，我都不记得了。”

镜头里呈现出的是一张倒映在玻璃上的脸，而真实的脸却是模糊的、侧视的。因为他在逃避，他在说谎，他无法正视镜头，他不会真的忘记。就像说完这句话之后，他说起了上次直播上吊的男子，还对当时观看直播的观众评论记得清清楚楚。

很难想象在长时间进行这样的工作后，他们会如何看待这个世界？麻木，冷静，PTSD，绝望自杀，或者是像影片中那样，选择继续工作，把它当成一种责任。而在强人工智能时代到来之前，至少还有很长一段时间，网络世界和我们都少不了他们。

冲着这部片子瞄准的主体，我就想给五星。希望能让更多的人知道，Moderator/网络审查员的工作不像大家戏谑“鉴黄师”那样轻松；网络所释放的欢愉和轻松，也只是他们过滤后的简化了的世界。