屏幕背后的……陰影與“幕后之人”

《幕后之人：社交媒體時代的內(nèi)容審核》，[美]莎拉·羅伯茨著，羅文譯，廣東人民出版社/萬有引力，2023年5月出版，248頁，68.00元

美國學者莎拉·羅伯茨（Sarah T. Roberts）被譽為“數(shù)字時代的先鋒研究者”，她在2010-2018年長達八年的時間里持續(xù)展開了對互聯(lián)網(wǎng)公司中的商業(yè)性內(nèi)容審核員群體的工作狀況及生存環(huán)境的訪談調(diào)查與實例研究，《幕后之人：社交媒體時代的內(nèi)容審核》（原書名Behind the Screen:Content Moderation in the Shadows of Social Media，2019）是一部具有開創(chuàng)性的互聯(lián)網(wǎng)田野調(diào)查與社會學研究的專著。作者的調(diào)查對象與研究主題指向全球性的商業(yè)化社交媒體的內(nèi)容審核運作：針對互聯(lián)網(wǎng)上日益巨量而良莠混雜的內(nèi)容，商業(yè)性內(nèi)容審核是必要的工作，因此互聯(lián)網(wǎng)公司要雇用數(shù)以百萬計的內(nèi)容審核員評估社交平臺用戶上傳的信息，篩選和刪除色情、暴力、仇恨言論等不良內(nèi)容。但是由于各種原因，這個工作群體一直隱身于幕后，其游離于社會、薪資低微、勞累過度、精神創(chuàng)傷等生存狀況亦一直未能引起社會關注與療救。莎拉·羅伯茨克服了互聯(lián)網(wǎng)公司保密協(xié)議、地域限制等重重困難，對從硅谷到菲律賓、從專業(yè)審核公司到主要社交媒體的一線員工進行了深度采訪，全面考察、分析了互聯(lián)網(wǎng)商業(yè)性內(nèi)容審核工作的不同類型（短期合同工、專業(yè)公司、外包、零工）及作為“幕后之人”的審核員群體的工作與生存狀況，同時也對內(nèi)容審核與相關政策爭議、對現(xiàn)實影響的關系進行了分析和闡述?！按蜷_了一扇了解內(nèi)容審核這一晦暗不明世界的窗口?！菙?shù)字經(jīng)濟這一關鍵領域的權威著作，必將影響未來幾年的政策和研究?！甭?lián)合國特別報告員大衛(wèi)·凱依（David Kaye）對該書的這一評語是客觀、中肯的。

原著書名是Behind the Screen:Content Moderation in the Shadows of Social Media，其中的content moderation（內(nèi)容審核）在措詞上值得注意，因為moderation原意是“適度；節(jié)制”，用來表達“審核”之意不太常見。就此我和一位青年學子、留美的法律博士討論過，他認為這種用法的確不太常見，Moderation在英式英語中有考試、資格審核的意思；而常用的censorship（審查）不好聽，帶有負面含義，因此換一個不太常用的詞匯，這是互聯(lián)網(wǎng)公司老板喜歡聽的。我想起作者在序言中談到需要創(chuàng)造一個描述性的詞匯，最終決定使用“commercial content moderation”（商業(yè)性內(nèi)容審核）來指代這種工作和現(xiàn)象。（2頁）原著書名直譯是“屏幕背后：社交媒體陰影下的內(nèi)容節(jié)制”，該書中譯本譯作“幕后之人：社交媒體時代的內(nèi)容審核”，強調(diào)了“人”無疑是更符合原著的研究宗旨；另外把content moderation譯作“內(nèi)容審核”更是對的，把被moderation淡化的“審查”之意還原出來。但是也應該注意到在中文語境中的“審核”還是與“審查”不同，而在用戶上網(wǎng)語境中顯然是“審查”更接地氣。這樣看起來，無論原著還是譯本都在書名的用詞上有所推敲，都有一種moderation的考慮。再看看原書與中譯本的封面設計，顯然在設計構思上有很大差異。原書封面是一幅雙手緊緊捂著臉的頭像照片，設計者的意念是突出被遮蔽的“內(nèi)容審核員”群體，這當然也符合原著的研究主旨。問題是如果只看封面就看不出是有關互聯(lián)網(wǎng)的用戶與審核。中譯本的封面設計則不但有鮮明的鍵盤感，而且在這個平臺與用戶之間的界面——親密互動或短兵相接的空間中，突出了“delete”（刪除），標示出隱藏在某地的 “幕后之人”每天、每分鐘最基本的職責，是用戶與平臺之間最接地氣的符號之一。應該說，中譯本的封面設計更有互聯(lián)網(wǎng)平臺與用戶的視覺符號感，也更符合跨文化的閱讀語境和讀者的在地經(jīng)驗。

原著封面

作者在“序言”中說，“本書的目的就是要揭開這層面紗，將審核員和他們的工作公之于世，讓更多人了解到一線審核工作的焦慮和艱難。讀者也能從書中獲得有用信息，從而能帶著更多細節(jié)、更多洞察力去討論社交媒體對于人際關系、公民生活和政治生活的影響。如果不了解互聯(lián)網(wǎng)的幕后運作，我們就很難有效地參與到這類討論之中。”（序言，第2-3頁）這是理解本書主旨的重要提示。但是在閱讀中讀者更容易接受到的信息和印象更深刻的無疑是關于內(nèi)容審核員群體的工作狀況，以及在媒體平臺與用戶之間的商業(yè)性關系，而關于“社交媒體對于人際關系、公民生活和政治生活的影響”則需要更細心留意——這里所說的“影響”指的是在美國互聯(lián)網(wǎng)運營語境中的“商業(yè)性內(nèi)容審核”（commercial content moderation）給用戶參與社交、公共政治生活所帶來的具體影響，實際上就是從社交媒體平臺的商業(yè)性指向了社會生活的公共性和政治性，因而在閱讀中需要在具體內(nèi)容審核案例中獲取這一方面的信息。

所謂“商業(yè)性內(nèi)容審核員”是一群職業(yè)化員工，主要分為短期合同工、專業(yè)公司、外包和零工四種類型。主流社交媒體公司為了吸引用戶，需要創(chuàng)造一個盡可能不出現(xiàn)色情、暴力、仇恨的垃圾內(nèi)容的數(shù)字空間，因而要雇用職業(yè)化的內(nèi)容審核員負責評估用戶上傳的在線內(nèi)容，并決定保留還是刪除它們。更常見的是面對來自用戶的投訴舉報，需要盡快作出審核決定。比如在硅谷的一家大型互聯(lián)網(wǎng)公司MegaTech（化名）每分鐘收到的用戶上傳內(nèi)容多達數(shù)百個小時，只要有某用戶點擊視頻下方那個舉報按鈕，一個自動審核流程便會啟動，“比如運用文本屏蔽詞自動搜索工具來搜索違禁詞（常見于對文字評論區(qū)的審核），通過‘皮膚過濾器’（skin filters）識別圖片和視頻中的大面積裸體來判定色情內(nèi)容（盡管不一定都準確），或者使用一些工具來匹配、標記和刪除侵權內(nèi)容?！蟛糠钟脩羯蓛?nèi)容還是需要進行人工審核評估，尤其是被其他用戶舉報的內(nèi)容”（34頁）。那么，人工審核流程是這樣的：“我們會成批地收到視頻，每十個一組。 對每個視頻會自動生成大約30張縮略圖，這樣你就不需要看視頻的大部分內(nèi)容，一般看截圖就行了。你審核完一組十個視頻后點擊提交，然后審核下一組視頻。我每天審核視頻的數(shù)量大約有1500-2000個。”（78頁）這種工作強度以及對精神的負面影響之大無需贅言，但是在該項調(diào)查案例中的三位服務于 MegaTech的內(nèi)容審核員的年薪只有五萬美元，甚至連這份工作也缺乏保障。除了工作強度和精神受創(chuàng)之外，審核員群體難以在社會生活中獲得身份認同，由于保密協(xié)議、職業(yè)隔閡和工作帶來的羞恥感以及工作團隊往往是分散于各地，他們被迫游離于社會生活之外。因此莎拉·羅伯茨的調(diào)查和撰寫本書的一個強烈的倫理動機就是要為這個“打工人”群體伸張正義：“本書旨在填補以往對商業(yè)性內(nèi)容審核員的忽視，把他們的貢獻擺在與其他那些更廣為人知、更受推崇的知識性工作同等重要的位置?！保?5頁）“我要感謝所有從事這份工作的商業(yè)性內(nèi)容審核員，因為我很慶幸做這些工作的不是自己。我希望他們可以離開陰影處，從屏幕后面走出來，走到有光亮的地方來?！保?94頁）與這種“商業(yè)性內(nèi)容審核員”相比，在全球互聯(lián)網(wǎng)語境中當然還有其他性質(zhì)與類型的內(nèi)容審核員，他們之間既有相同的地方，也有各自不同的處境，要從陰影處“走到有光亮的地方來”的可能性也大不相同。正如微軟發(fā)言人在2013年對全國公共廣播電臺的麗貝卡·赫舍打趣說的，“審核工作是一種‘臟活’”，許多內(nèi)容審核員不會不知道用戶在很多場合中對他們的“delete”行為發(fā)出的絕望詛咒。因此莎拉·羅伯茨的開創(chuàng)性調(diào)查與研究更具有啟發(fā)性意義，更多的“陰影”和“幕后”有待關注網(wǎng)絡媒體內(nèi)容生產(chǎn)的研究者與媒體人揭秘。

說到“感謝”，顯然要在作者所處的互聯(lián)網(wǎng)文化語境中來理解。自從網(wǎng)絡社交空間誕生以來就有內(nèi)容審核，在早期就出現(xiàn)有些用戶社群自行制定規(guī)范和管理的形式、選定自己的網(wǎng)絡管理員，對上線內(nèi)容進行審核。當互聯(lián)網(wǎng)成為全球性的商業(yè)和經(jīng)濟領域的超級巨大信息平臺的時候，商業(yè)性內(nèi)容審核不但變得不可或缺，而且其覆蓋規(guī)模也必然要擴大，龐大的職業(yè)化員工群體的出現(xiàn)也是勢在必行。說“感謝”既是因為這是不可缺少的環(huán)節(jié)，同時更是因為該員工群體所付出的巨大代價和風險。但是莎拉·羅伯茨并沒有讓自己的感受和思考停留在感情與倫理的層面上，而是進一步追問和闡釋更深層次的問題：“我希望可以通過發(fā)掘這些不為人知的中間工作者，來引出這樣一個問題：數(shù)字媒體的幕后還有哪些人存在？我確信我們對數(shù)字媒體當中廣泛存在的人為痕跡所知甚少，如果真的想衡量我們在數(shù)字平臺中逃避現(xiàn)實（escapism）所造成的影響，就必須了解得更多。數(shù)字平臺的特點是有趣、迷人、容易訪問、永遠在線，但我們卻不曾對它們的真實代價進行誠實的評估?！保?92頁）這是對眼睛盯著屏幕的“內(nèi)容審核員”之上的其他人、其他的“人為痕跡”以及整個內(nèi)容審核體制所產(chǎn)生的“真實代價”的追問，讀到這里我們才能更加理解原書名“屏幕背后”（Behind the Screen）以及副題中的“陰影”（Shadows）的深刻涵義。

社交媒體屏幕背后的“陰影”、真正的“幕后之人”以及“代價”，這些都是在全球化互聯(lián)網(wǎng)時代中跨語境的大問題。莎拉·羅伯茨在談到今天社交媒體公司的影響力前所未有、網(wǎng)絡傳播經(jīng)常會對現(xiàn)實世界產(chǎn)生生死攸關影響的時候，舉了一個“令人沮喪且難過的例子”：在網(wǎng)絡仇恨運動的煽動下，緬甸少數(shù)群體羅興亞人（Rohingya）遭受了持續(xù)的歧視和暴力，而這些煽動主要是在Facebook上進行的，最終導致了暴徒們的殘忍殺戮，迫使許多羅興亞人逃往鄰國。作者指出：“而這些言論有可能是緬甸政府為了鞏固政治權力而操縱媒體蓄意策劃的。Facebook這個全世界最大的社交媒體公司，它的商業(yè)性內(nèi)容審核活動能夠有效抵擋這種致命的操縱、利用和宣傳嗎？還是說，由于它身處這個不惜一切代價吸引用戶生成內(nèi)容的社交媒體行業(yè)當中，最終會助長這類行為？”在國家權力操縱下的邪惡行為有意利用商業(yè)媒體傳播信息，作者認為這“對于執(zhí)政者來說是個難以抵擋的誘惑，其他各方也希望利用平臺的能力進行某些未知的宣傳，或者達到其他可能更加邪惡的目的”（181-182頁）。在這種語境中拒絕還是放任， 這是獨立的商業(yè)媒體公司必然要面對的道德考驗。  

但是還有一種更大的陰影來自本國政府與媒體公司之間關系的灰色地帶，后者的內(nèi)容審核政策和在具體案例中的選擇反映了在某種價值觀影響下的自由裁量權，而不僅僅是出于經(jīng)濟利益的考量。比如在MegaTech的全球內(nèi)容傳播中，政治危機、沖突和戰(zhàn)爭罪行是最受人們關注的信息，保留或刪除的決策往往會對現(xiàn)實形勢的發(fā)展產(chǎn)生很大影響。這類事件的內(nèi)容常常是非常血腥和暴力的，明顯與公司的審核禁令相抵觸，“但在當時，那些國家的活動人士唯一能夠上傳內(nèi)容的地方就是這里，所以我們保留了這些內(nèi)容，并附上警示性說明，比如‘必須年滿18歲才能觀看’”（87頁）。這是一種例外的處理方式，莎拉·羅伯茨從地緣政治與國家外交的視角進行了闡釋：“對于與地緣政治沖突相關的用戶生成內(nèi)容，MegaTech的內(nèi)部政策會根據(jù)全球事件和政治立場的變幻無常做出反應。顯而易見，這些政策的制定在政治上是以美國為中心的，因此，選擇保留或刪除某些內(nèi)容的過程，很容易會變成默許或公開支持美國外交政策的過程?！保?8頁）可以發(fā)現(xiàn)，在涉及地緣政治的沖突事件中，國家主義價值觀影響下的審核政策還是比較容易占了上風。那么在國內(nèi)政治事件的信息傳播中，激烈的黨派斗爭當然會在屏幕背后的審核政治中投下更濃重的陰影。按照莎拉·羅伯茨的說法，直到2016年美國總統(tǒng)大選之后，社交媒體平臺的角色以及它們在線傳播的信息才引發(fā)了公眾的廣泛質(zhì)疑?！斑@是公眾第一次如此大規(guī)模地對社交媒體的內(nèi)容生產(chǎn)方式感到擔憂?！傩侣劇╢ake news）一詞進入公眾的話語之中?！保?3頁）這令我感到有點驚訝，在號稱互聯(lián)網(wǎng)技術與傳播網(wǎng)絡最發(fā)達的美國，何以到這時才會引起公眾對網(wǎng)絡信息的傳播、審核與刪除的廣泛關注與質(zhì)疑？有可能這只是作者從她感受最深的公共輿情中作出論述，而不是來自更全面的、歷史性的考量。其實早在二十一世紀來臨之際，關于互聯(lián)網(wǎng)的審查、過濾就是美國法律界與公共輿論的熱門話題之一?！安粌H是具有性的性質(zhì)的材料被《傳播莊重法》一類法律鎖定，而且含有仇恨性訊息的網(wǎng)站也受到了威脅。不是每一個人都與推銷反猶以及其他種族主義觀點的網(wǎng)站的價值看法一致。一些人認為，過濾軟件是一種選擇，有了它就可以將性材料和仇恨性言論統(tǒng)統(tǒng)屏蔽?！欢?，許多專利過濾公司不發(fā)布其被阻隔的網(wǎng)站和搜索條目一覽表，而一直有人暗示一些阻隔行為是帶有政治動機的。在20世紀90年代末的國會中擬議的各種議案，就包括希望選民在公共圖書館可以上網(wǎng)的計算機上安裝過濾軟件的要求?！保òＤ锏戎睹绹侣勈罚捍蟊妭鞑ッ浇榻忉屖贰?，第九版，展江譯，中國人民大學出版社，2004，672頁）可以說明對于網(wǎng)絡媒體平臺的信息傳播的真實性與危害性的警惕早已出現(xiàn)。不過應該承認的是，在2016年美國總統(tǒng)大選后出現(xiàn)的“假新聞”的確成為網(wǎng)絡信息傳播的突出現(xiàn)象。

在今天我們又面臨新的挑戰(zhàn)。人類創(chuàng)造了AI，但是假如AI是以虛假的垃圾數(shù)據(jù)為依據(jù)的話，所生成的內(nèi)容無疑是低劣、虛假的，互聯(lián)網(wǎng)社會媒體平臺已經(jīng)關注了AI生成低劣內(nèi)容的問題。如何制訂相關的審核與限制規(guī)定，以減少AI虛假、垃圾信息的爆炸已成為新的重大課題。可以設想的是，除了在技術上開發(fā)能自動鑒別AI生成內(nèi)容的方法之外，人工審核也將是“內(nèi)容審核員”的新任務。

從美國法律的角度來看社交媒體的內(nèi)容審核，對我們來說也是一個很有啟發(fā)性的思考角度。作者指出根據(jù)1996年的《通信規(guī)范法案》（Communications Decency Act ） 第二百三十條的規(guī)定，社交媒體公司基本上無需對其網(wǎng)絡、平臺和網(wǎng)站上傳播的內(nèi)容負責，但是“這并不意味著社交媒體平臺在控制其網(wǎng)站、應用和平臺的內(nèi)容方面沒有既得利益，相反，它們希望對內(nèi)容進行控制，這是商業(yè)性內(nèi)容審核存在的原因”。也就是說，利益驅(qū)動使媒體公司要自覺進行內(nèi)容審核，而法律賦予的豁免權則使互聯(lián)網(wǎng)獲得自由裁量權，使得公司可以按照自己的利益和標準保留或刪除內(nèi)容（186頁）。但是隨著社交媒體公司的全球化進程，媒體公司不僅要對美國政府和法律制度負責，還要對全球各地的政府和法律制度負責，許多國家都要求它們承認當?shù)氐乃痉ü茌牂嗪椭鳈啵袷禺數(shù)氐姆桑?87頁）。這就是有些國際互聯(lián)網(wǎng)巨頭在我們的視野與關注中變化遷移的時代背景。

實際上，從“屏幕背后”的視角來看，還有一個重要議題作者在書中尚未論述，那就是在美國政府對國內(nèi)人民的網(wǎng)絡監(jiān)控中，媒體公司的選擇與責任。哥倫比亞大學法學與政治學教授伯納德·E.哈考特（Bernard E.Harcourt）敏銳地指出，“在今天的美國，普通公民面臨的是一個全方位的監(jiān)視網(wǎng)絡。社交媒體、零售電商、智能手機應用程序、互聯(lián)網(wǎng)提供商和網(wǎng)絡瀏覽器都在收集我們的隱私數(shù)據(jù)，并提供給情報機構。”“不僅是美國國家安全局，還有臉書、谷歌、微軟、蘋果等機構和公司……對我們私生活進行令人驚嘆的監(jiān)控，向我們營銷。數(shù)字時代已經(jīng)將監(jiān)視能力有效地融入幾乎每一個人的日常生活之中?！保ú{德·E.哈考特《鎮(zhèn)壓革命——美國政府針對其公民的戰(zhàn)爭》，李思達譯，社會科學文獻出版社，2021年，152、158頁）那么，從內(nèi)容審核到公民監(jiān)控，美國政府與媒體公司之間的灰色地帶上的“幕后之人”恐怕就不僅僅是那些可憐的“打工人”審核員，而是還有更多身份不明、雇主不同、行為準則不一、公眾更無從了解的人物角色。

所幸的是，從莎拉·羅伯茨講述她從事該項調(diào)查和研究過程中的研究語境的變化中，我們可以看到除了值得同情和為之伸張正義的審核員群體之外，“屏幕背后”的各種“陰影”也逐步被關注和被審視。那些對美國政府與媒體公司抱有警惕和不懈研究的人“包括民間活動人士、關心互聯(lián)網(wǎng)自由的人、致力于推動言論自由和人權的人、關心勞工福祉的人，還有對互聯(lián)網(wǎng)管轄權、管理、隱私和流程問題感興趣的法律學者……”（180頁）莎拉·羅伯茨于2017年12月在UCLA召集舉辦了首次以內(nèi)容審核為主題的面向公眾開放的會議，與會者包括學者、活動人士、學生、記者、商業(yè)性內(nèi)容審核員等約有一百人。從那以后，一些關于網(wǎng)絡內(nèi)容審核政策和實踐的會議和活動相繼舉辦，“民間活動人士、學者和政策專家已經(jīng)聯(lián)合起來向社交媒體行業(yè)施壓，要求它們在刪除用戶內(nèi)容方面上表現(xiàn)得更加透明，其中最引人注目的是2018年初在圣克拉拉的內(nèi)容審核會議上起草的《圣克拉拉原則》（S nta Clara Principles ）”（190頁）。2018年由莫里茨·里澤維茨（Moritz Riesewieck） 和漢斯·布洛克（Hans Block） 執(zhí)導的紀錄片《網(wǎng)絡審查員》（The Cleaners）在猶他州帕克城的圣丹斯（Sundance）電影節(jié)上首映，莎拉·羅伯茨是這部電影的顧問。從著作到影片，始終貫穿一個核心問題，“那就是我認為任何關于當代互聯(lián)網(wǎng)性質(zhì)的討論都繞不開以下問題：用戶創(chuàng)建的哪些內(nèi)容是允許保留的？哪些要刪除？由誰來決定？決定是怎樣做出來的？誰是這些決定的受益者？”（25-26頁）從邏輯與法律的角度來說，這是讓另一類“幕后之人”暴露在光天化日之下的有效質(zhì)疑。