【編者按】
從元宇宙到ChatGPT再到Sora,人工智能領域的發(fā)展如此迅猛,正在將我們帶入一個普通人難以理解的世界?!皵?shù)字社會”專題由澎湃新聞思想市場欄目和哈爾濱工程大學人文社會科學學院期刊《智能社會研究》合作推出,由人文社科譯者王立秋擔任特約策劃,旨在通過譯介關于數(shù)字技術和人工智能研究的重要文獻,為理解不斷加速的今日世界提供思想資源。
當?shù)貢r間2024年2月16日,比利時布魯塞爾,Sora文生視頻模型正在智能手機上展示。
導論:算法對人類學的挑戰(zhàn)
這里是算法的一個定義:算法是滿足條件指令(if-then conditionals)的標準化方法,通常使用布爾二進制值,在電路上運行,根據(jù)不同的自由度自動執(zhí)行。這樣的定義對社會科學家來說幾乎沒什么幫助,對其他任何人而言亦然。說算法做某些事是什么意思呢?人類學以及更廣泛而言的社會科學應該期望從算法研究那里以及在算法研究之中得到什么?研究算法究竟是什么意思?本文整合了一眾文獻,用于勾勒出怎樣研究算法這一問題的一個可能答案。答案就是,我們應該研究算法的生態(tài)。
學者們已經研究過算法對“注意力”和“癮”的組織、算法對品味的塑造和作為照護和捕捉對象的算法,算法對公眾的塑造。算法也被當作自動化的自學習驅動者和強大的物神來研究。有學者認為算法重新組織了現(xiàn)代的理性和視野。關于算法的研究聚焦于音樂即興實驗室、音樂推薦公司、精確戰(zhàn)爭、約會網站公司、搜索引擎、營銷和網絡分析公司、抄襲檢測軟件、藝術作品和奈飛等。為人類學對算法的研究指路的程序化文本也出現(xiàn)了,現(xiàn)在甚至還多了一篇發(fā)表在《人類學年度回顧》(Annual Review of Anthropology)上的文章。
然而尚不清楚的是,研究算法的人說的是不是同樣的東西。即便“算法”在數(shù)學中的歷史要早于這個詞的出處——穆罕默德·伊本·穆薩·花拉子米(Mu?ammad ibn Mūsā al-Khwārizmī,c. 780-c. 850,譯注:波斯數(shù)學家,Algorithm一詞出自al-Khwārizmī的拉丁文譯名“Algoritmi”),即便杜里什( Paul Dourish)在2017年寫到它的流行“只是幾年前的事”,它現(xiàn)在已經不再只是一個純粹的技術術語了。算法可以被視作欲望和焦慮的占位符,可以是想象,也可以是文化。研究算法的社會科學可以說面臨著“對象”是什么的挑戰(zhàn)。算法是施動者還是模式,是文化還是物質,是主體還是對象物,是內生過程還是外生環(huán)境?一種策略是思考算法之“多”,從“(單數(shù)的)算法”轉向“(復數(shù)的)算法系統(tǒng)”或“算法組合體(algorithmic assemblages)”。那些在詞匯上把糾纏在一起的異質的東西單數(shù)化的策略,并沒有減輕觀察算法的難度。算法的特征是難以捉摸和不透明。它們是黑箱,即使僅僅因為它們是專有技術且難以定位,就使它們在民族志層面上變得復雜了。算法的展演性也放大了“對象”的挑戰(zhàn):算法會對人類學關心的其他對象產生影響,范圍包括對種族、市場或媒介的比較和分類。
在這篇綜述中,(受林雪平大學算法研究網絡討論的啟發(fā))我回避了通過“掀開罩布”來“把握算法”、打開算法的黑箱以便分析算法顯現(xiàn)/配置的多重關系的欲望。我將通過探討我稱為算法生態(tài)樣式的相關現(xiàn)有研究,來概述生態(tài)視角的組織要素:基礎設施、想象、界面、身份以及投資與利息——的工作,來概述一種生態(tài)視角的組織要素。這里提出的推測性觀點是,算法內在于生態(tài),并在所有這些樣式中運行。這篇綜述主要基于用英文寫作的研究,這表明作者在語言上的局限、英美的學術霸權和“算法社會科學”這一特定學術風潮的政治地理狀況。
當?shù)貢r間2023年7月26日,德國卡爾斯魯厄,一名中學生坐在電腦前使用ChatGPT。
算法與文化/作為文化的算法
研究算法的人類學經常圍繞黑箱展開探索然后空手而歸。就像有學者在多次關于算法的會議上指出的那樣,學者們經常發(fā)現(xiàn),算法是令人困惑的研究對象,難以把握,甚至很難定義。就像烏里奇奧(William Uricchio)寫的那樣,“‘算法’這個術語似乎召喚出了多到和它簡單的意思不相稱的回應”。但從人類學的角度來看,意思簡單絕不是微不足道的,它是一種在多個語境下都不穩(wěn)定的復雜成果。此外,西弗(Nick Seaver)展示了軟件開發(fā)者也經常沒法向民族志學者指出對象。同時,臉書用戶已經意識到算法的運作了。而且,還有廣泛存在的專有權的黑箱操作,因此盡管自相矛盾,一定存在可識別的算法,它的隱形化和神秘化是根據(jù)法律施加的。
一種明顯人類學式的做法是把算法當作文化來考慮。杜里什就討論過一種“算法文化”,在這種文化中,算法以這樣的形象出現(xiàn):它塑造了文化的產品。哈利南(Blake Hallinan)和斯特里法斯(Ted Striphas)通過分析一場旨在提高奈飛推薦系統(tǒng)準確性的競賽,展示了算法信息處理是怎樣改變人們對文化的構想的。斯特里法斯認為,算法做的是整理、分類和排序,這就是文化本身,“算法文化”從中興起。西弗也提議不要認為算法包含在文化之中,而應該把它看作文化本身,即“形形色色的人類實踐導致的多重后果”,這里的“文化”指的不是一個物體,而是“人們做的事情”。但通過把算法納入現(xiàn)代人類學的主人能指(master signifier)來解決定義問題也有其局限性,因為這樣的做法同樣缺乏定義上的精確,并且主要達到的是學術圈地的目的。
一種選擇是把算法當作模式化的技術來考慮,這對研究“遵守規(guī)則”的人類學提出了挑戰(zhàn)。眾所周知,布爾迪厄曾在維特根斯坦的基礎上反對 “規(guī)則謬誤”,反對把默會知識法典化,認為那既是唯智論的、又是決定論的做法。但或許,算法作為編碼化的規(guī)則引入的,正是被布爾迪厄斥為“實踐規(guī)律背后的幻象”的類似規(guī)則的元素。當然,編碼化的規(guī)則無處不在;數(shù)十億人擁有隨身攜帶的算法設備(智能手機和其他圖靈機器),這些設備影響著他們的注意力,并以可被商品化的數(shù)據(jù)的形式捕捉他們的實踐。與維特根斯坦的想法——規(guī)則的特征是沒有能力決定其應用——一致,對于這個問題,人類學的答案依然是,算法既作用于被它們參考、指向的生態(tài),又被這個生態(tài)所作用,在遞歸算法的間隙中有偶然性和能動性,因而帶來的是互動而不是單方面的行動。
也許,把算法解釋為文化的做法說明人類學也可以被當作一種算法:輸入民族志數(shù)據(jù),它就會產出作為輸出的“文化”。同樣可預測的是,社會學也有談論“算法社會”(Jenna Burrell and Marion Fourcade)或“黑箱社會”(Frank Pasquale)的同等做法。但算法纏繞體(algorithmic entanglements)既在經典的“文化”與“社會”領域之外,也在這些領域之下。出于這個原因,我提議從生態(tài)的角度來看算法纏繞體。
一種算法的生態(tài)學
從生態(tài)的角度來思考算法纏繞體意味著,把它們看作“環(huán)環(huán)相扣的偶然性電路”(interlocking circuits of contingency),其中內在性優(yōu)先。貝特森(Gregory Bateson)認為“計算機只是一個總是包含一個人和一個環(huán)境的更大電路中的一個電弧”,對算法來說也一樣。各種生態(tài)概念已經是媒介和傳播研究、數(shù)字環(huán)境研究、知識生產、大數(shù)據(jù)基礎設施、基礎設施研究、機器人學和建筑機器人學以及泛在計算等領域研究現(xiàn)狀的一部分了。不應把生態(tài)理解為某個穩(wěn)定的東西(比如說,“文化”或“社會”)的“環(huán)境”,而應該把它理解為一個“糾纏的領域”,一種力量與效應的動態(tài)構成。生態(tài)的視角關注實踐與空間的分布特性。它不會給生態(tài)中的任何構成元素本體論的首要地位,而聚焦于它們作為持續(xù)完成的糾纏涌現(xiàn)。就像喬伊(Timothy Choy)寫到的那樣,生態(tài)標志著“構成的、構成中的部分之間關系的涌現(xiàn)網絡”。他補充說,生態(tài)不是既定的,而是“通過科學的(生態(tài))研究被設定和建立的”。這個“建立”必然是政治的。它標示出這樣一個構成任務,這個任務總會引出關于本體論政治的問題,它的第一步,是拒絕事先知道世界是由什么構成的。
生態(tài)的視角能讓探索算法的人求而不得的東西變得更容易理解。一個有用的類比,是把算法看作生態(tài)中的液泡(vacuoles)。德勒茲曾在與托尼·奈格里的談話中用生物學的“液泡”概念來描述“傳播不通”或“電路中斷”的地方(places of noncommunication or “circuit breaker”)。液泡是細胞的細胞質中被細胞膜包圍的隔室。液泡包含、隔離、輸出或延遲分子,以及最重要,它們篩選、排序和選擇。(在運作上而非實質上)把算法當液泡將意味著在解釋它們的難以捉摸的同時強調這樣一個事實,即雖然算法被認為有很大的能動性,但它們的作用方式更像斷路器或至少是電路擾動器,而不是導管。算法液泡是創(chuàng)造性的,但它們的創(chuàng)造方式是非傳播性的、難以捉摸的和不透明的。我們因此而避開平滑的幻想,并保持對摩擦的關注。算法對控制來說不是平滑的通道或門戶,而是電路擾動器和斷路器,就像在??履抢铮瑱嗔νㄟ^像身體那樣的通道點來運作,由此構成了阻力和抵抗。這使我們關注這一事實,即需要再做點什么,才能讓算法成為控制或監(jiān)控的力量。就像在細胞中那樣,算法液泡的膜是關鍵,我們可以把這些膜理解為糾纏的集合,比如說,基礎設施、界面或想象。
作為一種馴服算法對象的挑戰(zhàn)的方式,生態(tài)概念意味著嚴肅對待觀察者依賴性 (observer-dependency)。它也向斯唐熱(Isabelle Stengers)提出的宇宙政治諭令開放,賦予算法以力量,使我們以問題化的方式感受和思考我們自己對算法的關注和承諾。要做到這一點,一種方式是要認識到算法在其中顯現(xiàn)并且不可避免地以多種形式顯現(xiàn)的不同的生態(tài)糾纏或部分關聯(lián)。我把這樣的糾纏稱作算法生態(tài)的模態(tài)。我從分析角度區(qū)分了五種這樣的模態(tài)并回顧了相應的文獻,它們是(a)想象、(b)基礎設施、(c)界面、(d)身份和(e)投資與利息。這里的推測性觀點是,算法內在于這些生態(tài),并在所有這些模態(tài)中起作用。
想象
算法有柏格森和德勒茲所說的“虛構功能(fabulative function)”。它們有助于塑造和縮短社會想象中的無限回歸,但(自相矛盾的是)它們又是以遞歸的方式這么做的。虛構——有選擇地想象和意象化、造出可看的和可說的東西的方式——是算法的構成部分,而想象的共同體也以算法為中介,這個例子也說明了,公眾是怎樣通過算法被構造出來的。在這里,我們應該避免“揚棄”的辯證欲望,對由此而來的生態(tài)糾纏的切入點的多樣性表示歡迎。然而,即便與帝國主義基礎設施同步進行,這種社會想象力業(yè)需要置于主要是西方計算理性的歷史之中,而不是為諸如約魯巴邏輯數(shù)學所獨有。算法想象可以被看作一種特別的“社會技術想象”(Sheila Jasanoff)。然而,像賈薩諾夫這樣的概念有對想象的共識基礎施加不適當限制的威脅。查爾斯·泰勒(Charles Taylor)著名的構想——“社會想象是使共同實踐和一種廣泛共享的合法性認識成為可能的那個東西”——也一樣。想象指向背景性理解,但這些理解不一定像賈薩諾夫假設的那樣是人們“集體地持有的”,也不一定像泰勒堅持的那樣,“是大群的人甚至是整個社會共有”和“共享的”。這些到現(xiàn)在已經成為經典的構想過于依賴一種共識性的世界觀,即便這樣的世界觀在歷史上是不太可能的。想象不需要共識和共享的理解也能存在;有共享的誤解、沖突和爭論就夠了。
由公司和治理機構提出的算法想象是對“加州意識形態(tài)”的重新表達。我們可以把它們展示出來的那個東西稱作一種智能的超凡魅力,它通過聯(lián)合效率、烏托邦式的問題解決方案、創(chuàng)新、自由、參與和可持續(xù)來動員欲望、期待、思辨和計算。因此,摩擦(friction)在想象中與“無縫”(seamlessness)相對,并被轉化為“無縫”。無效率變成了優(yōu)化。延遲被虛構為實時、物質被虛構為虛擬、故障被虛構為代碼,非法入侵(hacks)被想象為(安全)控制和優(yōu)化時被(重新)挪用。在被體驗為“智能”的時候,復雜性也被想象為來源(sources)而非限制。智能城市、智能之家和物聯(lián)網(IoT)是這種算法想象的主要場所,物聯(lián)網有時以所有物體的網絡連接的元想象的形式出現(xiàn)。舉例來說,“智慧城市”并不是一座城市,而是一種想象,由往往是零散的、不均衡的傳感技術拼湊而成。智能的超凡魅力的吸引力在于,它把物變?yōu)榭蓛?yōu)化的對象,且(不)可被公眾關注,使各種問題變得相當,超越對抗,甚至超越(對抗性的)商議。優(yōu)化是一種允諾邏輯。它有誘惑力,因為它把問題去政治化,推遲問責,并以超凡魅力的方式為之,把硅谷標志和游說的平滑和城市規(guī)劃者的計算甚至是人類學會議上幻燈片的華而不實關聯(lián)起來。
智能的超凡魅力經常與一種關于實驗性的政治想象相伴。實驗性在物質上表現(xiàn)為像“實驗室”那樣的形式,如大量出現(xiàn)的“城市實驗室”(urban labs)、實驗臺(test beds)、原型(prototypes)、實驗(experiments)、仿真(simulations)、模型(models)、場景(scenarios)、演示(demos)、探索、試驗或版本(explorations, trials, or versions)或試點(pilots)。實驗性經常被當作公共政策的策略來部署,它是一種時間性的技藝,它懸置歷史并建立一個內在的時間框架。它通過把未來編碼為優(yōu)化的當下的重復,體現(xiàn)了一種物流的邏輯,比如說在商品和服務的動態(tài)定價系統(tǒng)中和在對智慧城市的計算再現(xiàn)(把它再現(xiàn)為無縫流通的空間)中那樣。類似的,在軍事語境下,人們在稱贊“以網絡為中心的戰(zhàn)爭”時,也會稱贊算法戰(zhàn)爭表面上允許的“態(tài)勢感知”和“精確性”的提高。而技術戰(zhàn)爭、人道主義和帝國的視覺政治,也在格雷瓦爾(Inderpal Grewal)所說的“無人機想象”中找到了表達。后勤邏輯的一般化也使這些軍事技術向公民生活的擴散成為必然。
智能和優(yōu)化的想象也在這個意義上——算法日益在算法排序的世界上運行,經歷新的迭代和遞歸操作——有著述行后果。當世界變成自身的模型,政治就可能變成錯誤、摩擦或僅僅是修補或試驗新版本的參數(shù)設置。既然演示永遠在展示,那么“失效(failing)”也就能夠取代“失?。╢ailure)”了。
緊接在充滿“智能的超凡魅力”的對算法計算的想象之后,有時與這種想象同時發(fā)生的,是“算法的焦慮”。確切來說,這些焦慮出自于算法的被虛構和(主動)虛構性,出自于算法作為液泡的不可捉摸和不透明以及它們廣泛的生態(tài)效應(作為擾動器和斷路器,也即作為有選擇性的執(zhí)行操作者)。就像西弗在希門尼斯(Alberto CorsinJiménez)的基礎上做出的富有洞見的人類學分析中展示的那樣,把算法想象為陷阱是很常見的。而陷阱也可以被想象為算法的(遞歸)理性本身,這激發(fā)了斷開聯(lián)系和終止開關的欲望。但一切算法想象都有陷入技術決定論的危險,后者會取代算法技術的偶然的歷史,并把它們和比如基礎設施等的糾纏隔離開來。
2024年2月17日,人們通過手機和電腦查看OpenAI公司的Sora產品。
基礎設施
基礎設施可能和算法一樣隱形,但就像拉金(Brian Larkin)論證的那樣,基礎設施也同樣會近在眼前。這兩種情況都是真的,因此也就有了基礎設施的正反性(obversity):基礎設施既是正面又是反面,既是前臺又是后臺?;A設施既可以被看作基底系統(tǒng),又可以被看作流通架構?;A設施是讓其他物質動起來的物質網絡。它們是持久的,但需要持續(xù)的工作——比如說,維護和維修工作,或協(xié)調創(chuàng)造和維持基礎設施涉及的不同行動者所需的那種工作——才能持久。作為“裝置技藝”,基礎設施不但由管道、線纜、道路、硬件或電線構成,也是一堆“技術、技藝、行政程序和文化形式”。
算法生態(tài)涉及各種標準、代碼、(元)數(shù)據(jù)、協(xié)議和命名規(guī)則/分類、線纜、渠道、設備、數(shù)據(jù)中心、廢物處理、勞動、知識專利權在基礎設施中的糾纏。因此,算法生態(tài)就基礎設施而言是異質的,或者說是“多元基礎設施的”。但就算基礎設施需要對物質和(深層)時間的關注,基礎設施也是觀察者依賴的。從一個角度來看是基礎設施的東西,從另一個角度來看可能是界面(比如說中繼設備或應用程序接口[API])。
所以,雖然基礎設施是一種關鍵的算法生態(tài)模態(tài),但哪些基礎設施元素重要取決于特定的生態(tài)時刻,因此我們不能認為基礎設施在我們采取特定觀察者立場之前就是固定的或被給定的。比如說,在算法驅動的傳感執(zhí)行器中,感應、決定和啟動都會利用和激活不同的基礎設施群。在無線傳感器的生態(tài)中,標準(例如IEEE 802.3以太網標準或設備的MQTT標準協(xié)議)和把關人算法可能永久相關,但許多算法只在極其特殊的情況下起效。所以,不能認為基礎設施是一個既定的基礎層。問題毋寧說是特定基礎設施是如何、于何時與其他算法生態(tài)模態(tài)元素的拓撲前景結合,從而變得重要。在一些場合下,傳感器硬件至關重要,比如說,在面部識別系統(tǒng)的表現(xiàn)取決于表型的時候。在其他情況下,代碼才是關鍵,就像在武器化無人機(也即無人駕駛的飛行載具)的瞄準算法的內置偏見受到質疑的時候。同時,把注意力集中在基礎設施上能讓我們看到各種完全不同的勞動場所和各種無形的勞動形式(比如說離岸的編程活動;算法從金融市場向城市治理的行進;廢物、回收和維修管理與勞動力),這些東西經常被公眾探討所忽視,但對算法生態(tài)的政治顯著性來說至關重要。因此,何以基礎設施重要這個問題關乎本體論層面上的政治。
有時,這樣的政治相當平庸,而算法出現(xiàn)在基礎結構的“(下流)場景”(ob[scene])中,可以凸顯基礎結構也可能意味著結構性的愚蠢。比如,當前大學里關于ChatGPT可能引發(fā)潛在的抄襲行為的警告和這樣一種基礎設施是分不開的。這種基礎設施要求考試和打分,并把考試和更廣泛而言的教育設定為“以數(shù)字為中介的”。在這里,和在任何地方一樣,另一種基礎設施是可能的。但因為學院行政管理人員——不幸的是,在這點上,很多學者也一樣——往往更喜歡(通過考試和打分來)管制學生,享受數(shù)字測驗的成本效益,所以,人工智能才帶來了問題。而在不同的基礎設施條件下,這些問題可能根本就不會出現(xiàn)。在某個點上,優(yōu)化的計算可能反過來,對那些被插入優(yōu)化的基礎設施,同時又號稱要做一些實質性的事(比如說,教育年輕人)的機構不利。
的確,在德勒茲所說的“控制社會”中,基礎設施的力量已經從容器轉向了流通,或者說從框架轉向了平臺。它也從時空(規(guī)訓)模具轉向了持續(xù)的調節(jié)。因此,基礎設施的物質性是廣闊可塑的,而不是封閉固定的,但它也有它的基礎裝置。它們可以是和插座標準一樣平凡的摩擦場所,也可以是像斯塔羅謝爾斯基(Nicole Starosielski)在她對南太平洋的網絡電纜的研究中說明的那種斗爭場所,強調基礎設施與殖民性之間的糾纏。在這兩種情況下,計算的力量都是關鍵,因為計算資本主義(logistical capitalism)催生了由服務于效率和積累優(yōu)化的算法計算驅動的安全化和軍事化的流通走廊。
界面
基礎設施引出了開放和控制的問題,這個問題指向界面扮演的至關重要的角色。界面治理著人與技術之間的關聯(lián),因此被當作寶貴的人機互動的民族志田野點。界面既是歷史塑造的物質對象和效應,也是調節(jié)關系軌跡的中介區(qū)域。界面不只是中介者,它們也制造和賦能。界面校準交換條件。它們是人與非人施動者的中介空間,涉及歷史情景中的主體性形式。界面喚詢主體。比如說,界面中的再現(xiàn)邏輯共同設定了用戶的主體性并調節(jié)著用戶的反應。在本體論上,界面是關聯(lián);在認識論上,它是簡化。合起來,我們可以把界面看作閾限和轉化區(qū)域。
像訪問或概覽屏幕、控制面板或進程切換那樣的界面經常會把算法生態(tài)中被監(jiān)控的進程模塊化——一個對計算運作模式來說典型的拆分、合并和簡化的過程。近來的研究聚焦于像控制屏幕和控制面板那樣的圖形用戶界面(GUIs)和控制室和操作中心。界面為這個問題提供了線索:人是怎樣通過具身的互動融入算法生態(tài)的。算法表達并調節(jié)主體的可供性。這些主體可能是有權限訪問能夠重新校準算法的界面的專家。界面也提供了研究對算法生態(tài)的設計和激活這些設計的欲望(比如說,對無縫的、對模塊化秩序或對聯(lián)網環(huán)境中的私密性的欲望)之間關聯(lián)的場所。因此,界面處在基礎設施和想象的十字路口上,因為它們是系統(tǒng)使自己顯現(xiàn)的方式,但恰恰通過有選擇地組織可見性,系統(tǒng)又把自己藏起來了。下拉菜單在提供選項的同時進行限制,定制化也有其限制,因此需要在通用性和專用性之間權衡。通過再現(xiàn)的重復,界面也在訓練對各種參與形式的接合與拆分。通過提供選擇性的訪問,界面使選項隱形,這也是基特勒(Friedrich Kittler)關于計算機不是光學媒介的想法的一種表現(xiàn)。這也是為什么根據(jù)在生產的地方斗爭這一準則,界面是抵抗和即興的場所的理由。
人機界面不是唯一切題的界面。還有形形色色的非人類行動者之間的界面?;A設施內部所有種類的開關和中繼器(比如說,跨傳感器節(jié)點、取貨點和網管)以及居間形式的代碼(如應用程序接口)對于算法生態(tài)的配置來說都很重要,比如說,它們保障了互操作性(interoperability)。在被想象為物聯(lián)網的那個東西里,甚至更多的物獲得了各種形式的生態(tài)意識,變得具有界面性。但平臺的崛起意味著應用程序接口的訪問受限,這又縮小了界面的范圍。在不同層面的抽象之間充當中介的應用程序接口的例子也說明了界面在形成規(guī)模上起到的作用。因為算法生態(tài)是拓撲總體(topological ensembles),所以,它們“在哪兒”取決于規(guī)模,規(guī)模從來都不是自然給定的,而是作為界面、開關或中繼被“做出來”的。因此,界面通過校準可供性來過濾選項、構造關聯(lián)并使基礎設施顯(隱)形。
身份
我用“身份”這個簡稱來指算法生態(tài)中出現(xiàn)的主體位置,這主要是出于押韻的考慮(譯注:英文中identities和imaginaries, infrastructures, interfaces以及invests and interests押頭韻)。算法生態(tài)能夠以特定的方式配置主體位置,而主體也有抵抗或修正生態(tài)賦予的可供性的策略。正如全球定位系統(tǒng)(GPS)對因紐特人尋路的影響所說明的那樣,數(shù)字技術的使用可以從根本上改變人們體驗世界的方式。但這個聯(lián)系從來不是決定性的。技術增強的環(huán)境“以高度具體、在地和物質的方式擴展了如果沒有電子假體就無法實現(xiàn)的具身意識”(N. Katherine Hayles),但各種形式的身份或主體性并不是這樣的意識所賦予的。相反,它們在不同模態(tài)之間的縫合空間展開。因此,將“用戶”等一般概念去自然化是關鍵所在。一種方法是考慮用戶是如何被“配置”的,例如在可用性試驗中;另一種方法是追溯這些身份的譜系,這些身份與基礎設施或想象等高度糾纏在一起。比如說,網絡計算機用戶構成了一個主體位置,這個主體位置是隨時間共享技術而變得可能的??刂泼姘澹ń缑妫┌阎黧w視覺化為“既有需求又有控制權的”。企業(yè)策略想象將公民、決策者和企業(yè)家模糊處理。當代的消費者身份則是被軍事、計算邏輯塑造的,地理信息系統(tǒng)和全球定位系統(tǒng)被用于 “目標定位”。類似地,“他者”在對感覺和行動的戰(zhàn)爭模擬中被設定,這模糊了物質的和虛擬的邊界。
智能家居
身份配置的一個例子,是智能家居將住戶配置為房屋的管理者,而房屋被重構為一堆程序。接下來的問題是,還有什么其他主體地位成為了可能,例如,通過主張“基礎設施權”占用房屋或城市的延伸部分。因此,算法生態(tài)中的主體性具有實踐情景化和片面性的特點。這些是一切主體性的一般特征,因為,就像福柯教導的那樣,從來就沒有什么主體(subjects),有的只是主體化(subjectification)。但算法計算和設備致動的循環(huán)發(fā)生的速度之快使主體位置特別不穩(wěn)定和有彈性。我不用手機,十多年里發(fā)展起來的對用手指在觸屏上點來點去(或在小窗口上劃來劃去)的普遍上癮一直讓我感到驚奇,它看起來讓“用戶”概念又多了一個意思。算法隨身設備在日常生活中的常態(tài)化,預示著算法媒體在很大程度上可能不是麥克盧漢式的 “人的延伸”,而是屬于人類的自我本身。
但在這里,“人”是一個過度寬泛的范疇。通常,這里的“人”指的是人類的某個特殊歷史模態(tài),溫特(Sylvia Wynter)所說的“第二種人(Man2)”,即特定類型的、現(xiàn)代的、生物中心的、受過度代表性的自戀影響的經濟人(homo oeconomicus)。它表明殖民性和種族作為基礎設施只讓特定主體能夠被識別為人的運作方式。這提供了一種有力的描述算法如何對主體進行排序和配置的方式。與其擔心“第二種人”人類學普遍帶有的“偏見”,指出了現(xiàn)代技術生態(tài)中有待檢測和糾正的不一致,我們需要強調種族和白人至上是怎樣從根本上內生于電子基礎設施的。它們應主要被視為種族主義人口管理手段的創(chuàng)新,與性別分化和統(tǒng)治交織在一起,正如布朗(Simone Browne)在寫到 “監(jiān)視對黑人來說并不新鮮”時所明確指出的那樣。與偏見做斗爭就是與作為常態(tài)的種族資本主義做斗爭。就像本杰明(Ruha Benjamin)寫到的那樣,“算法的中立再生產了算法維持的歧視”。杰弗森(Brian Jordan Jefferson)則把智慧城市技術放入種族資本主義更加漫長的歷史中考量,指出“算法治理是白人至上主義政治經濟學的最新載體”。算法可被看作塑造城市中種族化紅線的“格式”。對主要寫美國的本杰明來說,這個概念在“新吉姆代碼(New Jim Code)”中得到表達。算法可以作為日常本體論等級化的自動裝置,在工作招聘算法的歧視、種族定性和預測性執(zhí)法、醫(yī)療決定的種族化、面部識別算法中的白人至上偏見或算法和生物統(tǒng)計學的邊界構造等方面中出現(xiàn)。最近出現(xiàn)的一個不祥之兆是,一個由人工智能創(chuàng)造的有著黑人女性外貌的超級模特登上了《Vogue》等雜志。它的創(chuàng)造者是一個白人男性,這不但標志著一種對白人剝削黑人(文化)生產的漫長歷史的重復,也標志著一個可能的新階段,在算法上黑人對這種剝削的參與已經變得多余。同時,這個黑人臉蛋的算法化身又可以被呈現(xiàn)為是在制造“多樣性”。我們不禁懷疑,呼吁“算法平等” 是否意味著對改進想象的投入最終以算法手段重復了種族資本主義。至少,在最近荷蘭關于兒童福利的丑聞中看起來是這樣:荷蘭稅務機構通過算法選擇性進行所謂的福利欺詐檢測,而被選中的人大多是屬于有色人種的單親媽媽。甚至在丑聞發(fā)生后,荷蘭也還在繼續(xù)以種族化的方式使用像SyRI那樣的定性系統(tǒng)。我們面對的不是算法的偏見,而是通過算法手段來維持的種族資本主義。
由人工智能創(chuàng)造的有著黑人女性外貌的超級模特登上了《Vogue》
投資與利息
第五種也是最后一種在這里被討論的是投資與利益模態(tài),指向資本和控制,也即算法生態(tài)中政治經濟學所扮演的角色,以及這樣的生態(tài)對資本積累的貢獻。不過,這也是關于算法的文獻中幾個分支分道揚鑣的地方。貨幣人類學依然關注算法技術如何重構實現(xiàn)統(tǒng)一標準衡量的方式——通過支付實踐、特殊目的資金以及莫勒(Bill Maurer)所謂的像M-PESA那樣的“移動貨幣”。但這項工作和致力于研究階級與計算機化的關系的政治經濟學研究關聯(lián)不強。即便馬克思本人就已經指出自動化的重要性(最終有助于破壞資本主義),也有研究者指出當前已超越資本主義的以信息為中心的經濟,但關于算法的大部分研究并沒有采取基于階級的視角,這也引出了和社會科學家對所謂 “編程精英”的研究的關系問題。對研究算法的人類學家的行業(yè)從屬關系和資金來源的政治經濟學分析還沒有出現(xiàn),盡管在他們當中這些問題顯然要比研究種族或性別的人類學更常見。
雖然號稱要去中心化、開放和共享,但基于網絡的技術實際上涉及新形式的利潤、權力和控制。對主權和云計算基礎設施的重構超越了“數(shù)據(jù)的政治”。關鍵是要概述算法生態(tài)是怎樣被以私人和公共行動者(包括社會科學家)混合的方式進行治理的,重新定義公共和私人這些概念本身,思考其中表達、保留的經濟和政治特權。這樣的概述也涉及一些測繪工作:測繪企業(yè)在算法生態(tài)中的利害關系和知識專利權的法律架構。就像在有影響力的智慧城市定義中那樣,算法生態(tài)還凸顯出一種新自由主義的對企業(yè)家精神和靈活性的想象。
因此,投資與利息的模態(tài)也指向金融化、投機、杠桿和風險資本在算法生態(tài)中的作用。這要求我們關注在公民作為貨幣化過程的數(shù)據(jù)來源進行無償勞動的時,監(jiān)控是怎樣通過公民的非物質勞動和貨幣化關聯(lián)起來的。社交性本身也成為榨取和積累的來源,因為在 WhatsApp 上與所愛之人聯(lián)系既意味著從事無償勞動,也意味著成為榨取的來源。從這個角度來看,算法管理著生命勞動(living labor)和抽象勞動之間的聯(lián)系。因此,算法生態(tài)在當代積累中占據(jù)一個關鍵節(jié)點,即被其配置的政治經濟塑造,也反過來塑造著政治經濟。人們日益通過算法來完成租金提取和對(總是人為制造的)稀缺性的校準。在這個過程中,工人變成數(shù)字無產階級的一部分。這使不穩(wěn)定勞動的一般化成為必然,現(xiàn)有的抵抗方式(如組建工會)也隨之而失去了效力。
對“認知資本主義”的分析指出,金融化、“非物質勞動”、心智和“一般智力”在剩余價值的數(shù)字生產中所起的作用。但重要的是,也要考慮到維護、分配、廢物處理工作和原材料提取等物質勞動,正是這些往往隱形的物質勞動維持著非物質勞動。算法生態(tài)中的這種基礎設施勞動要求我們關注維持其工作的擴展地理環(huán)境,和由此而來的經常是性別化、種族化的可供性和排斥。比如說,維護、分配和廢棄的計算是當代統(tǒng)治形式的關鍵。對“認知資本主義”的診斷似乎沒有觸及更加悠久的種族資本主義的歷史和原始積累的持續(xù)相關性,算法生態(tài)則有助于把這些也納入分析。自由派學者對于隱私的完全可以預見的專注也一樣,這種專注復制了對自有個體的欲望。算法生態(tài)要求不放棄對自身位置的交叉分析。
結論:測繪生態(tài)
為應對算法人類學中“物”提出的挑戰(zhàn),我勾勒了五種算法生態(tài)的模態(tài)。想象、基礎設施、界面、身份和投資與利息提供了研究算法生態(tài)的五個切入點,而我勾畫的推測性觀點是,算法內在于一種糾纏的生態(tài),并在算法生態(tài)的所有模態(tài)中起作用。換一種斯賓諾莎式的說法就是,一個算法,多種模態(tài)。因此,和這些模態(tài)一樣,算法也是觀察者依賴的,這就意味著,就像詹姆斯(William James)說的那樣,“同一個物質對象,可以同時在無限多個不同的過程中出現(xiàn)”。在這里,一種實用主義的視角是有用的:對社會科學家來說,用我在本文開頭引用的話來定義算法幾乎沒什么意義。一切從社會的角度來看重要、從政治的角度來看緊迫的東西,都是在生態(tài)的糾纏中發(fā)生的。
在把算法生態(tài)的不同模態(tài)納入考慮的時候,我們會發(fā)現(xiàn),算法生態(tài)更多的是拓撲性的而非地理性的,其恒定性在于其模態(tài)的遞歸更新。我們可以把這些模態(tài)看作糾纏的拓撲折疊。甚至像智能手機那樣的身體穿戴設備也不會占據(jù)嚴格的地理位置。作為定位設備,它們隨穿戴設備的主體的運動而拓撲地擴展和收縮。類似地,城市自動化網絡配置的空間也會隨像網絡類型、傳感器節(jié)點、傳感器通知周期、回程和網關那樣的基礎設施元素而發(fā)生變化。而上面提到的所有那些基礎設施元素又會隨例如電力供給決定或路徑要求而發(fā)生變化。作為拓撲結構,算法生態(tài)可以被測繪,但這個測繪永遠是暫時的。在民族志之后、作為對民族志的補充,測繪可以是一種受媒介考古學啟發(fā)的“深層測繪”,也可能涉及“數(shù)據(jù)行走(datawalking)”和App使用的細致考察。測繪這里概述的模態(tài)可能得出一幅“i地圖”(如果未來的生態(tài)演化還允許頭韻存在的話)。
算法生態(tài)的概念不假設一組嵌套的、邊界清晰的環(huán)境,或一個萬物互聯(lián)的籠統(tǒng)概念。這不意味著退向西弗所說的“模擬槽(analog slot)”:把“數(shù)字”和“模擬”、把機器和人對立起來。相反,它意在對被我稱為算法生態(tài)的模態(tài)的那些糾纏的(不)共通性保持敏感。這樣的生態(tài)是支離破碎、充滿摩擦的。算法篩選、排序、通約和分類。算法也激發(fā)和煽動欲望、希望、焦慮和恐懼。但它們之所以能做到這一切,是因為它們不是孤立的行為主體。它們是生態(tài)的效應,受到英戈爾德(Tim Ingold)最近對傳統(tǒng)生態(tài)繼承概念批判的啟發(fā)(“說水繼承了魚不是更有道理嗎?”),這意味著我們也可以說,我們的資本(投資與利息)、線纜(基礎設施)和概念(想象)生出了算法液泡,而算法液泡又起到了像分類、排序、分級、把關和評價那樣的核心社會功能。算法生態(tài)的模態(tài)是部分的關聯(lián),我們不能在這些關聯(lián)上假設任何可通約性。但是,如果不把算法中的投資與利息,不考慮算法借以進入表意領域的想象,沒人能說自己把算法給研究透了。算法在哪里這個問題的答案一定是,它內在于一個糾纏的生態(tài),并在那個生態(tài)的不同模態(tài)中得到表達、發(fā)揮作用。
算法生態(tài)生產出來的是偶然的結果,這些結果會受到持續(xù)的調節(jié),因為輸出會引導行動,行動反過來又會影響輸入。這些偶然性會在爭議中通過斗爭放大。換句話說,這樣的生態(tài)涉及一種本體論層面上的政治。對人類學來說,這種政治要求我們關注算法生態(tài)的存在對“構成世界的方式”來說意味著什么。是否應該存在一種使我們能夠通過算法來糾正和避免偏見的“設計人類學”(design anthropology)?還是說,正在興起的,其實是一種被國家吸納收編的、部署算法治理的“新人類學”。如果真是這樣的話,除在政治上無足輕重的田野點進行華而不實的術語創(chuàng)新外,我們還能做點什么?世界的構成可以通過或多或少是暴力的方式來進行,算法人類學面臨著一項緊迫的挑戰(zhàn),即考慮它想要對權力進行哪些干預,以及它想要賦予其發(fā)明哪些權力。
(本文翻譯自Willem Schinkel, “Steps to an Ecology of Algorithms”,Annual Review of Anthropology, 2023, 52: 171-86。原題為《走向一種算法生態(tài)學》。威廉·申克爾是荷蘭鹿特丹伊拉斯謨大學公共管理與社會學系教授,著有《想象的社會:西歐移民融入論批判》[Imagined Societies: A Critique of Immigrant Integration in Western Europe,2017]等。譯者王立秋為北京大學國際關系學院比較政治學博士,哈爾濱工程大學人文社會科學學院講師。為方便閱讀,參考文獻從略。)