算法治理和監(jiān)控資本主義
有人在看著我們，我們也意識(shí)到正在被他們凝視，但這是完全不同步的，我們根本無法與他們對(duì)視，因?yàn)橛幸环N先驗(yàn)的……和絕對(duì)的不對(duì)稱，一種絕對(duì)無法控制的不平衡。時(shí)序倒錯(cuò)是這里的法則。我們感到自己被一種永遠(yuǎn)無法對(duì)視的目光凝視著，這就是“面甲效應(yīng)”。
——雅克·德里達(dá)（Jacques Derrida）
大數(shù)據(jù)有三個(gè)主要特點(diǎn)：持續(xù)生成；它的目標(biāo)是同時(shí)做到詳盡和細(xì)化；靈活生成，因此可以隨時(shí)添加新的數(shù)據(jù)源。換句話說，大數(shù)據(jù)聚合了來自不同領(lǐng)域的信息，這些信息事先不一定相互關(guān)聯(lián)。這些異構(gòu)數(shù)據(jù)以不可知論的方式進(jìn)行處理，即揭示其中的關(guān)系，卻不解釋它們。大數(shù)據(jù)的這些特性助長了一種天真的經(jīng)驗(yàn)主義認(rèn)識(shí)論，認(rèn)為這種新的知識(shí)體系將通過純粹的自動(dòng)歸納法進(jìn)行——數(shù)據(jù)將提供真相，而無須經(jīng)過理論的干擾。但事實(shí)并非如此。它們所表達(dá)的觀點(diǎn)必然是片面的，只有與先前構(gòu)成的知識(shí)聯(lián)系起來才有意義。它們并非純潔無害。它們包含著理論，具體體現(xiàn)在組織它們的算法中，要知道，對(duì)規(guī)律性的探索以構(gòu)建假設(shè)為前提。
大數(shù)據(jù)還帶有社會(huì)偏見和統(tǒng)治關(guān)系。人工智能程序不僅反映了制度和權(quán)力關(guān)系中的種族或性別不平等，而且有助于放大這些不平等。它們包含的偏見反過來又被納入其他算法結(jié)果中。例如，有研究表明，語言分析程序“單詞嵌套”（Word Embedding）會(huì)將具有歐美含義的名字歸類為好聽的名字，而將非洲裔美國人的名字歸類為難聽的名字。另一個(gè)例子是，由于訓(xùn)練自動(dòng)駕駛汽車識(shí)別行人的算法的數(shù)據(jù)庫主要由淺色皮膚的人組成，機(jī)器系統(tǒng)檢測(cè)深色皮膚行人的能力較差，因此碰撞風(fēng)險(xiǎn)較大。這些偏差在日常生活中的負(fù)面影響被稱為“預(yù)測(cè)性不公正”。
大數(shù)據(jù)不是中立的。即使它們兜售的偏見和成見能夠得到糾正，人們的擔(dān)憂也不會(huì)減輕。安托瓦內(nèi)特·魯夫羅伊（Antoinette Rouvroy）和托馬斯·伯恩斯（Thomas Berns）提出了“算法治理”的概念，它指“某種類型的規(guī)范性或政治理性，其基礎(chǔ)是通過建模的方式收集、聚合和自動(dòng)分析大量數(shù)據(jù)，提前預(yù)測(cè)并影響可能的行為”。這種形式的治理繞過了人類主體并剝奪了他們的反身性。他們總結(jié)說，算法治理的目的是在“沒有形成或提出欲望的情況下產(chǎn)生行動(dòng)”。個(gè)人被絕對(duì)化，陷入了多重決定的復(fù)雜性中，個(gè)人也被拆解了，被簡(jiǎn)化為一系列將他們限制在概率可能性中的措施。就像讓-呂克·戈達(dá)爾（Jean-Luc Godard）想象的未來城市阿爾法城（Alphaville）一樣，由算法統(tǒng)治的社會(huì)開始類似于“像白蟻或螞蟻那樣的技術(shù)社會(huì)”，在那里，“人們已經(jīng)成為概率的奴隸”。
試圖將存在歸結(jié)為概率，有可能剝奪個(gè)人和社會(huì)對(duì)未來的控制權(quán)。被剝奪了挑戰(zhàn)概率的能力，換句話說就是挑戰(zhàn)現(xiàn)實(shí)的能力，主體就失去了所有的力量。這種 “去現(xiàn)實(shí)化”的風(fēng)險(xiǎn)絕非不可避免，但在“數(shù)字時(shí)代”的影響下，這種風(fēng)險(xiǎn)正在不斷增加。
大他者守護(hù)著一個(gè)無法逃脫的世界
公司對(duì)大數(shù)據(jù)的利用是被肖莎娜·祖博夫（Shoshana Zuboff）稱為“監(jiān)控資本主義”的社會(huì)項(xiàng)目的一部分。該系統(tǒng)賴以生存的盈利戰(zhàn)略包括預(yù)測(cè)和修改人類行為，以創(chuàng)造收入和控制市場(chǎng)。因此，監(jiān)控資本主義需要單方面詳盡了解人類經(jīng)驗(yàn)，并將它轉(zhuǎn)化為預(yù)測(cè)性的行為數(shù)據(jù)。在大數(shù)據(jù)的指導(dǎo)下，建議和解決辦法提高了行為的可預(yù)測(cè)性，從而達(dá)到市場(chǎng)定位的目的。但監(jiān)控資本主義并未就此止步。祖博夫表示，行為控制是追求更準(zhǔn)確預(yù)測(cè)的領(lǐng)域。
這個(gè)“大他者”（Big Other）吸收了我們提供給它的所有數(shù)據(jù)，比我們更了解我們自己。從我們的通信細(xì)節(jié)，到我們臥室里的動(dòng)靜，再到我們的消費(fèi)清單，它無所不包。通過大規(guī)模的在線實(shí)驗(yàn)，它學(xué)會(huì)了指導(dǎo)我們的行動(dòng)，并最終體現(xiàn)出一種新的極權(quán)主義。20世紀(jì)的極權(quán)主義通過暴力來運(yùn)作，而這種被祖博夫稱為“工具主義”的新權(quán)力則是通過改變行為來運(yùn)作。
雖然哈耶克和凱恩斯在幾乎所有問題上都針鋒相對(duì)，但他們都堅(jiān)信經(jīng)濟(jì)學(xué)從根本上說是一個(gè)信息和知識(shí)的問題。這促使凱恩斯強(qiáng)調(diào)根本的不確定性及其對(duì)經(jīng)濟(jì)參與者心理的影響。在他看來，經(jīng)濟(jì)政策必須考慮到經(jīng)濟(jì)行為的這一心理層面，并能夠通過有力的干預(yù)，抵消消極情緒轉(zhuǎn)化為自我實(shí)現(xiàn)預(yù)期的抑郁螺旋。相反，在哈耶克看來，知識(shí)的內(nèi)在分散性與公共干預(yù)互不相容。只有市場(chǎng)才能調(diào)動(dòng)本質(zhì)上無法獲取的知識(shí)，因?yàn)樗鼈兪请[性的和情境性的。因此，任何對(duì)競(jìng)爭(zhēng)態(tài)勢(shì)的破壞都只會(huì)降低社會(huì)層面認(rèn)知過程的質(zhì)量，從而導(dǎo)致經(jīng)濟(jì)決策失誤。
新積累邏輯的本質(zhì)是對(duì)哈耶克和凱恩斯關(guān)注點(diǎn)的顛覆。核心不再是不確定性或不可知性，而是可預(yù)測(cè)性。祖博夫?qū)⒈O(jiān)視資本家的戰(zhàn)略視為一場(chǎng)“提高確定性程度的競(jìng)賽”，在這場(chǎng)競(jìng)賽中，他們別無選擇，只能加強(qiáng)對(duì)社會(huì)活動(dòng)的控制。亞馬遜、谷歌和臉書正以各自的方式加強(qiáng)監(jiān)控?cái)U(kuò)張與價(jià)值創(chuàng)造之間的重要聯(lián)系。
亞馬遜與推薦邏輯。亞馬遜成功的秘訣之一在于它的推薦系統(tǒng)及其在銷售環(huán)境個(gè)性化方面的優(yōu)勢(shì)：
亞馬遜網(wǎng)站為每位客戶量身打造了一家商店。每個(gè)來到亞馬遜網(wǎng)站的人看到的網(wǎng)站都不一樣，因?yàn)榫W(wǎng)站是根據(jù)他們的興趣個(gè)性化設(shè)計(jì)的。這就好比你走進(jìn)一家商店，貨架開始重新排列，你想買的東西被突出顯示，反之，你不可能感興趣的東西則被排在后面。亞馬遜網(wǎng)站的推薦系統(tǒng)會(huì)根據(jù)當(dāng)前語境和你過去的行為，選擇你或許感興趣的少量商品。
這種個(gè)性化體驗(yàn)來自協(xié)同過濾算法，這種算法借鑒了其他用戶的經(jīng)驗(yàn)。不過，亞馬遜發(fā)明的系統(tǒng)并不是將客戶與其他具有相似特征的客戶進(jìn)行匹配，而是以物品為基礎(chǔ)進(jìn)行組織。用戶購買和評(píng)估的每件物品都與相似物品相關(guān)聯(lián)，然后這些物品根據(jù)接近程度被組合在一個(gè)推薦列表中。該列表通過各種指標(biāo)進(jìn)行完善。例如，它包括一個(gè)時(shí)間維度，以便系統(tǒng)整合某些購買的順序邏輯（如文學(xué)系列的連續(xù)卷本）或個(gè)人的社會(huì)生物學(xué)軌跡（年齡增長、與孩子出生相關(guān)的周期等）。這種技術(shù)的一個(gè)主要優(yōu)點(diǎn)在于，大部分計(jì)算都離線進(jìn)行，因此系統(tǒng)功能強(qiáng)大，運(yùn)行速度快。該系統(tǒng)非常有效。點(diǎn)擊率和購買轉(zhuǎn)化率都非常高。據(jù)說，亞馬遜上約有30%的頁面瀏覽量是通過它產(chǎn)生的。網(wǎng)飛也采用了同樣的流程，80%的視頻觀看都要經(jīng)過這一中介，這使其成為公司估值的關(guān)鍵因素之一。因此，推薦與行動(dòng)之間的關(guān)系循環(huán)往復(fù)。目標(biāo)定位的質(zhì)量取決于推薦的質(zhì)量；反之，推薦做法通過參與者的行動(dòng)得到驗(yàn)證，從而為未來推薦的循環(huán)提供信息。
谷歌與語境優(yōu)先級(jí)。Alphabet是谷歌的母公司，它主要是一家廣告公司。2017年，廣告創(chuàng)造了該公司收入的87%，該公司控制了全球在線廣告市場(chǎng)33%的份額（總額2 240億美元中的740億美元），在美國控制了42%的份額。讓谷歌發(fā)家致富的廣告空間銷售系統(tǒng)基于兩個(gè)因素，這兩個(gè)因素的力量結(jié)合在一起。第一個(gè)決定性因素是搜索引擎的性能。謝爾蓋·布林（Sergey Brin）和勞倫斯·佩奇（Lawrence Page）發(fā)明的排名系統(tǒng)基于網(wǎng)絡(luò)超文本鏈接的架構(gòu)。第一代搜索引擎主要以關(guān)鍵詞分析為基礎(chǔ)，與之不同的是，谷歌的原型既考慮了指向頁面的鏈接數(shù)量和包含這些鏈接的頁面的相對(duì)重要性，也考慮了其他因素，如鏈接文本、請(qǐng)求位置和視覺特征（如字體大小）。這一新搜索引擎的成功源于分層原則的強(qiáng)大功能，它能夠提供最相關(guān)的結(jié)果，即不僅能夠摒棄不良結(jié)果（垃圾），還能識(shí)別那些從搜索制定者的角度來看只具有適度興趣的結(jié)果。正是在這一功能的基礎(chǔ)上，谷歌取得了經(jīng)濟(jì)上的成功。
第二個(gè)決定性因素是廣告與瀏覽語境的相關(guān)性。這樣才能在最壞的情況下限制廣告對(duì)瀏覽體驗(yàn)的破壞，在最好的情況下確保網(wǎng)絡(luò)用戶對(duì)廣告有積極的看法。廣告定位的精細(xì)程度取決于對(duì)關(guān)鍵字、瀏覽歷史和谷歌生態(tài)系統(tǒng)中收集的大量其他數(shù)據(jù)的分析。這些豐富的語境信息實(shí)現(xiàn)了極為精確的定位，從而提高了廣告引發(fā)點(diǎn)擊的可能性。最大限度地提高廣告商所追求的行為效果，可以增加廣告空間的價(jià)值。
2010年代，Alphabet實(shí)現(xiàn)了多元化，擴(kuò)大了它在網(wǎng)絡(luò)安全（Chronicle）、人工智能（Deepmind）、智能家居（Nest的恒溫器、攝像頭、傳感器、報(bào)警器和可視門鈴）和自動(dòng)駕駛汽車（Waymo）領(lǐng)域的活動(dòng)。2018年，當(dāng)Waymo這家子公司在亞利桑那州的道路上推出第一輛機(jī)器人出租車時(shí)，其估計(jì)價(jià)值（在700億~2 500億美元之間）有可能超過大眾（750億美元）和豐田（1930億美元）等最大的汽車制造商。Waymo的盈利策略不是制造更好的汽車，而是將汽車作為一個(gè)生活空間、一個(gè)移動(dòng)空間來控制，進(jìn)而成為一個(gè)“數(shù)據(jù)井架”?！督鹑跁r(shí)報(bào)》（Financial Times）上瑞銀（UBS）的一份報(bào)告詳細(xì)解釋了這一點(diǎn)：
Waymo的威脅不在于制造更好的汽車。該公司并不需要。恰恰相反，它從克萊斯勒和捷豹（淪為供應(yīng)商）那里訂購汽車，然后為它們配備內(nèi)部制造的自動(dòng)駕駛軟件和硬件。但它的潛力遠(yuǎn)不止于卓越的自動(dòng)駕駛能力。一旦機(jī)器人出租車成為主流，Alphabet 就能從谷歌地圖和搜索中收集數(shù)據(jù)，通過YouTube和Play Store為乘客提供娛樂，通過谷歌智能揚(yáng)聲器提供建議，并利用它的軟件能力管理車隊(duì)。瑞銀解釋說，除了車輛本身，Waymo還是一個(gè)垂直整合的“封閉系統(tǒng)”。蒂爾先生（Mr. Thill）補(bǔ)充說，機(jī)器人出租車的利害關(guān)系“將影響廣告、媒體和娛樂行業(yè)”。重要的不僅是自動(dòng)駕駛技術(shù)，還有谷歌為汽車帶來的所有組件。這些都很重要。這也是該公司在客廳設(shè)備上投入巨資的原因——它希望汽車看起來像你的客廳。
數(shù)據(jù)收集、整合和處理指導(dǎo)著谷歌的擴(kuò)張，目的始終是根據(jù)個(gè)人和語境提供最相關(guān)的產(chǎn)品。公司創(chuàng)始人兼首席執(zhí)行官勞倫斯·佩奇說：“谷歌的問題在于，你必須向它提出問題。它應(yīng)該知道你想要什么，甚至在你提出要求之前就告訴你?！币虼耍i定目標(biāo)是為了預(yù)測(cè)行為，更是為了引導(dǎo)行為。
臉書與廣泛的軟件整合。語境化的原則在不斷完善。它傾向于整合每個(gè)人在活動(dòng)中留下的所有數(shù)字痕跡，包括與他們的社交網(wǎng)絡(luò)、行動(dòng)、購買歷史有關(guān)的數(shù)據(jù)，以及他們的個(gè)人信息（甚至是隱私信息）、行政信息、財(cái)務(wù)信息和職業(yè)信息。事實(shí)表明，臉書直接從某些移動(dòng)應(yīng)用程序中獲取數(shù)據(jù)，而用戶并不知情。比如一款名為Breethe的冥想程序和另一款名為即時(shí)心率檢測(cè)（Instant Heart Rate）的程序，后者被吹捧為“第一款最快、最準(zhǔn)確的便攜式心率監(jiān)測(cè)器”。再如一款名為Flo的應(yīng)用程序，它記錄三十多種癥狀和活動(dòng)，以便“通過人工智能生成有關(guān)月經(jīng)周期和排卵期的最準(zhǔn)確預(yù)測(cè)”，并承諾“通過檢測(cè)反復(fù)出現(xiàn)的身體和情緒模式更好地了解你的身體”。在以上種種例子中，有關(guān)冥想、心率或排卵期的信息都會(huì)被傳送到臉書。
收集的數(shù)據(jù)來自內(nèi)置應(yīng)用程序或網(wǎng)站中的小程序，被稱為軟件開發(fā)工具包（SDK）。軟件開發(fā)工具包通過以下先進(jìn)的功能使公司得以增強(qiáng)：它們向分析平臺(tái)傳輸數(shù)據(jù)，例如會(huì)話數(shù)量和持續(xù)時(shí)間、位置、使用的終端類型，以及用戶在應(yīng)用程序中輸入的信息，這讓公司能夠更好地了解用戶行為并向他們投放更具針對(duì)性的廣告。
臉書分析（Facebook Analytics）提供“以人為本的全方位渠道分析”。借助“從二十億人的社區(qū)中收集的統(tǒng)計(jì)數(shù)據(jù)”，臉書分析承諾，幫助企業(yè)家深入了解人們?cè)诰W(wǎng)站、應(yīng)用程序、臉書頁面等渠道與企業(yè)家的業(yè)務(wù)互動(dòng)的方式和位置。該觀點(diǎn)契合了非規(guī)?；恼擖c(diǎn)，小規(guī)模運(yùn)營可以與大數(shù)據(jù)的力量相結(jié)合。這家大型公司正在提供復(fù)雜的信息技術(shù)服務(wù)，而這類服務(wù)對(duì)于中型公司來說通常難以獨(dú)立提供。
通過軟件開發(fā)工具包，社交網(wǎng)絡(luò)可以訪問其他個(gè)人數(shù)據(jù)源，并將這些數(shù)據(jù)與它已有的用戶數(shù)據(jù)鏈接起來，從而強(qiáng)化對(duì)個(gè)人存在的了解。這使得社交網(wǎng)絡(luò)能夠進(jìn)行復(fù)雜的市場(chǎng)研究，為算法過程提供數(shù)據(jù)，以便精細(xì)地選擇要在用戶個(gè)人頁面上顯示的內(nèi)容，當(dāng)然，也可以兜售越來越有針對(duì)性的廣告。《華爾街日?qǐng)?bào)》（Wall Street Journal）調(diào)查了軟件開發(fā)工具包，報(bào)道稱，這些移動(dòng)應(yīng)用程序數(shù)據(jù)對(duì)臉書的利潤至關(guān)重要：
臉書積累了有關(guān)用戶行為的知識(shí)，該公司可以為營銷人員提供比大多數(shù)其他公司更好的投資回報(bào)。例如，當(dāng)營銷人員想針對(duì)喜歡運(yùn)動(dòng)的用戶或正在購買新跑車的用戶投放廣告時(shí)，這些廣告的每次點(diǎn)擊價(jià)格會(huì)更高。這就是臉書收入增長的原因。
在這場(chǎng)提取相關(guān)信息的資源競(jìng)賽中，網(wǎng)絡(luò)巨頭們對(duì)自己收集的數(shù)據(jù)或從合作伙伴那里獲得的數(shù)據(jù)嚴(yán)加防范。但它們也求助于專門編譯文件的代理商來補(bǔ)充它們的數(shù)據(jù)：
甲骨文擁有或合作的數(shù)據(jù)代理商有八十多家，它們提供了海量的數(shù)據(jù)……包括消費(fèi)者購買行為、金融交易、社交媒體行為和人口統(tǒng)計(jì)信息。該公司聲稱出售全球三億多人的數(shù)據(jù)，每個(gè)人擁有三萬條數(shù)據(jù)，“美國80%以上的互聯(lián)網(wǎng)人口都在你的指尖”。
知悉每個(gè)人都有三萬個(gè)屬性，再加上錯(cuò)綜復(fù)雜的跟蹤設(shè)備，我們可以對(duì)每個(gè)人都了如指掌。這種通過系統(tǒng)化探索數(shù)據(jù)而獲得的信息優(yōu)勢(shì)構(gòu)成了祖博夫所說的“行為剩余”，這是一種整體知識(shí)，它為控制這種知識(shí)的組織提供了一個(gè)居高臨下的位置，使它只根據(jù)自己設(shè)定的目標(biāo)來調(diào)動(dòng)這種知識(shí)。這樣，與用戶相關(guān)的信息只有在符合價(jià)值要求的情況下才會(huì)被披露。
祖博夫論點(diǎn)的新穎之處和優(yōu)勢(shì)在于，它指出了這一動(dòng)力將把我們引向何方。監(jiān)控資本主義的目標(biāo)不是提高行為的可預(yù)測(cè)性，而是控制行為。這可以通過微妙的激勵(lì)措施來實(shí)現(xiàn)，比如《寶可夢(mèng)GO》（Pokémon GO）這款游戲，它的商業(yè)模式的理念是向商家收取費(fèi)用，引導(dǎo)人群前往對(duì)商家更有利的目的地。這還表明，它可以更具侵入性，例如遠(yuǎn)程扣押逾期償還貸款或逾期支付保險(xiǎn)費(fèi)的人的聯(lián)網(wǎng)車輛。遠(yuǎn)程信息處理技術(shù)、遠(yuǎn)程計(jì)算機(jī)化管理程序都有一個(gè)明確的目標(biāo)：
遠(yuǎn)程信息處理不僅關(guān)乎“了解”，還關(guān)乎“做到”……。它承諾通過旨在改變行為以實(shí)現(xiàn)最大盈利能力的機(jī)器流程來降低風(fēng)險(xiǎn)。行為剩余被用來觸發(fā)制裁，例如實(shí)時(shí)票價(jià)上漲、經(jīng)濟(jì)處罰、宵禁和發(fā)動(dòng)機(jī)堵塞，也被用來觸發(fā)獎(jiǎng)勵(lì)，例如票價(jià)折扣、優(yōu)惠券和獎(jiǎng)賞以換取未來的福利。
在祖博夫看來，監(jiān)控資本主義的公司正在建立一個(gè)大他者的基礎(chǔ)設(shè)施，它從我們的社會(huì)經(jīng)驗(yàn)中汲取無限的資源，對(duì)這些資源進(jìn)行重新安排，并以行為指令的形式返還給我們，從而從根本上削弱了我們的自主性。這個(gè)大他者是雅克·德里達(dá)意義上的“幽靈”。面對(duì)大他者時(shí)，有徹底的不對(duì)稱性。它擁有“權(quán)力的最高徽章——看到他人而不被看見”，作為個(gè)體的我們則陷入了“‘面甲效應(yīng)’——我們看不到誰在看著我們”。然而，與大多數(shù)幽靈不同的是，大他者不只是存在于我們的生活中，它還玩弄我們的生活。它通過推薦、建議和義務(wù)來塑造我們的生活，對(duì)我們的行為產(chǎn)生深遠(yuǎn)影響，從而激活自己的力量。祖博夫向我們表明，監(jiān)控資本主義的繁榮是以犧牲個(gè)人自治的完整性為代價(jià)的，它直擊人類生存條件的核心。
《技術(shù)封建主義》，[法]塞德里克·迪朗著，陳榮鋼譯，中國人民大學(xué)出版社，2024年7月出版
【本文節(jié)選自《技術(shù)封建主義》】
鄂公網(wǎng)安備 42010302001612號(hào) 