2023年11月，ChatGPT的母公司OpenAI爆發(fā)了高層內(nèi)斗，堪稱人工智能世界的“911事件”，元老創(chuàng)始人山姆 ·奧特曼（Sam Altman）先被董事會罷免，又在全體員工和投資人支持下重返OpenAI擔(dān)任首席執(zhí)行官，隨后重新組建了Bret Taylor、Larry Summers和Adam D'Angelo在內(nèi)的新董事會。
作為炙手可熱的AI獨角獸的靈魂人物，奧特曼被罷免，堪比當(dāng)年喬布斯被Apple驅(qū)離，這場持續(xù)數(shù)日的OpenAI羅生門劇情一度成為科技圈的霸屏新聞，從而使得最近一波AI浪潮中，加速派與對齊派的技術(shù)路線分歧浮出冰面。
屠龍者變惡龍——OpenAI的特殊歷史與組織架構(gòu)
把時間輪盤撥回本輪神經(jīng)網(wǎng)絡(luò)AI變革浪潮的早期——2015年，AI巨頭的谷歌DeepMind，發(fā)布了AlphaGo模型，挫敗圍棋界各大頂尖高手，成為轟動一時的新聞。
許多硅谷的科研人員與商業(yè)精英們預(yù)感了AI被大公司壟斷的可怕未來。硅谷頂級孵化器Y Combinator 公司的CEO奧特曼、支付公司Stripe前技術(shù)高管布羅克曼、原谷歌大腦項目科學(xué)家蘇茨克維、特斯拉CEO埃隆·馬斯克與其他九人共同創(chuàng)建了非營利性組織——OpenAI。這些創(chuàng)始人希望，AI技術(shù)能秉承開源、公益的理念，造福人類，而不是成為大公司壟斷的工具（OpenAI中的Open正有此意）。最開始的OpenAI依靠愿景、創(chuàng)始人魅力和并不豐厚的報酬從大公司挖掘開發(fā)者與AI科學(xué)家，組建AI研發(fā)實驗室。所以，OpenAI的創(chuàng)始本體是一個NPO性質(zhì)的組織，而不是一家公司。
OpenAI公布的章程可以總結(jié)為：創(chuàng)造安全的AGI造福全人類，以公共利益、持久安全、技術(shù)領(lǐng)先、合作導(dǎo)向為原則。至今OpenAI官網(wǎng)上的最早一篇介紹OpenAI使命的博客這樣寫道：OpenAI 是一家非營利的人工智能研究公司。我們的目標(biāo)是以最大可能造福全人類的方式推進數(shù)字智能，不受盈利需求的干擾。由于我們的獨立研究沒有盈利義務(wù)，因此我們可以更好地關(guān)注對人類的積極影響。作者是Greg Brockman與Ilya Sutskever。
馬斯克在早期捐獻了一億美元，后來因路線分歧退出。訓(xùn)練大語言模型（LLM）需要消耗巨量資本，算力成本呈指數(shù)級增長，同時頂尖的AI工程師的報酬也是不菲。OpenAI 第一年的花銷是 1123 萬美元，其中超過665萬是50多名員工的工資。OpenAI早期危機重重，奧特曼挺身而出，辭去Y Combinator的CEO，全職成為Open AI的CEO，探索融資模式。
2019年3月11日， OpenAI宣布在母公司OpenAI Inc的非營利主體下，創(chuàng)建一個限制性營利實體OpenAI, L.P。投資人和公司員工擁有OpenAI, L.P的股份但沒有投票權(quán)，投資者的分紅累計超過回報上限后，資金就會自動流入OpenAI Inc非營利組織的賬戶中。
OpenAI設(shè)計了如同縫合怪的治理架構(gòu)：
董事會是OpenAI所有活動的最高權(quán)力機構(gòu)，董事會要忠于OpenAI的愿景——安全、公益、開放的AGI。將持股權(quán)與決策權(quán)分離，只有未持有股權(quán)的董事?lián)碛袑娟P(guān)鍵決策的投票權(quán)。限制性營利實體OpenAI LP隸屬于非營利主體 OpenAI Inc，設(shè)立投資人與員工的盈利上限。當(dāng)開發(fā)出真正的通用人工智能（GAI），OpenAI Inc 非營利組全權(quán)擁有AGI的權(quán)限，而不包含在此前與微軟的商業(yè)條款中，對GAI的判定取決于獨立董事會。
OpenAI LP 的主要信托義務(wù)是推進OpenAI 章程的目標(biāo)，公司由 OpenAI Nonprofit 董事會控制。所有投資者和員工都簽署協(xié)議，規(guī)定 OpenAI LP 對章程的義務(wù)始終是第一位的，即使以犧牲部分或全部財務(wù)權(quán)益為代價?！倍聲碛袑Ψ菭I利主體OpenAI Inc與限制性營利實體OpenAI, L.P的控制權(quán)，董事會要為公益愿景負(fù)責(zé)，卻沒有與OpenAI的利益捆綁，因此，《福布斯》將其戲稱為“科技向善長老會”。
這種組織架構(gòu)的意圖是：維護公益愿景的初心，滿足對投資人與核心工程師的股權(quán)激勵，同時也最小限度的控制了引入資本后對NPO主體的影響，但也為之后的沖突埋下定時炸彈。
截至發(fā)文時OpenAI的組織架構(gòu)。https://openai.com/
OpenAI改組后陸續(xù)吸納了投資，包括最重要的合作伙伴——微軟。
2019 年7月22日，微軟宣布與 OpenAI 達成合作伙伴關(guān)系，以10億美元投資成了 OpenAI 的大投資人 LP ，將與 OpenAI一起共建Azure AI超級計算技術(shù)。
OpenAI將其大模型移植到Microsoft Azure上運行，免費使用微軟的云服務(wù)來訓(xùn)練和運行 AI 模型。微軟獲得了 Open AI 技術(shù)的獨家權(quán)，可在 Bing 搜索等產(chǎn)品上使用 Open AI 的技術(shù)成果，微軟也成為OpenAI商業(yè)化AI技術(shù)的首選合作伙伴。
2020年后，OpenAI開啟了燒錢拼算力的大模型開掛路線，商業(yè)模式愈發(fā)成熟，其代碼也不再開源。
每一次GPT的升級，參數(shù)量都是指數(shù)型的上升。訓(xùn)練一次大模型就要幾百萬美元，每年的云計算成本也都要上億。2020年5月發(fā)布的 GPT-3有1750億的參數(shù)，基于GPT3 .5的 ChatGPT 在2022年底發(fā)布后引爆互聯(lián)網(wǎng)，到2023年3月推出的GPT-4綜合性能已經(jīng)傲視群雄。
在產(chǎn)品迭代與商業(yè)化勢如破竹之時，因公益愿景設(shè)立的董事會元老們，對奧特曼過于激進的AI商業(yè)化路線愈發(fā)不滿，終于爆發(fā)沖突。在奧特曼被開除事件發(fā)生時，董事會是6位成員，不符合奇數(shù)投票原則，奧特曼完全沒想到當(dāng)自己帶領(lǐng)OpenAI高歌猛進的時候，居然會后院起火。很多人發(fā)出感嘆，對人類如此重要的科技獨角獸，居然發(fā)生這樣草臺班子的鬧劇。
OpenAI所設(shè)計的組織架構(gòu)，是把資本機制引入到一個愿景驅(qū)動的非盈利組織的模型之中，股權(quán)與投票權(quán)分離，讓董事基于使命價值觀而非投資回報進行決策，導(dǎo)致了作為靈魂人物的奧特曼被開除成為可能。公益理想與商業(yè)可持續(xù)是一座艱難的天平。在獲得微軟的算力-資本加持后，Chat GPT橫空出世，之后的Open AI的發(fā)展路徑，更像是一個快速崛起的資本獨角獸而不再是愿景為AI普惠世人的NPO。
2月22日，Google發(fā)布了開源大模型Gemma-7B，性能超過此前Mate開源的大模型Llama-2 13B，成為最強開源大模型。對于一家AI企業(yè)，開源的大模型肯定不是手里性能最好的大模型，開源大模型一般會被其他創(chuàng)業(yè)公司拿來套殼，獨立開發(fā)者的日常使用肯定首選性能領(lǐng)先的大模型調(diào)用API，但更深度的開放意味著未來行業(yè)標(biāo)準(zhǔn)的話語權(quán)與生態(tài)影響力。
反諷的是，截至本文發(fā)布，作為OpenAI曾經(jīng)意圖顛覆的科技巨頭都已紛紛推出自己的開源大模型，OpenAI卻未曾開源任何大模型。
OpenAI成了最不open的AI。
AI技術(shù)政治——危機派、加速派與對齊派
關(guān)于本輪神經(jīng)網(wǎng)絡(luò)AI革新浪潮的林林總總的觀點，可以大致劃為三派：危機派、加速派與對齊派。
危機派
是指對目前的AI技術(shù)嚴(yán)重警惕，并懷疑其對人類社會可能產(chǎn)生極大威脅，主張暫停AI技術(shù)繼續(xù)研發(fā)的派系。AI危機派的很多論斷，建立在對當(dāng)前AI技術(shù)不準(zhǔn)確的認(rèn)知上，甚至過于夸大AI的發(fā)展速率，一般有工程師背景或者科技從業(yè)者并不會支持過于夸張的AI威脅論。2023年3月29日，著名企業(yè)家埃隆·馬斯克牽頭的“暫停AI聯(lián)署信”發(fā)布，這封公開聯(lián)署信得到一千多名業(yè)界、學(xué)界人士響應(yīng)，簽名者介于危機派與對齊派之間。公開聯(lián)署信呼吁所有AI實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)，暫停至少6個月；如果這樣的暫停不能迅速實施，政府就應(yīng)該介入并實施暫停。公開信稱，AI的研發(fā)應(yīng)該重新聚焦于使當(dāng)今最強大、最先進的系統(tǒng)更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠。在開發(fā)強大的AI系統(tǒng)之前，要確信這些系統(tǒng)的影響是積極的，風(fēng)險是可控的。公開信還引用OpenAI近期的聲明稱，在開始訓(xùn)練未來的系統(tǒng)之前的某個時點，獲得獨立的審查可能很重要，而對于正在研究最先進模型的開發(fā)者，應(yīng)達成共識來限制新模型的算力增長速度。（https://science.caixin.com/2023-03-29/102013411.html）
加速派
是指受 E/acc（有效加速主義）思潮影響的人物派系，該思潮認(rèn)為人類應(yīng)該無限制地推進AI等前沿技術(shù)的加速研發(fā)，最終促進人類進化。E/acc這個詞組最開始的發(fā)明，純粹是為了“玩?！保菍τ行Ю髁xEffective Altruism（簡稱E/A）造詞的戲謔，最早出現(xiàn)在兩名硅谷程序員在X space 上的閑聊中。后來知名風(fēng)投基金A16Z 的創(chuàng)始人 Marc Andreessen 和 YC 孵化器的 CEO Garry Tan 把自己X賬號簡介加上了“E/acc”，大佬站臺后，很多人跟風(fēng)改E/acc后綴。雖然出現(xiàn)了E/acc的論壇網(wǎng)站，E/acc仍然是一個混沌的思潮，每個自稱E/acc的人并沒有對此統(tǒng)一的定義。
根據(jù)E/Acc論壇，主要觀點可以歸納為：
加速主義是指技術(shù)與資本之間耦合的正反饋螺旋加速狀態(tài)。
類比熱力學(xué)墑增定律，宇宙的復(fù)雜程度不可逆的增長，人類社會的技術(shù)智能程度也應(yīng)該加速發(fā)展。
AI技術(shù)發(fā)展是不可阻擋的，反對AI都是因為不了解技術(shù)，才杞人憂天。人工智能有一定風(fēng)險，應(yīng)該讓更多人加入這個技術(shù)浪潮，要開源、要加速才能促進技術(shù)良性發(fā)展，而不是限制、延緩AI技術(shù)。
人類社會的公共部門（政府、NGO、科學(xué)家協(xié)會）無法管理AI，應(yīng)該充分放手讓AI 加速，AI系統(tǒng)會自我進化到相互制衡的狀態(tài)。
當(dāng)前存在的社會問題可以無視，任由技術(shù)突進可能會加劇社會矛盾的情況發(fā)生，但技術(shù)突進到一定程度舊的社會問題會迎刃而解
OpenAI的CEO奧特曼與風(fēng)投基金a16z的聯(lián)合創(chuàng)始人馬克·安德森（Marc Andreessen）都被認(rèn)為是加速派的代表。安德森曾在 a16z 官網(wǎng)發(fā)布《技術(shù)樂觀主義者宣言》（The Techno-Optimist Manifest），主要觀點依舊為哈耶克濫觴，認(rèn)為技術(shù)創(chuàng)新是永恒的經(jīng)濟增長動力，自由市場是組織技術(shù)經(jīng)濟的最有效的方式，推動技術(shù)進步使“我們”成為科技超人。這篇“技術(shù)中心論”的宣言如此粗制濫造，認(rèn)為社會變革是技術(shù)進步的副產(chǎn)品，技術(shù)發(fā)明脫離了社會與政策環(huán)境，將資本主義的新技術(shù)應(yīng)用等同于社會進步，將投資人等同于科技創(chuàng)造的代言人?？萍夹袠I(yè)的風(fēng)險投資人當(dāng)然非常樂觀，因為他們是技術(shù)躍進的最大受益者，超額利潤的第一輪收割者，并且認(rèn)為維持當(dāng)前技術(shù)-資本主義的發(fā)展模式，自己就會成為第一批超人。當(dāng)a16z的風(fēng)險投資家舉起《技術(shù)樂觀主義宣言》大旗的時候，就像是美國號稱自己發(fā)明了民主與平權(quán)一樣虛偽。
E/ACC是被發(fā)明出來的，用以對辯關(guān)于AI技術(shù)杞人憂天的言論，E/ACC糅合了老加速主義的只言片語以及工程師達爾文主義認(rèn)識論。其詭辯是“工業(yè)黨”（唯發(fā)展論）套路，所謂“技術(shù)超速發(fā)展中產(chǎn)生的社會問題可以通過超速發(fā)展技術(shù)來解決”，這是一種將技術(shù)中心論推演到極致并透支社會的技術(shù)發(fā)展策略。E/Acc的起始論點挪用了熱力學(xué)定律，設(shè)置了一種幻象，類似“禁止干預(yù)”的天命?！凹夹g(shù)神圣并抽離于社會，可以在外部決定社會進程”可以總結(jié)為“技術(shù)中心論/技術(shù)決定論”，可以追溯到圣西門的技術(shù)專家治國論，伴隨著關(guān)于科技史教科書成為一種大眾認(rèn)知。這種技術(shù)拜物教實際上阻礙了人們對技術(shù)關(guān)系的認(rèn)知。
OpenAI官網(wǎng)關(guān)于超級對齊的介紹
對齊派
主張減緩?fù)ㄓ萌斯ぶ悄芗夹g(shù)的研發(fā)速度，提升對技術(shù)的公共效益、倫理討論、人文價值的重視，在AI研發(fā)過程中引入人文的價值判斷，確保AI技術(shù)不會失控，對人類社會的產(chǎn)生威脅。英國教授杰弗里·辛頓（Geoffrey Hinton）是卷積神經(jīng)網(wǎng)絡(luò)理論的領(lǐng)軍人物，也是本輪AI技術(shù)躍進的奠基性科學(xué)家，被稱為“人工智能教父”，從Google離職后，持續(xù)呼吁謹(jǐn)慎對待AI技術(shù)，成為AI對齊派的代表。OpenAI首席科學(xué)家Ilya正是辛頓最得意的弟子，他在OpenAI內(nèi)部推動一項名為“超級對齊計劃”的項目，來確保AI機器與人類的意圖和價值觀保持一致。讓AI理解人類的明確意圖以及隱含意圖，例如真實性、公平性和安全性。 此前，OpenAI的兩名獨立董事Helen Toner和Tasha McCauley都具有對齊派傾向。
當(dāng)代區(qū)塊鏈行業(yè)知名人物，以太坊創(chuàng)始人維塔利克·布特林（Vitalik Buterin）在博客文章“我的技術(shù)樂觀主義（My techno-optimism）”中提出了D/acc 的觀念，回應(yīng)安德森的《技術(shù)樂觀主義宣言》。 （原文鏈接https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html）
Vitalik具有開發(fā)者與記者的雙重背景，繼承了加密朋克的理念，倡導(dǎo)科技向善的公共價值。同時作為行業(yè)最大公鏈——以太坊的領(lǐng)導(dǎo)者，Vitalik在開發(fā)者與投資者中都具有一定話語權(quán)。
在這篇文章中，Vitalik試圖以D/Acc的愿景框架，兼容各路技術(shù)意識形態(tài)。如：E/Acc、有效利他主義（E/A）、自由主義者、多元主義、公共醫(yī)療、區(qū)塊鏈主義、太陽朋克（solarpunk）、月球朋克（lunarpunk）。D/Acc的“d”可以代表很多概念；尤其是防御（defense）、去中心化（decentralization）、民主（democracy）以及差異化（differential）。
Vitalik借用了人類學(xué)家詹姆斯·C·斯科特（James C Scott）的經(jīng)典著作《逃避統(tǒng)治的藝術(shù)》，斯科特提出Zomia（贊米亞）東南亞山地形成的對抗中心化權(quán)力的社會形態(tài)與生產(chǎn)方式，對應(yīng)諺語“山高皇帝遠(yuǎn)”。
Vitalik列舉了一系列區(qū)塊鏈技術(shù)，這些技術(shù)可以成為個體對抗數(shù)據(jù)監(jiān)控的方法。零知識證明可以用于隱私保護，允許用戶在不泄露私人信息的情況完成驗證。這樣的技術(shù)可以讓我們保持隱私和匿名的好處——這些屬性被廣泛認(rèn)為是投票等應(yīng)用場景所必需的——同時仍能獲得安全保證，同時還可以打擊垃圾郵件和不良行為者，可以讓用戶和社區(qū)在不損害隱私的情況下驗證可信度，并保護他們的安全，同時不依賴于把誰好誰壞的定義強加到自己身上的中心化瓶頸。
例如：
數(shù)字護照簽名封裝在 ZK-SNARK 里面，就可以證明你是特定國家/地區(qū)的唯一公民，而不需要透露你是哪里的公民。
在 Zuzalu 孵化的 Zupass 已被成百上千人使用，最近又被 Devconnect （可讓用戶持有門票、會員資格、（不可轉(zhuǎn)讓的）數(shù)字收藏品和其他證明。
pol.is 采用了跟Community Notes類似的算法（并且運用要比Community Notes更早）來幫助社區(qū)識別子部落之間的共識點。
在文中，Vitalik也認(rèn)可“超級對齊”是一種務(wù)實的折衷主義，讓開發(fā)者更有意識地確保正在做的東西能夠幫助人類繁榮發(fā)展，同時并不中斷研發(fā)進度?！巴ㄟ^在決策的每一個步驟都植入人類的反饋，我們減少了將高層級的規(guī)劃責(zé)任轉(zhuǎn)移給人工智能本身的動機，從而減少了人工智能本身做出一些與人類價值觀完全不相符的事情的機會?！比绻覀兿胍粋€超級智能與“人類”共存的未來，一個人類不僅僅是寵物，而且實際上對這個世界仍保留著有意義的代理權(quán)的未來。
大眾文化中對于技術(shù)的態(tài)度，有兩種極端，一種是技術(shù)決定論的，一種是技術(shù)危機論的，認(rèn)為技術(shù)黑箱不可對話，采取一種對抗式態(tài)度。民粹主義的AI威脅論與AI加速論可以作為類比。對齊派來自AI工程師的技術(shù)自覺，現(xiàn)實中是一種更務(wù)實的塑造AI技術(shù)與社會的可行路徑。
而在技術(shù)政治視野中，技術(shù)被看作一種基于社會生成的文化創(chuàng)造，技術(shù)是由諸多社會力量與政治愿景參與建設(shè)的，人們在日常生活與集體行動中可以主動的塑造技術(shù)與社會嵌合的形態(tài)，左右技術(shù)的發(fā)展方向，以此創(chuàng)造未來的科技生活。引入政治經(jīng)濟學(xué)與歷史社會學(xué)的視角，通過對歷史與實踐中具體技術(shù)的分析，發(fā)現(xiàn)技術(shù)升級內(nèi)在于社會創(chuàng)新之中，正是在跨界、震蕩、沖突式的社會互動中啟發(fā)了技術(shù)進程的向量參數(shù)。沒有人對技術(shù)的想象以及使用，就不存在技術(shù)的社會效應(yīng)。將技術(shù)置于與人類的政治討論與規(guī)劃中進行考察，在一個高度"技術(shù)化"的現(xiàn)代社會中，技術(shù)領(lǐng)域成為了社會權(quán)力斗爭的核心地帶。
圍繞此輪AI革新產(chǎn)生的思潮沖突，正是不同政治愿景與技術(shù)路線斗爭的映射。加速主義的幽靈，也被喚醒，被權(quán)力話語征用，粉墨登場。
參考資料：
https://www.chaincatcher.com/article/2106392
https://mp.weixin.qq.com/s/PXhmtWMgmoqOKSWHSr3LxA
https://science.caixin.com/2023-03-29/102013411.html
https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html
https://36kr.com/p/2548576393435267
https://www.douban.com/note/683380852/?_i=9018651UAxdjDM,9018681UAxdjDM
https://www.vintagecomputer.net/PCC.cfm
https://www.thepaper.cn/newsDetail_forward_2019817
https://foresightnews.pro/article/detail/41642
https://www.effectiveacceleration.org/posts/mHo5wGDBdKc4WbCwJ/the-effective-accelerationism-2-0-specifications
https://www.e-flux.com/journal/46/60070/accelerationist-aesthetics-necessary-inefficiency-in-times-of-real-subsumption/
Machine for a Long Revolution:
Computer as the Nexus of Technology and Class Politics in China 1955-1984
WANG, Hongzhe，2014
鄂公網(wǎng)安備 42010302001612號 