柳倉(cāng)《知然島》：科幻小說(shuō)像宇宙間的一面鏡子

2016年3月，人工智能AlphaGo戰(zhàn)勝了圍棋世界冠軍李世石，這讓身為圍棋愛(ài)好者的柳倉(cāng)感受到了巨大的沖擊。震驚之余，他開(kāi)始思考人工智能對(duì)于人類社會(huì)的意義和影響。在過(guò)去的七年里，媒體人柳倉(cāng)用業(yè)余時(shí)間寫(xiě)下了30萬(wàn)字的科幻小說(shuō)《知然島》。今年8月，《知然島》由湛廬文化出版。

包括歷史上的許多技術(shù)革命在內(nèi)，AlphaGo橫空出世的新聞也出現(xiàn)在小說(shuō)《知然島》中。在柳倉(cāng)看來(lái)，所有的科幻小說(shuō)都是對(duì)于“未來(lái)的編年史”，近兩年來(lái)，以O(shè)penAI為代表的大語(yǔ)言模型人工智能出現(xiàn)爆發(fā)性增長(zhǎng)，“很多我以為屬于未來(lái)一百年的構(gòu)想，都正在（或者已經(jīng)）變成當(dāng)下的現(xiàn)實(shí)，此種情勢(shì)促使我決定，必須加速完成這部作品，即使不能發(fā)表，也至少要奔跑在新世界成形之前，充當(dāng)一名哪怕只是提前了一秒的預(yù)言家，”他在后記里寫(xiě)道。

《知然島》構(gòu)建了一個(gè)21世紀(jì)下半葉的未來(lái)世界。在這個(gè)世界中，極端天氣肆虐全球，人類社會(huì)分裂成三千多處避難所，被稱為“三千隔都”。在災(zāi)難的洗禮下，超智能AI應(yīng)運(yùn)而生，為人類提供無(wú)微不至的服務(wù)，同時(shí)也悄然改變了人類的生活方式和思維模式。人們可以在機(jī)器上進(jìn)行工作、游戲、社交，而機(jī)器則能夠隱蔽而妥善地安排人類遷徙移居等一切瑣碎工作。

面對(duì)未來(lái)，幸存的人類分成兩派，一派堅(jiān)信AI只是一種高級(jí)算法工具，不可能有自我意識(shí)，他們?cè)鲪罕籄I全面控制的生活，認(rèn)為人類會(huì)因此喪失全部的意義；而另一群人主張積極擁抱AI社會(huì)，將罪魁禍?zhǔn)状_定為五千多年來(lái)的文字，認(rèn)為文字是人類文明的歧途，開(kāi)始?xì)缛祟惖奈淖帧Ｔ谑嘏f與革新的沖突中，人類的命運(yùn)如同浮萍一般，飄搖不定，與此同時(shí)，傳說(shuō)中地球上最后一片不受機(jī)器控制的樂(lè)土——知然島時(shí)隱時(shí)現(xiàn)。

“我只能安排這樣的小說(shuō)結(jié)尾，讓AI飛船攜帶人類的數(shù)字意識(shí)散播到宇宙空間，同時(shí)在地球的知然島上，保留人類肉體意識(shí)的最后火種?！绷鴤}(cāng)說(shuō)，“或者說(shuō)，我想暗示的是，人類苛求因果線性而建立的理性世界，在‘并行運(yùn)算’的AI宇宙中，最終只是汪洋里的一座小島。”

柳倉(cāng)

澎湃新聞：根據(jù)介紹，《知然島》寫(xiě)了七八年，這個(gè)過(guò)程中AI經(jīng)歷了飛速的發(fā)展，你在后記中形容是在“加速完成這部作品”，能否先分享一下創(chuàng)作過(guò)程，以及你是如何開(kāi)始關(guān)注人工智能的？

柳倉(cāng)：我是一個(gè)業(yè)余的圍棋棋手，一直關(guān)注圍棋的進(jìn)展。2016年，谷歌AlphaGo擊敗世界圍棋冠軍李世石，一年以后問(wèn)世的AlphaZero更是一騎絕塵。圍棋被稱作“人類智力的圣杯”，人類棋手被人工智能戰(zhàn)勝，這是一個(gè)重要的歷史節(jié)點(diǎn)。當(dāng)時(shí)，我覺(jué)得0和1的二進(jìn)制是宇宙中最基本的算法或者文字，我開(kāi)始構(gòu)思一篇關(guān)于“人類文字消亡”的小說(shuō)。但我意識(shí)到，技術(shù)不可能無(wú)緣無(wú)故地高速發(fā)展，必須要給AI提供一個(gè)契機(jī)，于是我在開(kāi)頭加入氣候?yàn)?zāi)難（一個(gè)技術(shù)突變的“催化劑”），故事情節(jié)隨后就自然展開(kāi)。到2019年年底的時(shí)候，小說(shuō)寫(xiě)了40萬(wàn)字，暫時(shí)停下了。直到ChatGPT出來(lái)以后，那種每天都有新事物的瘋狂氣氛，刺激我把這部小說(shuō)重新拿出來(lái)。2023年3月，我投入了一場(chǎng)分秒必爭(zhēng)的修改中，要將2019年就完成的40萬(wàn)字稿件，刪節(jié)到30萬(wàn)字左右的篇幅。

澎湃新聞：關(guān)于“人類文字消亡”，小說(shuō)里也有很多對(duì)于文字本身的討論，比如甲骨文和金文等，你對(duì)于文字的源頭的興趣來(lái)自哪里？

柳倉(cāng)：我一直對(duì)文字很有興趣，我讀唐諾《文字的故事》時(shí)，第一次全面地接觸到文字起源的歷史。他在這本書(shū)里介紹了甲骨文、金文，提到了其他國(guó)家的文字，還有漢字作為象形文字的優(yōu)缺點(diǎn)，我讀了以后非常有感觸。文字是文明的標(biāo)簽，我們?nèi)祟愒诘厍蛏弦呀?jīng)有幾百萬(wàn)年的歷史，但如果從文字的創(chuàng)造發(fā)明來(lái)看，人類文明的歷史不超過(guò)5000年。

澎湃新聞：《知然島》里人類給AI設(shè)定了“第四條定律”，這條定律是出于對(duì)人類的保護(hù)，但從結(jié)果上看未必順?biāo)烊艘?。你怎樣看待技術(shù)、AI內(nèi)部的價(jià)值觀和它們的善惡？

柳倉(cāng)：“第四條定律”規(guī)定，如果人類遇到危險(xiǎn)的話，AI必須不惜舍棄自己，來(lái)保證人類的完整；而AI認(rèn)為，如果要保證人類的安全，必須盡量回避危險(xiǎn)，為人類提供無(wú)微不至的服務(wù)，后來(lái)又決定把人類全部上載到云端，獲得“永生”。

機(jī)器可能在某些細(xì)節(jié)上有善惡，我認(rèn)為我們作為碳基生命，無(wú)法去評(píng)價(jià)硅基生命的善惡倫理。另一方面，即使是硅基，也遵循二進(jìn)制的邏輯，而這個(gè)邏輯依據(jù)的是人類的設(shè)定，它會(huì)跟著你的設(shè)定做到極致。AI的造物主恰恰是我們?nèi)祟愖约?，是我們所定下的?guī)則，啟動(dòng)了它的進(jìn)化程序。

AI會(huì)涌現(xiàn)自己的意識(shí)嗎？我在書(shū)里寫(xiě)了“新舊之爭(zhēng)”：老一派堅(jiān)信AI只是一種高級(jí)算法工具，不可能有自我意識(shí)，而新一派認(rèn)為AI有自己的意識(shí)，但是它逃脫不了最高的原則。不管用什么手段，它會(huì)實(shí)現(xiàn)你人類所要求的目標(biāo)，這是一個(gè)荒謬的悖論。

澎湃新聞：小說(shuō)里可以通過(guò)上載云端來(lái)獲得自己的“永生”或是復(fù)活家人，你是怎么看這種選擇的？

柳倉(cāng)：我覺(jué)得如果是在現(xiàn)實(shí)世界永生的話，會(huì)破壞人對(duì)生命的敬重——因?yàn)槟愕臅r(shí)間是無(wú)限的，無(wú)論你做什么，到最后都可以挽回，但如果有一個(gè)終點(diǎn)，你會(huì)感到緊迫感，所有的事都會(huì)變得有意義。而關(guān)于云端上的永生，我在小說(shuō)里有一段很長(zhǎng)的描述：“機(jī)器復(fù)生亡者，本是毫無(wú)意義的事情。因?yàn)橐环矫?，你無(wú)論如何也無(wú)法將它恢復(fù)到亡者本來(lái)的面目，即使你能做到，這一團(tuán)數(shù)據(jù)代碼也終究不是亡者本人，因?yàn)橐庾R(shí)、感情、回憶都需要血肉之軀來(lái)承擔(dān)。而另一方面，也許是更重要的方面，如果亡者復(fù)活，在虛擬世界里永生，而我們卻自有一具肉身躺在真實(shí)世界里，終將一個(gè)個(gè)死在黑屋子里，這實(shí)在顯得自相矛盾，充滿諷刺?！?/p>

澎湃新聞：作為創(chuàng)作者，你怎么看創(chuàng)作和AI的關(guān)系？

柳倉(cāng)：原來(lái)我們以為AI會(huì)代替那些低級(jí)的勞動(dòng)力，但是現(xiàn)在，那些需要耐心細(xì)致的勞動(dòng)反而是AI暫時(shí)替代不了的，比如護(hù)士。而像創(chuàng)意類的工作，按照AI現(xiàn)在的發(fā)展，可能十年內(nèi)會(huì)遇到很大的挑戰(zhàn)。我更傾向于AI和人類配合來(lái)完成工作，因?yàn)榈阶詈筮€是需要人與人之間的交流。我覺(jué)得AI會(huì)是一個(gè)助手，就像現(xiàn)在國(guó)際象棋中的“半人馬”比賽，人可以在AI輔助下和同樣有AI輔助的選手比賽。

澎湃新聞：《知然島》是科幻小說(shuō)，也有很多關(guān)于哲學(xué)的討論。有哪些作家或作品對(duì)你產(chǎn)生過(guò)影響？

柳倉(cāng)：我是一個(gè)文學(xué)愛(ài)好者，尤其熱愛(ài)歐美文學(xué)，平時(shí)閱讀的都是?？思{、納博科夫、奈保爾、馬爾克斯、博爾赫斯、卡夫卡、卡爾維諾、托拉爾丘克、門(mén)羅、科塔薩爾等等。有些經(jīng)典作品是經(jīng)得起反復(fù)閱讀的，譬如納博科夫的《洛麗塔》或者里爾克的《布里格手記》。

另一塊深度閱讀的是科普與哲學(xué)作品。麥克盧漢的《理解媒介》、羅韋力的《現(xiàn)實(shí)并不似你所見(jiàn)》、梅拉妮的《復(fù)雜》、布萊恩的《技術(shù)的本質(zhì)》、KK的《科技要什么》，以及本雅明、韓炳哲、丹尼特、平克等人的著作，他們都讓我重新思考人類在這個(gè)世界中的位置。

至于科幻作品，我讀得相對(duì)少一些，記憶中除了劉慈欣、德特姜、韓松的幾部作品，似乎沒(méi)有什么太多印象?？苹眯≌f(shuō)其實(shí)是未來(lái)的寓言，有強(qiáng)烈的警示作用。它對(duì)社會(huì)的重要性，應(yīng)該和超現(xiàn)實(shí)藝術(shù)一樣，就像宇宙間的一面鏡子，能幫助人類避免自戀情結(jié)，認(rèn)清我們?nèi)祟惒贿^(guò)是一個(gè)宇宙發(fā)展的自然過(guò)程，就像其他事物一樣，有出現(xiàn)，就會(huì)有消亡。