美國洛杉磯時(shí)間2026年1月13日，博古睿研究院宣布了2025年博古睿論文獎(jiǎng)公布獲獎(jiǎng)名單，三位得主分別為中文區(qū)的黃鑫、劉驍奔，以及英文區(qū)的阿尼爾·塞斯（Anil Seth）。

本文選取了第二屆博古睿論文獎(jiǎng)的英文獲獎(jiǎng)文章，由薩塞克斯大學(xué)（University of Sussex）認(rèn)知與計(jì)算神經(jīng)科學(xué)教授、意識科學(xué)研究中心主任阿尼爾·塞斯撰寫，由博古睿研究院授權(quán)「神經(jīng)現(xiàn)實(shí)」轉(zhuǎn)載。

幾百年來，人們夢想自己能夠扮演上帝的角色，去創(chuàng)造真實(shí)人類的人工版本。每一次突破性的新技術(shù)浪潮的到來，都會(huì)一次次引燃這個(gè)夢想，而這一次人工智能（AI）帶來的浪潮尤其巨大。至少從某些方面來講，目前我們周圍的AI系統(tǒng)，已經(jīng)算得上具有了智能。我們可以肯定，它們還會(huì)變得越來越智能。但問題是，它們具有，或可能具有意識嗎？

人工意識這個(gè)想法，歷史雖悠久，卻不怎么美好。從猶太神話里的泥人約瑟利，到瑪麗·雪萊的弗蘭肯斯坦、斯坦利·庫布里克《2001太空漫游》里的電腦HAL、亞歷克斯·加蘭的《機(jī)械姬》，以及石黑一雄《克拉拉與太陽》里的機(jī)器人克拉拉，人類文化沒完沒了癡迷于對人工身體與合成心靈的創(chuàng)造——這些被造出來的東西不僅能夠思考，而且有所感受。然而，至少對于牽涉其中的人類而言，事情的進(jìn)展往往沒有那么順利。如果按照目前的道路發(fā)展下去，人工智能可以具有真正的意識，那么，大量麻煩的問題就會(huì)一涌而出。

有人認(rèn)為我們已經(jīng)做到了。2022年接受《華盛頓郵報(bào)》采訪時(shí)，谷歌工程師布萊克·勒莫因（Blake Lemoine）就他當(dāng)時(shí)正在研究的AI系統(tǒng)（一個(gè)名叫LaMDA的聊天機(jī)器人）做出了一個(gè)驚人斷言，他說這個(gè)機(jī)器人具有意識，擁有感受，并且在很重要的意義上，就像是一個(gè)真正的人。1盡管媒體對此爭相報(bào)道，勒莫因的說法卻并未受到嚴(yán)肅對待。谷歌隨后以違反公司保密政策為由，將他解雇了。但AI的車輪卻依舊滾滾向前。

但是勒莫因提出的問題并未消失。因?yàn)橐粋�(gè)人違反了保密政策而解雇他，不意味著他說的就是錯(cuò)的。隨著AI技術(shù)不斷提升，機(jī)器意識這一問題浮現(xiàn)的頻率越來越高。該領(lǐng)域里最前衛(wèi)的思想者大衛(wèi)·查默斯（David Chalmers）認(rèn)為，有意識的機(jī)器在不太遠(yuǎn)的將來就可能出現(xiàn)（文獻(xiàn)1）。AI先驅(qū)、諾貝爾獎(jiǎng)獲得者杰弗里·辛頓（Geoffrey Hinton）甚至認(rèn)為，這已經(jīng)實(shí)現(xiàn)了。22024年末，一群知名學(xué)者發(fā)表了一篇廣為流傳的文章，認(rèn)為有必要嚴(yán)肅對待AI系統(tǒng)的福利問題（文獻(xiàn)2）。對于包括AI專家與神經(jīng)科學(xué)家在內(nèi)的很多人而言，現(xiàn)在的問題在于機(jī)器意識何時(shí)出現(xiàn)，而非能否出現(xiàn)。

我們?nèi)绾慰创幸庾R的人工智能的前景至關(guān)重要。這對于AI系統(tǒng)自身而言是重要的，因?yàn)橐庾R賦予了它們道德地位。這對我們?nèi)祟愐埠苤匾�。如果我們真的覺得我們的AI伴侶能夠感知一些事情，那么我們心理上的脆弱性就可能會(huì)被利用，我們倫理上的輕重緩急也會(huì)被扭曲。如果我們像對待無感覺事物那樣對待看起來有意識的機(jī)器，那么我們自己的心靈也會(huì)變得殘忍。

或許更重要的一點(diǎn)在于，對于AI意識的思考，會(huì)影響我們對于人性的理解，以及我們對于意識經(jīng)驗(yàn)之本性的理解；而生命之所以值得一過，恰恰是因?yàn)槲覀儞碛幸庾R經(jīng)驗(yàn)。如果我們輕易地把自己臣服于被我們創(chuàng)造的機(jī)器，那么在高估了機(jī)器的同時(shí)，我們也低估了自己。

認(rèn)為AI有意識的幾個(gè)誘因

我們究竟為何要開始思考“AI是否可能有意識”這個(gè)話題呢？畢竟，計(jì)算機(jī)與生物有機(jī)體截然不同。而在目前關(guān)于意識為數(shù)不多的共識里，就包括這樣一個(gè)主張：意識的載體是肉體，而不是金屬。

我們認(rèn)為AI可能有意識的第一個(gè)理由，來自我們的心理結(jié)構(gòu)。作為人類，我們知道自己是有意識的，且我們樂于相信我們也是有智能的。因此，我們自然而然認(rèn)為，智能與意識這兩個(gè)東西往往一起出現(xiàn)。但是，二者僅僅在我們身上一起出現(xiàn)，不代表它們總是如此。

智能與意識是不同的事物。智能主要圍繞的是“做事”（doing）：解決字謎、組裝家具、應(yīng)對棘手的家庭狀況、步行去商店——這些都涉及某種類型的智能行為。關(guān)于智能的一個(gè)有用的通行定義如下：智能指的是通過靈活的手段完成復(fù)雜目標(biāo)的一種能力。當(dāng)然還有很多其他定義，但它們都會(huì)強(qiáng)調(diào)一個(gè)系統(tǒng)的功能性能力：一種將特定輸入轉(zhuǎn)化為特定輸出的能力，把事做成！

因此，一個(gè)人工智能系統(tǒng)的好壞，就取決于其完成某種智能行為的能力，盡管這里的行為不僅限于類人的形式。相比之下，通用人工智能（AGI）的概念里，確實(shí)明確了以整體的人為參考對象。AGI的目標(biāo)在于，完全匹配甚至超越人類的認(rèn)知能力（文獻(xiàn)3）。（還有另一個(gè)概念——超級人工智能（ASI），即當(dāng)AI自身進(jìn)化到一種超出我們的理解并且失控時(shí)產(chǎn)生的現(xiàn)象。這種超級智能往往在我們各類未來世界中，伴隨著更為嚴(yán)峻的存在境況而橫空出世。）

與智能不同，意識主要圍繞的是“存在”（being）。半個(gè)世紀(jì)以前，哲學(xué)家托馬斯·內(nèi)格爾（Thomas Nagel）便提出了一個(gè)著名的觀點(diǎn)：“一個(gè)有機(jī)體具有有意識的心靈狀態(tài)，當(dāng)且僅當(dāng)存在某種東西能夠解釋‘作為那個(gè)有機(jī)體是什么樣子’（what it is like to be that organism）”（文獻(xiàn)4）。意識恰恰是正常的清醒狀態(tài)與深度的昏迷狀態(tài)之間的差異。大腦功能，尤其是知覺（如顏色、形狀、味覺、情緒與思想等等）具有體驗(yàn)性的一面，而正是這個(gè)側(cè)面賦予了我們的生命以質(zhì)感與意義，如晴朗天空的蔚藍(lán)色，第一口咖啡的苦澀滋味與刺激感等等。

AI系統(tǒng)在某種程度上確實(shí)具備某種形式的智能，因?yàn)樗鼈冿@然能夠做一些事情，但是要說有“作為ChatGPT的樣子”這回事，就難說得多了。

人們之所以傾向于將智能與意識綁定，可以追溯于三種內(nèi)置的心理偏見：第一種偏見是人類中心主義。我們傾向于透過人類的視角看待事物——將人類的情況當(dāng)作是標(biāo)準(zhǔn)的典范，而不僅僅是多樣的屬性組合在一起的一個(gè)具體例子。第二種偏見是人類例外主義。很不幸，我們習(xí)慣于將人類物種放置于各類序列的頂端，有時(shí)候甚至將其歸入完全不同的一個(gè)序列（如中世紀(jì)的自然階梯觀所說，與其他各類動(dòng)物相比，我們可能更加接近神與天使）。第三種偏見是擬人主義。這是指，僅從一些表淺的相似性出發(fā)，將人類特質(zhì)投射在非人類事物上的傾向。

將這些偏見放在一起考慮，我們要解釋的事情就不奇怪了：當(dāng)事物展現(xiàn)出我們認(rèn)為具有典型人類特征的能力（比如智能）的時(shí)候，我們會(huì)自然而然將我們覺得獨(dú)屬于人類的其他典型特質(zhì)，比如理解、心靈與意識，也投射到那些事物上。

在誘惑我們產(chǎn)生誤導(dǎo)性的直覺這一點(diǎn)上，語言這種智能行為顯得特別有效。這大概是由于語言是人類例外主義的一個(gè)基石。（在特定的立場看來，至少就我們目前所知，尤其是與其他動(dòng)物相比，人類語言確實(shí)看起來體現(xiàn)了不同的秩序。）如OpenAI的ChatGPT或Anthropic的Claude等大語言模型（LLMs），已經(jīng)成為人工意識研究熱潮里的主要焦點(diǎn)。據(jù)我所知，沒有人主張DeepMind的AlphaFold是有意識的，盡管它在底層機(jī)制上與LLM非常相似。所有這些系統(tǒng)都在硅基上運(yùn)行，它們都含有人工神經(jīng)網(wǎng)絡(luò)，以及其他激動(dòng)人心的算法創(chuàng)新，比如Transformer。由于AlphaFold的主要領(lǐng)域是預(yù)測蛋白質(zhì)的結(jié)構(gòu)，而不是語言，因此它無法像其他熱門模型那樣，觸動(dòng)我們的心弦。

我們自己使用的語言也很關(guān)鍵。試想當(dāng)大語言模型生成了錯(cuò)誤信息的時(shí)候，我們會(huì)非常自然地說它產(chǎn)生了“幻覺”。人類所具有的幻覺主要是一種有意識的體驗(yàn)，只不過它沒有與現(xiàn)實(shí)建立穩(wěn)健的連接（有人稱之為“不受控的知覺”）。當(dāng)我們聽到不存在的聲音時(shí)，當(dāng)我們眼前浮現(xiàn)出逝去親人站在床腳時(shí)，我們就處于幻覺狀態(tài)。當(dāng)我們說AI系統(tǒng)有“幻覺”時(shí)，我們已隱隱地賦予其一種擁有體驗(yàn)的能力。如果非要類比于人，說它們在“瞎扯”（confabulate）或許準(zhǔn)確得多。對人而言，瞎扯就意味著編造一些東西，卻沒有意識到自己是在胡編亂造。這里涉及的主要是“做”，而不是“體驗(yàn)”。

當(dāng)我們將意識體驗(yàn)與據(jù)說獨(dú)屬于人的屬性（如智能或語言）相等同時(shí)，在意識明明不存在的地方，我們更容易覺得自己找到了意識；而在意識的確存在的地方，反而會(huì)錯(cuò)過它。可以肯定，我們不應(yīng)簡單地預(yù)設(shè)，隨著AI越來越智能（聰明），意識一定會(huì)隨之而來。如果你聽到有人說真正的人工意識會(huì)在AGI發(fā)展的某一個(gè)臨界點(diǎn)突然涌現(xiàn)出來，那肯定是人類例外主義在作祟。

也有其他偏見在起作用。一種有力的觀點(diǎn)認(rèn)為，AI里的一切都在經(jīng)歷指數(shù)級的變化。無論是摩爾定律衡量的原始算力，還是每次大型科技基礎(chǔ)模型迭代帶來的新功能，技術(shù)的變化確實(shí)非�？焖佟Ｖ笖�(shù)級的增長動(dòng)搖了我們心理上的安全感，讓我們覺得我們曲線前方的圖景總是更加陡峭，而過去的發(fā)展顯得稀松平常。關(guān)鍵在于，不論你在曲線的哪一個(gè)位置，情況一直是這樣——這就是指數(shù)級增長的本質(zhì)。恰恰是由于這個(gè)特點(diǎn)，我們的心理總傾向于去相信自己正處在重大轉(zhuǎn)變的拐點(diǎn)上——而有什么轉(zhuǎn)變能比創(chuàng)造出真正的人工意識更加“重大”呢？但是，在一條指數(shù)曲線上，每個(gè)點(diǎn)都是轉(zhuǎn)折點(diǎn)。3

最后，技術(shù)狂熱主義也頗具誘惑性。在電影《機(jī)械姬》開頭，程序員凱勒對發(fā)明家內(nèi)森說：“如果你創(chuàng)造出了有意識的機(jī)器，那不是人類的歷史，而是造物主的歷史�！比绻覀兏杏X我們身處一個(gè)技術(shù)－歷史的拐點(diǎn)，且我們恰巧是其中的一位建筑師，那么，那種普羅米修斯式的誘惑——那種給人類帶去曾經(jīng)只屬于天國之物的感覺——必定是極難抵御的。隨著奇點(diǎn)的到來，那種狂喜帶來的標(biāo)志性成果就是永生——承諾我們可以逃離日漸腐朽的生物性身體并永遠(yuǎn)活下去（或至少是存在下去），在硅基云端達(dá)到永恒。這或許解釋了這套“機(jī)器意識即將到來”的宣言為什么在技術(shù)圈內(nèi)，而不是圈外更加流行。

學(xué)者亞當(dāng)·別克（Adam Becker，文獻(xiàn)5）將這種把意識投射給AI的傾向描述為一種幻想性視錯(cuò)覺（pareidolia）——一種在事物中看出特定模式的現(xiàn)象，比如從一片吐司里看出一張臉，或者在一個(gè)肉桂面包里看到特蕾莎修女等（圖1）。這是一個(gè)貼切的描述。但是，承認(rèn)我們具有引發(fā)視錯(cuò)覺的心理偏見僅僅是第一步。為了處理真正的人工意識到底是否可能這個(gè)問題，我們需要更深入的探索。

圖1: 肉桂面包里的特蕾莎修女

意識與計(jì)算

“有意識的人工智能”這個(gè)想法，預(yù)設(shè)了意識是一種計(jì)算或“信息處理”。更具體而言，它預(yù)設(shè)了只要提供某種恰當(dāng)類型的計(jì)算，就足以讓意識從中產(chǎn)生。這一預(yù)設(shè)被哲學(xué)家稱為計(jì)算功能主義（computational functionalism，文獻(xiàn)6）。該預(yù)設(shè)處于理論非常底層的位置，以至于要意識到這個(gè)預(yù)設(shè)本身就很難。但這個(gè)預(yù)設(shè)就是計(jì)算功能主義，事實(shí)就是如此。如果如我所認(rèn)為的那樣，這個(gè)預(yù)設(shè)錯(cuò)了，那么真正的人工意識根本無從談起，至少對于我們熟悉的AI形態(tài)而言就是這樣。

要挑戰(zhàn)計(jì)算功能主義，就要深入討論什么是“計(jì)算”，并理解對于一個(gè)計(jì)算機(jī)或大腦這樣的物理系統(tǒng)而言，“做計(jì)算”到底是什么意思。根據(jù)那個(gè)預(yù)設(shè)，計(jì)算（至少是我們熟悉的那種計(jì)算）對于意識是充分的。接下來，我將概述四種相關(guān)的直覺，來動(dòng)搖上述預(yù)設(shè)。

直覺1：大腦不是計(jì)算機(jī)

首先也是最重要的是，大腦不是計(jì)算機(jī)。大腦是一個(gè)碳基計(jì)算機(jī)這個(gè)隱喻，影響巨大，并且看起來很有吸引力：心靈是軟件，大腦是硬件（文獻(xiàn)7）。這個(gè)隱喻產(chǎn)生了很多豐碩的成果，它為我們理解大腦的功能提供了許多洞見，也啟迪了當(dāng)今大部分AI。為了理解這個(gè)隱喻的深刻影響并發(fā)現(xiàn)其局限，我們回到早期的計(jì)算機(jī)科學(xué)與神經(jīng)生物學(xué)，重訪那些先驅(qū)們的思想。

這個(gè)故事里的巨人，非阿蘭·圖靈（Alan Turing）莫屬。早在20世紀(jì)50年代，他就萌生了機(jī)器可能具有智能的想法（文獻(xiàn)8）。這比他提出關(guān)于計(jì)算的正式定義還要早十幾年，他提出的定義后來成了我們技術(shù)的基礎(chǔ)，并定義了后世所理解的計(jì)算機(jī)（文獻(xiàn)9）。

圖靈對于計(jì)算的定義是極其有力且高度普適的（盡管我們將看到，也不是完全普適）。它涉及的是將一個(gè)數(shù)集映射到另一個(gè)數(shù)集——換句話說就是一種算法。我正在使用的筆記本電腦，以及運(yùn)行最新AI模型的服務(wù)器，都奠基于“通用圖靈機(jī)”這個(gè)抽象概念之上�！巴ㄓ脠D靈機(jī)”指的是，一個(gè)原則上能夠運(yùn)行任何算法的系統(tǒng)。這種滿足通用目的的能力，是圖靈計(jì)算強(qiáng)大且無處不在的一個(gè)原因。

這個(gè)概念從實(shí)際的工程學(xué)角度來說，還有另一個(gè)主要優(yōu)點(diǎn)，即它可以用來清晰地區(qū)分軟件與硬件。圖靈計(jì)算——算法——應(yīng)當(dāng)做同樣的事情，與具體在什么計(jì)算機(jī)上運(yùn)行無關(guān)。圖靈計(jì)算原則上獨(dú)立于具體基質(zhì)，它不依賴于任何具體的物質(zhì)材料。（實(shí)踐來說，圖靈計(jì)算最好被描述為具有一定的基質(zhì)“靈活性”，但你并不能從隨便任何材料里建構(gòu)出一臺可用的計(jì)算機(jī)，比如奶酪就無法勝任。）圖靈計(jì)算的這一特質(zhì)使得它在實(shí)踐中非常有用，這就是為什么計(jì)算機(jī)可以出現(xiàn)在手機(jī)上，而不僅僅存在于我們的心靈中。

就在圖靈留下其歷史印記的同一時(shí)期，神經(jīng)生物學(xué)家沃爾特·皮茨（Walter Pitts）和沃倫·麥卡洛克（Warren McCulloch）在一篇具有里程碑意義的論文中指出，由高度簡化、抽象的“神經(jīng)元”組成的網(wǎng)絡(luò)可以進(jìn)行邏輯操作（文獻(xiàn)10，圖2）。學(xué)者S. C. 克萊尼（S. C. Kleene）后來證明，這些人工神經(jīng)網(wǎng)絡(luò)具有“圖靈完備性”（Turing complete），即它們理論上可以實(shí)現(xiàn)任何圖靈計(jì)算與算法（文獻(xiàn)11）。

圖2：麥卡洛克-皮茨網(wǎng)絡(luò)。輸入信號X1-X4，乘以權(quán)重w，和一個(gè)偏差量（另一個(gè)輸入）一起求和，然后經(jīng)過一個(gè)激活函數(shù)，通常是某種Sigmoid函數(shù)（‘S’形曲線），最終得到輸出Y。

把這些想法合在一起，我們就獲得了在數(shù)學(xué)上兼具便捷性、有效性、簡單性以及美感的“強(qiáng)強(qiáng)聯(lián)姻”。一方面，我們可以忽略復(fù)雜的關(guān)于大腦的神經(jīng)生物學(xué)，只把它當(dāng)作簡化的抽象神經(jīng)網(wǎng)絡(luò)，每個(gè)神經(jīng)元只是整合輸入然后再輸出。另一方面，這樣可以使得我們獲得圖靈計(jì)算能夠提供的一切——而這本身已經(jīng)足夠了。

這種強(qiáng)強(qiáng)聯(lián)姻的好處，清楚體現(xiàn)在了它所生的孩子們身上——如今AI驅(qū)動(dòng)的那些人工神經(jīng)網(wǎng)絡(luò)。它們直接繼承了麥卡洛克、皮茨與克萊尼的遺產(chǎn)，同時(shí)也具有圖靈意義上的基質(zhì)靈活性。因此毫不令人意外，“大腦無非就是神經(jīng)網(wǎng)絡(luò)算法的碳基版本”這一想法，通過目前AI浪潮所帶來的種種令人印象深刻的誘惑，而被不斷地強(qiáng)化。

但這里就開始有麻煩了。當(dāng)我們觀察大腦內(nèi)部的時(shí)候，并沒有發(fā)現(xiàn)類似于軟件與硬件的、所謂“心件”（mindware）與“濕件”（wetware）的明顯區(qū)分。我們對于生物大腦的復(fù)雜性了解越多，就越會(huì)發(fā)現(xiàn)，里面的豐富性與動(dòng)態(tài)性遠(yuǎn)超無生命的一堆硅。

大腦活動(dòng)模式的演化，發(fā)生在多個(gè)空間與時(shí)間尺度上——從大規(guī)模的皮層區(qū)域，到神經(jīng)遞質(zhì)和神經(jīng)回路的細(xì)枝末節(jié)——所有這些，都與分子層面的激烈的代謝活動(dòng)深度交織在一起。即使是單一的某個(gè)神經(jīng)元，也具有令人嘆為觀止的復(fù)雜性。作為一部生物機(jī)器，它始終在繁忙地運(yùn)作與調(diào)控，維持著自身存在的統(tǒng)一性與延續(xù)性。4

與計(jì)算機(jī)（即使是運(yùn)行神經(jīng)網(wǎng)絡(luò)算法的計(jì)算機(jī)）不同，對于大腦這東西而言，區(qū)分其“所做”與“所是”是非常困難甚至是不可能的。

事實(shí)上，我們也沒有好的理由指望這樣的一種清晰區(qū)分�，F(xiàn)代計(jì)算機(jī)里所謂軟件與硬件的清晰區(qū)分，是人類根據(jù)圖靈提出的原理設(shè)計(jì)出來并外加于計(jì)算機(jī)的。生物進(jìn)化遵從不同的限制，并且具有不同的目標(biāo)。從進(jìn)化的視角來看，并不存在明顯的選擇壓力能夠使得不同的大腦類似于不同的計(jì)算機(jī)：就計(jì)算機(jī)而言，硬件與軟件的區(qū)分可以使得不同計(jì)算之間具有完美的互操作性，但是不同大腦之間并不存在這樣的互操作性。事實(shí)上，情況恰恰相反：與大腦的自然進(jìn)化不同，持續(xù)維護(hù)軟件與硬件的明確區(qū)分十分耗費(fèi)能源——從現(xiàn)代服務(wù)器農(nóng)場所需要的巨額預(yù)算中，這昭然若揭。

這一點(diǎn)很重要，因?yàn)槟欠N認(rèn)為大腦就是人肉圖靈機(jī)的想法，恰恰來自尺度上的清晰區(qū)分，來自圖靈一開始定義計(jì)算機(jī)時(shí)所強(qiáng)調(diào)的那種基質(zhì)獨(dú)立性。如果你無法區(qū)分大腦之所做與大腦之所是，那么上面所說的那種簡潔性與功能性的數(shù)學(xué)聯(lián)姻，就會(huì)分崩離析。相對應(yīng)地，我們更沒有理由去認(rèn)為，生物“濕件”的意義就是單純服務(wù)于算法“心件”。

真實(shí)大腦在多個(gè)尺度上的深度整合性——哲學(xué)家有時(shí)稱之為“生成性固守”（generative entrenchment，文獻(xiàn)13）的另一個(gè)后果在于，下面這種情況也將變得不可能：用一個(gè)硅基對應(yīng)體去替換某一個(gè)神經(jīng)元后，依舊可以完美地保持該神經(jīng)元的功能，保持其輸入輸出的行為。5比如，某些神經(jīng)元會(huì)通過尖峰放電去清除新陳代謝所產(chǎn)生的廢物（文獻(xiàn)14）。如果想要用一個(gè)完美的硅去替代這些神經(jīng)元，就要求我們創(chuàng)造出一種基于硅的全新代謝機(jī)制，但硅可能根本不適合做這種事情。無縫替代一個(gè)生物神經(jīng)元的唯一方法，就是使用另一個(gè)生物神經(jīng)元，更理想而言，只能用同一個(gè)神經(jīng)元。

這一點(diǎn)的重要性在于，它揭示了那種流行的“神經(jīng)元替代”思想實(shí)驗(yàn)里的薄弱之處。我們被誘導(dǎo)去想象這樣一種情景：大腦的各個(gè)部分被功能上的硅基對應(yīng)物逐步替代（文獻(xiàn)15）。這個(gè)思想實(shí)驗(yàn)試圖說明的結(jié)論是，認(rèn)知或意識這類屬性也具有基質(zhì)獨(dú)立性（或者對于硅而言，具有基質(zhì)靈活性）。這類思想實(shí)驗(yàn)在今天的人工意識研究中占據(jù)顯要位置，它試圖支持人工意識的可能性。杰弗里·辛頓最近在一個(gè)采訪里援引了這一觀點(diǎn)，他聲稱有意識的AI已經(jīng)在我們周圍出現(xiàn)了。6但是一旦我們注意到用完美的硅去替代大腦的任何部分其實(shí)都不可能，這個(gè)論證一開始就會(huì)不成立。7

還有一點(diǎn)值得說明：在與時(shí)間的關(guān)系上，數(shù)字計(jì)算機(jī)與大腦差異巨大。在圖靈世界里，重要的只有序列：A到B，0到1。任意的兩個(gè)狀態(tài)轉(zhuǎn)化之間，可能間隔1微秒或一百萬年，但它們依舊是同一個(gè)算法，同一個(gè)計(jì)算。但是對于大腦或一般性的生物系統(tǒng)而言，時(shí)間是物理的、連續(xù)的、無處不在的。生命系統(tǒng)必須在熵增的軌道上，持續(xù)地對抗衰老與無序，因?yàn)闊崃W(xué)第二定律是不可違背的。這意味著神經(jīng)生物學(xué)活動(dòng)與設(shè)計(jì)出來的算法不同，前者依賴連續(xù)性的時(shí)間。8此外，如哲學(xué)家們很早就強(qiáng)調(diào)過的（文獻(xiàn)17），意識經(jīng)驗(yàn)自身具有豐富的動(dòng)態(tài)性與內(nèi)在的時(shí)間性。它是流動(dòng)的，而不是從一個(gè)狀態(tài)跳閃到另一個(gè)。將大腦抽象成枯燥的算法與序列空間，既歪曲了生物學(xué)，也歪曲了意識流的現(xiàn)象學(xué)。

隱喻最終只是隱喻，一旦混淆了隱喻與物自體，我們就總是容易陷入困境。通過“圖靈眼鏡”去分析大腦，將會(huì)低估其生物上的復(fù)雜性，同時(shí)高估其發(fā)揮功能時(shí)所具有的基質(zhì)靈活性。當(dāng)我們真正從大腦本身出發(fā)理解大腦的時(shí)候，就會(huì)發(fā)現(xiàn)，那種認(rèn)為多尺度的生物活動(dòng)無非是實(shí)現(xiàn)抽象算法的一個(gè)底層硬件的想法，看起來相當(dāng)幼稚。大腦并不是肉制圖靈機(jī)。

直覺2：市面上的其他競爭理論

第二個(gè)直覺是，目前存在其他的理論可能性。我先前提到，圖靈計(jì)算功能強(qiáng)大，但具有局限性。圖靈計(jì)算——算法——在一組有限離散數(shù)字與另一組數(shù)字之間建立映射，只強(qiáng)調(diào)序列的意義。圖靈算法誠然有效，但存在超出此種計(jì)算的很多類別的動(dòng)力學(xué)特性與函數(shù)。圖靈本人就發(fā)現(xiàn)了很多不可計(jì)算函數(shù)，比如著名的“停機(jī)問題”，即在一般情形下，是否存在一種方法來判定某個(gè)算法在給定特定輸入的情況下是否會(huì)終止（文獻(xiàn)9）。令人震驚的是，凡是連續(xù)的（無限可分的）或隨機(jī)的（具有內(nèi)在不確定性）函數(shù)，都不屬于圖靈計(jì)算所能涵蓋的范圍。（算法確實(shí)可以模擬非計(jì)算過程，但模擬并不等于生成或?qū)崿F(xiàn)該過程；這一點(diǎn)將在后文第四種直覺中詳述。）

生物系統(tǒng)充斥著連續(xù)的或隨機(jī)的動(dòng)力學(xué)過程，它們深嵌于物理時(shí)間之中。認(rèn)為只有嚴(yán)格意義上的圖靈可計(jì)算過程才與意識或認(rèn)知、心靈的某些方面有關(guān)，顯得非常武斷。電磁場、神經(jīng)遞質(zhì)流以及其他許多過程，都超出了算法的邊界，但它們在理解意識方面都可能具有關(guān)鍵作用。

這些限制鼓勵(lì)我們以更寬廣的視角去理解大腦，在理解其工作機(jī)理的時(shí)候，超越圖靈世界，去考慮更寬泛意義上的計(jì)算與動(dòng)力學(xué)形式。這里有著豐富的歷史經(jīng)驗(yàn)可供參考，未來也激動(dòng)人心。

最早的計(jì)算機(jī)并非數(shù)字圖靈機(jī)，而是一種在連續(xù)時(shí)間里運(yùn)作的模擬裝置。一個(gè)極佳的例子是約2000年前、用于天文計(jì)算的“安提凱希拉天體儀”（Antikythera mechanism）。9

模擬計(jì)算機(jī)的再度興起是在AI早期，以被現(xiàn)在忽視的“控制論”形式出現(xiàn)；其核心是反饋與控制，而不是抽象的符號操作（文獻(xiàn)18）。最近，神經(jīng)形態(tài)計(jì)算（neuromorphic computation）重新興起（文獻(xiàn)19），它利用了神經(jīng)系統(tǒng)中比當(dāng)前人工神經(jīng)網(wǎng)絡(luò)方法所采用的那種“卡通化”神經(jīng)元模型更為細(xì)致的特性。較新的“可朽計(jì)算”（mortal computation）概念則強(qiáng)調(diào)，通過開發(fā)與其物質(zhì)基質(zhì)不可分割的算法，我們有希望實(shí)現(xiàn)能耗節(jié)約；所以當(dāng)某一具體基質(zhì)不再存在時(shí)，那些算法也會(huì)“死掉”（文獻(xiàn)20）。

圖3：瓦特調(diào)速器（Watt Governor）。它并不是一臺計(jì)算機(jī)。

有很多正常發(fā)揮功用的系統(tǒng)，人們并不會(huì)將它們叫作“計(jì)算”系統(tǒng)，因?yàn)槟菢幼鰶]有必要或者用處不大。約三十年前，認(rèn)知科學(xué)家蒂姆·凡·杰爾德（Tim Van Gelder）通過蒸汽機(jī)調(diào)速器的形式，給出了一個(gè)經(jīng)典案例（圖3，文獻(xiàn)21）。這些調(diào)速器通過簡單的機(jī)械結(jié)構(gòu)和物理原理來調(diào)節(jié)蒸汽在發(fā)動(dòng)機(jī)中的流量：當(dāng)發(fā)動(dòng)機(jī)轉(zhuǎn)速升高時(shí)，兩顆沉重的懸臂球會(huì)向外擺動(dòng)，關(guān)閉閥門，減少氣流。相比之下，如果我們采用“計(jì)算式調(diào)速器”，讓它先感知轉(zhuǎn)速，再計(jì)算所需的控制操作，然后發(fā)送精確的信號來開啟或關(guān)閉執(zhí)行器，不僅會(huì)極其低效，而且會(huì)完全誤解真實(shí)的運(yùn)作機(jī)制。

與凡·杰爾德的洞見相呼應(yīng)，圍繞“動(dòng)力學(xué)系統(tǒng)”的認(rèn)知科學(xué)研究、強(qiáng)調(diào)心靈之生成性（enactive）、具身性（embodied）、嵌入性（embedded）和延展性（extended）的研究（所謂4E認(rèn)知科學(xué)），都會(huì)拒斥完全用算法去解釋心靈與大腦。它們都嘗試基于研究連續(xù)動(dòng)力學(xué)過程的數(shù)學(xué)——如吸引子、相空間等（文獻(xiàn)22，23）——去探索其他可能性。對于意識而言，大腦的這些特征都是必要的，而它們依賴的是非計(jì)算性的過程，或者說，一種寬泛意義上的計(jì)算（文獻(xiàn)24）。10

這些其他的市面理論與哲學(xué)上所謂的功能主義仍然是相容的，即認(rèn)為心靈的屬性（包括意識）依賴于大腦的功能架構(gòu)（文獻(xiàn)27）。這個(gè)領(lǐng)域里有一個(gè)容易導(dǎo)致混淆的傾向，那就是將十分自由的功能主義立場與“計(jì)算功能主義”等同。前者所謂的“功能架構(gòu)”可以包含很多東西，而后者則給前者添加了一個(gè)額外的設(shè)定，即唯一有效的架構(gòu)一定是計(jì)算性的，然后進(jìn)一步就轉(zhuǎn)化成了特定的圖靈計(jì)算（文獻(xiàn)6）。

機(jī)器意識的問題在這里的挑戰(zhàn)在于，我們的探索越是遠(yuǎn)離圖靈世界，我們就面臨越多的隨機(jī)性、動(dòng)力學(xué)特性與熵，就越是要去了解某一物質(zhì)基質(zhì)的具體特性。問題不再是何種算法能夠產(chǎn)生意識，而是轉(zhuǎn)化成：對于一個(gè)類似于大腦的系統(tǒng)，如果想要實(shí)現(xiàn)具有意識的潛能，它究竟應(yīng)該是什么樣子的？

直覺3：生命很重要

我的第三個(gè)直覺是，生命（大概率而言）是重要的。這里指的是，生命的屬性對于意識而言是必要的，雖然未必是充分的——這個(gè)想法被哲學(xué)家約翰·塞爾（John Searle）稱為“生物學(xué)自然主義”（biological naturalism，文獻(xiàn)28）。我在此首先要聲明，我并沒有一個(gè)支持該立場的板上釘釘?shù)恼撟C，且我覺得根本上不存在這類論證。但這個(gè)立場值得嚴(yán)肅對待，至少出于一個(gè)前文提到的簡單原因：目前大多數(shù)人公認(rèn)的具有意識的那些對象，都同時(shí)也是有生命的。

意識為什么需要有生命呢？關(guān)于這一點(diǎn)要說的還有很多（文獻(xiàn)16，29），但由于篇幅有限，我只展開講其中的一個(gè)思路。

我們可以從這樣的一個(gè)觀察開始：我們有意識地知覺到的關(guān)于世界的信息，取決于大腦“最佳猜測”，而不是一種對于感覺輸入的直接“讀取”。這來自著名的“預(yù)測加工”理論。該理論認(rèn)為，基于對原因的預(yù)測，大腦會(huì)持續(xù)對接收到的感官輸入進(jìn)行解釋與更新（文獻(xiàn)30，31）。此處，感官信號被詮釋為一種預(yù)測誤差，反映在各知覺層次上，大腦所期待的內(nèi)容與其實(shí)際獲得的內(nèi)容之間存在差異，而大腦會(huì)隨時(shí)隨地不斷調(diào)整，將這類預(yù)測誤差最小化。這種觀點(diǎn)認(rèn)為，意識經(jīng)驗(yàn)屬于一種“受控幻覺”——一種從頂部到底部、從內(nèi)部到外部的知覺推理，其中大腦關(guān)于當(dāng)下發(fā)生之事的預(yù)測會(huì)不斷被感覺信號校準(zhǔn)（文獻(xiàn)16）。

圖4：作為受控幻覺的知覺。對于咖啡杯的意識經(jīng)驗(yàn)，根植于大腦對于感覺數(shù)據(jù)起因（黑色箭頭）的預(yù)測（灰色箭頭）。

讓我們繼續(xù)看：這類知覺上的“最佳猜測”不僅成就了關(guān)于世界的經(jīng)驗(yàn)，也成就了“自我”的經(jīng)驗(yàn)，即成為經(jīng)驗(yàn)主體的那種經(jīng)驗(yàn)。一個(gè)典型的例子就是關(guān)于身體的知覺：身體既是世界內(nèi)的一個(gè)對象，也是自我性的某些重要維度（如情感與情緒）更基本的來源。這些維度都是一種知覺的“最佳猜測”形式：關(guān)于什么屬于或不屬于身體的一部分的推理，關(guān)于身體之內(nèi)生理狀況的推理——這一過程也被叫作“內(nèi)感推理”（interoceptive inference）（文獻(xiàn)32）。11

知覺預(yù)測不僅有助于識別什么正在發(fā)生，也有助于控制與調(diào)節(jié)：當(dāng)你能夠預(yù)測時(shí)，你就能夠控制。這最主要適用于對身體生理狀態(tài)的預(yù)測，因?yàn)榇竽X的首要職責(zé)就是保證身體處于活著的狀態(tài)，保證特定的生理指標(biāo)（比如心率與血氧）處于合理的區(qū)間。從我們的具身體驗(yàn)所感受到的樣子本身出發(fā)，這些也是可以理解的。比如，與視覺不同，情感與情緒的經(jīng)驗(yàn)主要是通過效用價(jià)值（如情況是變好，還是變壞）來刻畫的（文獻(xiàn)34）。

這種生命的驅(qū)動(dòng)力并不產(chǎn)生于某個(gè)特定的底層；它遍布在每一個(gè)細(xì)胞里，遍布在代謝之分子熔爐里。將預(yù)測誤差最小化，是生命烈焰里一直存在的過程，它與生命的物質(zhì)性本身密不可分。生物材料的自生特征，與支撐我們知覺經(jīng)驗(yàn)的貝葉斯機(jī)制之間，存在著直接的數(shù)學(xué)關(guān)聯(lián)。12

這些思路現(xiàn)如今交融在一起。首先，我們依稀看到了解釋生命與解釋意識之間的聯(lián)系。關(guān)于情感或情緒的意識經(jīng)驗(yàn)，甚至最基本的“活著的感受”，都與身體控制及調(diào)節(jié)過程中所體現(xiàn)的知覺預(yù)測完美對應(yīng)。第二，知覺預(yù)測背后的過程可能與我們的生物本性深度綁定在一起；作為生物系統(tǒng)，我們持續(xù)地對抗著熵增，不斷進(jìn)行著自我的重生。第三，這一切都是非計(jì)算性的，至少是非算法性的。在真實(shí)身體與真實(shí)大腦中，預(yù)測誤差的最小化是一個(gè)連續(xù)動(dòng)力學(xué)過程。它很可能與其物質(zhì)基礎(chǔ)密不可分，而并不單單是純粹算法（那些只存在于純凈宇宙里的序列與符號）的一個(gè)肉體實(shí)現(xiàn)。13

把這些放在一起考慮，就會(huì)獲得這樣的一個(gè)圖景：我們對于周遭世界的體驗(yàn)，以及對于沉浸在其中的自我體驗(yàn)，都是通過（through）、伴隨（with）且依憑于（because of）活生生的身體而展開的�；蛟S能夠點(diǎn)燃意識方程的，并不是信息處理，而是生命本身。

直覺4：模擬不是例示

第四個(gè)也是最后一個(gè)直覺，把握起來相對容易，即承認(rèn)模擬（simulation）不同于例示（instantiation）。由于其通用性，圖靈計(jì)算機(jī)最強(qiáng)大的能力之一就是能夠模擬任何事物，甚至是（或者說尤其是）本身非計(jì)算性的事物。但是我們不應(yīng)混淆地圖與真實(shí)的地表，不應(yīng)混淆模型與實(shí)際的機(jī)制。

計(jì)算性模擬一般缺乏被模擬物的因果效力與內(nèi)在屬性。對一個(gè)消化系統(tǒng)的模擬，實(shí)際上并不能消化任何東西。對暴風(fēng)雨的模擬，并不能弄濕任何事物。如果我們模擬一個(gè)活著的被造物，我們并沒有因此創(chuàng)造生命。一般而言，一個(gè)對X的計(jì)算性模擬，并不會(huì)導(dǎo)致X的存在；或者說，并不會(huì)例示（instantiate）X，除非X本身就代表著那個(gè)計(jì)算過程（算法）。換個(gè)方向說，X能被計(jì)算式模擬這一事實(shí)，并不代表X本身就是計(jì)算性的。

在多數(shù)情況下，模擬與例示的區(qū)分顯而易見，沒有爭議。就意識而言也理應(yīng)如此。一個(gè)關(guān)于大腦或身體的計(jì)算性模擬，無論做得多么細(xì)致，只有在意識的本質(zhì)就是計(jì)算的時(shí)候，才能夠產(chǎn)生意識。換句話說，想要成功通過某種高精度的“全腦模擬”去例示意識，已經(jīng)預(yù)設(shè)了計(jì)算功能主義。但我們在論述第一個(gè)直覺時(shí)已經(jīng)說了，這個(gè)假設(shè)很可能是不成立的，尤其不應(yīng)被接受為一條公理。

這便揭示了“大腦作為計(jì)算機(jī)”這個(gè)隱喻的貧乏之處。如果你認(rèn)為關(guān)于大腦，一切要緊的東西都可以通過抽象的神經(jīng)網(wǎng)絡(luò)加以刻畫，那么認(rèn)為對大腦的模擬能夠例示所有大腦的屬性（包括意識）將看起來十分自然。因?yàn)樵谶@種情況下，事物的計(jì)算性已被預(yù)設(shè)好了。這就是通過圖靈眼鏡看的大腦。然而，如果你感興趣的是更為精致的大腦模型，其中每一個(gè)神經(jīng)元與其他精細(xì)的生物物理過程所體現(xiàn)出來的復(fù)雜性，都可以得到刻畫，那么認(rèn)為模擬大腦可以實(shí)現(xiàn)大腦的屬性，就顯得沒那么自然了。因?yàn)槟菢泳履Ｐ偷挠腥ぶ幥∏≡谟冢砻�，除了圖靈計(jì)算，依舊存在著其他重要的事情。

因此，夢想將心靈意識上傳到高精度的模擬大腦，并投入大量資本，以便于能在硅基王國獲得永生的人們，可能面臨一個(gè)矛盾——如果真的存在一個(gè)十分精致的大腦模型，那么你在其中存在的概率，并不高于英國氣象局的計(jì)算機(jī)里能夠產(chǎn)生一場冰雹的概率。

但是，請大家坐穩(wěn)！有沒有可能，萬事萬物早已全部處于模擬之中？可不可能我們整個(gè)宇宙，包括星球里的幾十億身體、大腦與心靈，以及冰雹與氣象局的計(jì)算機(jī)，全部都是一個(gè)高級計(jì)算機(jī)模擬出來的代碼片段？而這個(gè)計(jì)算機(jī)可能正在被神一樣的技術(shù)狂人操控著？這就是“模擬假說”，其主要提出者是哲學(xué)家尼克·博斯特羅姆（Nick Bostrom，文獻(xiàn)37）。這個(gè)想法仍然風(fēng)行于技術(shù)圈。

博斯特羅姆指出，如果上述模擬真的發(fā)生過，類似情況的數(shù)量將遠(yuǎn)遠(yuǎn)多于一開始的“基底現(xiàn)實(shí)”。這反過來說明，我們生活在模擬世界里的概率遠(yuǎn)高于實(shí)在本身。他整理了很多統(tǒng)計(jì)學(xué)論證去發(fā)展這個(gè)想法。但值得注意的是，他曾指出這些論證所需要的一個(gè)必要前提，卻默認(rèn)它是成立的�；蛟S有點(diǎn)令人意外，這個(gè)前提就是：“一個(gè)運(yùn)行了合適程序的計(jì)算機(jī)，將具有意識”（文獻(xiàn)同上，p.2）。但如果這個(gè)假設(shè)不成立，我們具有意識這一簡單事實(shí)，就足以證明我們并不處于模擬世界之中。在哲學(xué)家仔細(xì)討論各類假設(shè)的有效性的時(shí)候，這么強(qiáng)的一個(gè)假設(shè)，居然在沒有被仔細(xì)考察的情況下被直接接受了。這一事實(shí)本身就暗示了關(guān)于心靈與大腦的計(jì)算主義對我們產(chǎn)生的深遠(yuǎn)影響。這也表明，當(dāng)我們不能成功區(qū)分現(xiàn)實(shí)的模型與現(xiàn)實(shí)的本身時(shí)，就會(huì)將自己陷入存在性的混亂。

讓我們來總結(jié)一下。許多社會(huì)與心理學(xué)要素，包括已經(jīng)被充分理解的認(rèn)知偏見，會(huì)令我們傾向于過度向機(jī)器投射意識。計(jì)算功能主義（主張算法計(jì)算足以產(chǎn)生意識）是一個(gè)非常強(qiáng)的預(yù)設(shè)，但一旦考慮到大腦與（經(jīng)典）計(jì)算機(jī)許多深刻的差異之后，這個(gè)預(yù)設(shè)就會(huì)被動(dòng)搖。存在著很多其他的市面理論，既涉及不同的技術(shù)（如神經(jīng)形態(tài)計(jì)算、腦類器官等），也涉及理解大腦的不同框架（如動(dòng)力學(xué)系統(tǒng)理論）。將關(guān)于知覺的預(yù)測加工理論與生理學(xué)上的調(diào)節(jié)與代謝理論相結(jié)合，我們會(huì)看到一種新的可能性，也就是說，意識與我們作為活生物這一本性密切相關(guān)。最終，無論多么精細(xì)，模擬意識的生物學(xué)機(jī)制并不能帶來真正的意識，除非計(jì)算功能主義恰好成立。

上述每一處直覺都可以單獨(dú)成立。你或許可以贊成反計(jì)算功能主義的論證，同時(shí)卻不支持生物自然主義。模擬與例示的區(qū)分，也不依賴于對我們認(rèn)識偏見的承認(rèn)。但是這些想法放在一起，它們會(huì)相互支持。對計(jì)算功能主義的質(zhì)疑，將強(qiáng)化區(qū)分模擬與例示的重要性。除了圖靈計(jì)算之外的市面理論，會(huì)使得基于生命去理解意識的想法變得更加可信。

總體而言，這些論證共同說明，即使AI越來越智能，意識也不太可能突然出現(xiàn)；甚至一般而言，我們目前熟悉的、以圖靈機(jī)為核心的硅基AI系統(tǒng)，都不太可能產(chǎn)生意識。但同時(shí)，我們所說的一切，并沒有徹底排除人工意識之可能性。

在這些思考的基礎(chǔ)上，我們應(yīng)該做什么呢？

我們要做（或不做）什么？

涉及意識這個(gè)話題，事實(shí)本身至關(guān)重要。這不僅因?yàn)樽嫦饶M、心智上傳等等依舊只是神話，更因?yàn)榫哂幸庾R體驗(yàn)的事物擁有其他事物所不具備的倫理與道德地位。至少，如果關(guān)于道德的判斷都建立在擁有意識能力這個(gè)基礎(chǔ)上，那么，把這些事物的道德地位納入考量就顯得十分自然了。

因此，清晰思考真正的人工意識之前景，在此時(shí)此地顯得至關(guān)重要。我已經(jīng)提出了反對AI具有意識的一些論證，但我也可能犯錯(cuò)。這個(gè)領(lǐng)域里，生物自然主義依舊是少數(shù)立場。有許多關(guān)于意識的理論，其框架也是基于計(jì)算過程的（文獻(xiàn)38，參見文獻(xiàn)39的綜述）。這些理論并沒有提出產(chǎn)生意識的充分條件，它們也一般會(huì)繞過對于計(jì)算功能主義的承諾。這些理論對于計(jì)算功能主義或許是滿意的，卻不會(huì)去預(yù)設(shè)它。但這不意味著它們都是錯(cuò)的。所有關(guān)于意識的理論都充滿著不確定性，沒有人知道創(chuàng)造真正的人工意識到底需要什么，或一定不需要什么。對此，任何對自己的理論確信無疑的人，理性上講都是言過其實(shí)。

這種不確定性使得我們進(jìn)退兩難。雖然這聽起來是廢話，沒有人應(yīng)當(dāng)去故意制造有意識的AI，不論是出于某種思慮欠佳的技術(shù)狂熱，或是基于其他理由。創(chuàng)造有意識的機(jī)器，將會(huì)造成倫理上的災(zāi)難（文獻(xiàn)40）。如果我們那樣做了，我們將給世界引入新的道德主體，并可能帶來新的苦難形式，且這種苦難（可能）會(huì)以指數(shù)級的速率增長。即使我正確論證了以圖靈機(jī)為原型的計(jì)算機(jī)不能產(chǎn)生意識，其他新興技術(shù)依舊有這個(gè)可能，或許是通過另外的計(jì)算形式（如模擬式的計(jì)算或神經(jīng)形態(tài)式的計(jì)算等），或許是通過快速發(fā)展的合成生物學(xué)方法。在我看來，相比任何新一波的大語言模型，我們更應(yīng)當(dāng)擔(dān)憂的是，意識在大腦類器官（通常由人類胚胎干細(xì)胞（文獻(xiàn)41）培育出的、類似大腦的結(jié)構(gòu)）中意外涌現(xiàn)的可能性。

但我們還有其他擔(dān)憂。當(dāng)談到AI對社會(huì)的影響時(shí)，把實(shí)際上具有意識的AI系統(tǒng)與那些看起來僅僅像是有意識的AI系統(tǒng)區(qū)分開來至關(guān)重要。雖然前者不可避免存在很大的不確定性，但那些僅僅是看起來有意識的系統(tǒng)卻已近在咫尺。正如谷歌工程師布萊克·勒莫因（Blake Lemoine）所論證的那樣，對我們中的一部分人而言，它們已經(jīng)在那了。那些看起來有意識的機(jī)器帶來了嚴(yán)肅的倫理問題，但這些問題與實(shí)際上擁有意識的機(jī)器引發(fā)的倫理問題完全不同（文獻(xiàn)29）。這里的問題首先關(guān)心的是那些被造物對我們的影響。我們要么決定去關(guān)心它們，重新劃定我們的道德關(guān)懷圈，要么決定什么都不做，聽?wèi){我們的心靈變得殘暴——這個(gè)論證至少可以追溯到康德的倫理學(xué)講義�？雌饋砭哂幸庾R的AI所帶來的倫理問題，已經(jīng)引起了AI領(lǐng)域內(nèi)一些重要人物的關(guān)切，比如穆斯塔法·蘇萊曼（Mustafa Suleyman，微軟AI首席執(zhí)行官）14、約書亞·本吉奧（Yoshua Bengio，文獻(xiàn)42）等。但這毫不意味著相關(guān)問題已經(jīng)得到了有效控制。

此處經(jīng)常被忽視的一個(gè)要素在于，即使我們知道或相信AI不具有意識，我們可能也難以拒斥那種它們具有意識的感覺。我們的心靈關(guān)于人工意識產(chǎn)生的錯(cuò)覺，或許與很多視錯(cuò)覺一樣，難以琢磨�？娎铡R爾錯(cuò)覺（圖5）中的兩條線具有一樣的長度，但它們依舊看起來是不同的。這一點(diǎn)與我們見過這個(gè)錯(cuò)覺的次數(shù)無關(guān)，哪怕你見過這個(gè)圖很多次，你依舊無法拒斥你所感覺到的內(nèi)容。我們對于AI可能有意識的感覺，可能與我們關(guān)于“AI意識”的思考和理解毫無關(guān)系。

圖5：繆勒—萊爾錯(cuò)覺。兩根線長度相當(dāng)。

此外，由于尚不存在關(guān)于意識的必要與充分條件的共識，因此也不存在任何決定AI是否具有意識的定義性測試（文獻(xiàn)43）�！稒C(jī)械姬》的情節(jié)就是圍繞著這個(gè)困難而展開的。影片借鑒了著名的圖靈測試（正如圖靈本人清楚認(rèn)識到的，它測試的是機(jī)器智能而非意識），機(jī)器人Ava的創(chuàng)造者內(nèi)森認(rèn)為，“真正的測試”在于：在告知其造物是一臺機(jī)器的前提下，觀察那個(gè)被測試的工具人Caleb，是否仍然會(huì)覺得它/她是有意識的。這后來被稱為“加蘭測試”（Garland test，文獻(xiàn)44）。該測試并非測試機(jī)器意識本身，而是在什么條件下，人類會(huì)被說服去相信一臺機(jī)器具有意識。

盡管面對諸多不確定性，我們?nèi)杂斜匾扇∫恍┯懈鶕?jù)的倫理立場，這一點(diǎn)的重要性點(diǎn)明了人類的另一個(gè)習(xí)慣：很不幸，我們面對那些值得被賦予道德考量的對象時(shí)，向來反應(yīng)很遲鈍，比如在對待許多非人類動(dòng)物乃至其他人類的問題上。因此，我們可以很合理地猜想，拒絕賦予AI以意識，是否會(huì)讓我們再次站在歷史發(fā)展的對立面？最近關(guān)于“AI福祉”的呼吁，很大程度上便來自這一擔(dān)憂（文獻(xiàn)2）。但是，我們有很多理由認(rèn)為，AI的情況很有可能與之前不同。我們的心理偏見讓我們更容易錯(cuò)誤肯定而不是錯(cuò)誤否定。與非人類動(dòng)物的情況不同，AI的那些明顯奇特之處或許在于，它與人類相比，二者的相似性更多的是在與意識無關(guān)的方面。

靈魂機(jī)器

盡管泥沙俱下，AI無疑在改變社會(huì)。辨明AI帶來的明顯挑戰(zhàn)，充分利用它帶來的機(jī)遇，已經(jīng)夠困難了；而宣傳“機(jī)器意識時(shí)代即將到來”等夸張言論，將加劇我們面臨的混亂�？紤]到技術(shù)本身與公眾認(rèn)知的快速變化，對AI意識的希望與隱憂形成清晰的認(rèn)識，就顯得十分迫切而必要了。

真正的人工意識將改變一切，且在很多方面會(huì)朝向壞的方向。誤以為AI有意識的那些人類錯(cuò)覺，本身就具有獨(dú)特的風(fēng)險(xiǎn)，尤其是當(dāng)我們持續(xù)被真正的可感機(jī)器這個(gè)想法所吸引和迷惑的時(shí)候。我希望本文能夠提供一些回應(yīng)這些危機(jī)的思想工具，對那些關(guān)于必然性或絕對不可能的過度自信的斷言加以反思，最終為理解我們自身作為人類、作為動(dòng)物、作為生物之本性，也為我們的未來，提供一些希望。

AI的未來史尚待書寫。AI可發(fā)展的方向也不存在什么必然性。否則，我們就會(huì)過度受制于我們的概念慣習(xí)，被劣質(zhì)的科幻小說忽悠，被那些茍延殘喘的技術(shù)公司所編造出來的故事隨意擺布。時(shí)間很有限，但總體來看，我們依舊有機(jī)會(huì)去決定我們真正想要或不想要的AI是什么樣子的。

哲學(xué)家香農(nóng)·瓦洛爾（Shannon Vallor）將AI描述為一面鏡子，我們在鏡中可以看到身后的入射光線，這些光線就是我們被數(shù)字化的過去（文獻(xiàn)45）。我們設(shè)計(jì)的算法里反映著我們的存在，但我們自身也反映了能被設(shè)計(jì)的算法。瘋狂追捧通用AI或具有意識潛能的AI所帶來的最新惡果，就是這種對于心靈的機(jī)械化。一方面是生物大腦與人類經(jīng)驗(yàn)的豐富性，另一方面是具有深度偽造技術(shù)的聊天機(jī)器人（或任何最新的AI魔法）的信息處理機(jī)制。如果我們把這二者混為一談，就會(huì)對自己——我們的心靈、大腦和身體——造成嚴(yán)重的傷害。如果我們輕易委身于被造的機(jī)器，我們便高估了它們，也低估了我們自己。

或許出人意料，這些思考最終把我引向了靈魂的問題。對于許多人，尤其是被理性與科學(xué)啟蒙的現(xiàn)代人來說，靈魂的概念早已過時(shí)，仿佛只應(yīng)存在于石器時(shí)代。如果這里所謂的靈魂，指的是理性與意識背后的某種非物質(zhì)本質(zhì)，并且可以獨(dú)立于身體而存在，那么拋棄這個(gè)概念，算不上什么嚴(yán)重的錯(cuò)誤。但還有很多其他對于靈魂的理解。早在笛卡爾之前，古希臘的psyche?概念就把靈魂與呼吸聯(lián)系在一起。15在世界的另一端，印度教所謂的靈魂，ātman，則將我們最內(nèi)在的本質(zhì)與一切經(jīng)驗(yàn)的基礎(chǔ)狀態(tài)相聯(lián)系：那是一種不受理性思維或任何特定意識內(nèi)容影響的、純粹的、證悟性的覺識。

對于硅基天堂的卡通幻想，以及心智上傳、離體的外在存在、在云端與其他蒙召者重逢等主題，恰恰回到了笛卡爾的靈魂觀。計(jì)算機(jī)，或者更準(zhǔn)確地說，計(jì)算，畢竟是不朽的，對于算法的根本信仰許諾了某種不被身體玷污的純粹理性（盡管已經(jīng)有很多證據(jù)表明，理性與情感之間存在緊密關(guān)聯(lián)，文獻(xiàn)47）。但這些大概率都是南柯一夢，它們帶來的并不是一片后人類時(shí)代的樂土，而是硅基的荒原。

真正重要的不是笛卡爾式的靈魂。靈魂，不應(yīng)當(dāng)是你或我的那種無軀體的人類例外主義不朽本質(zhì)。或許使得我們成為我們的，需要在更根本的源頭去追溯：我們可能需要回到古希臘與印度的平原，在那里，我們最為內(nèi)在的本質(zhì)呈現(xiàn)為一種尚待生發(fā)的、純粹的“活著”的感覺，更像是呼吸而非思想，更像是肉身而非機(jī)器。

社會(huì)學(xué)家雪莉·特克爾（Sherry Turkle）曾說，技術(shù)會(huì)讓我們忘記自己對生命的認(rèn)知（文獻(xiàn)48）�，F(xiàn)在，是時(shí)候重新記起這些了。

注釋及參考文獻(xiàn)

注釋

1https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/

2https://www.youtube.com/watch?v=vxkBE23zDmQ

3說得再諷刺點(diǎn)，炒作AI的半魔法特質(zhì)或許有助于維持高股價(jià)、維持硅谷的天價(jià)薪酬與投資。是不是有人說這是“泡沫”？

4這個(gè)過程也叫自生（autopoiesis），其詞源是希臘語的“自我—生產(chǎn)”。在某種意義上，自生性是生命系統(tǒng)的定義性與標(biāo)志性的特征（文獻(xiàn)12）。

5這里我所謂的“不可能”，指的是規(guī)律意義上的可能性，大概意思是在給定的物理學(xué)定律的框架下的可能性。對我而言，這一點(diǎn)比單純的概念可能性更有趣也更相關(guān)。簡單來說，所謂概念的可能性，僅僅是說可以融貫地設(shè)想。

6https://www.youtube.com/watch?v=vxkBE23zDmQ。

7我承認(rèn)我不喜歡所有類似的基于“可設(shè)想性”的思想實(shí)驗(yàn)。這些思想實(shí)驗(yàn)僅僅具有修辭學(xué)上的說服力，但實(shí)際上它們?nèi)狈τ谙到y(tǒng)的細(xì)節(jié)知識，而且往往依賴的是概念可能性，而非規(guī)律可能性。聲名赫赫（狼藉）的“僵尸論證”也面臨類似的問題（文獻(xiàn)16）。

8這就是為什么數(shù)字計(jì)算的能源成本極高。計(jì)算是外在于時(shí)間的，但是計(jì)算機(jī)卻不是。為了保證一秒的確是一秒，零秒的確是零秒，我們需要耗費(fèi)大量的能量，因?yàn)榧词故枪瑁矡o法擺脫熵的魔爪。

9https://en.wikipedia.org/wiki/Antikythera_mechanism

10如何區(qū)分計(jì)算與非計(jì)算，當(dāng)然取決于具體的定義（文獻(xiàn)24）。計(jì)算的寬泛定義一般會(huì)放棄基質(zhì)靈活性。極端來說，一些物理學(xué)家聲稱萬物都是計(jì)算性的，計(jì)算性是宇宙的基本甚至是唯一特征（文獻(xiàn)25）。如果真的如此，那么計(jì)算功能主義之正確性，將顯得過于稀松平常，但這對于AI意識的可能性問題毫無幫助，因?yàn)�，比如，一個(gè)椅子，也是計(jì)算性的。除了這些極端立場之外，關(guān)于“物理性的丘奇—圖靈論題”，存在著許多不同的解釋，關(guān)鍵在于，物理宇宙里有多少內(nèi)容是可計(jì)算的（文獻(xiàn)26）。參見注釋13。

11內(nèi)感就是從內(nèi)部出發(fā)的、對于身體的感覺。

12這個(gè)關(guān)聯(lián)是直接的，但可能很難追蹤。一種方式是通過聲名狼藉的“自由能原理”（文獻(xiàn)35）。這一原理認(rèn)為：那些會(huì)主動(dòng)維持自身存在的事物（如生命系統(tǒng)），必須存在于它們在統(tǒng)計(jì)意義上期望自己所處的狀態(tài)之中（比如魚會(huì)“期望”自己存在于水中）。這意味著需要最小化熱力學(xué)上的“自由能”。這種自由能與信息論的“自由能”類似，或許在概念上是相通的，信息論的自由能又與預(yù)測加工里的預(yù)測誤差密切相關(guān)。

13有人主張，生命本身也具有內(nèi)在計(jì)算性。這類觀點(diǎn)會(huì)引用馮·諾依曼關(guān)于“計(jì)算”的“通用構(gòu)造器”（Universal Constructor），這個(gè)定義強(qiáng)調(diào)的是自我復(fù)制（文獻(xiàn)36）。然而，如果“計(jì)算”的概念變得如此寬泛，并把代謝與自生（autopoiesis）這類依賴具體物質(zhì)基礎(chǔ)且界定生命本身的過程也納入其中，那么“計(jì)算”的概念就不再具備所需的基質(zhì)靈活性，進(jìn)而也無法支持下面這個(gè)主張：支撐意識的這些“計(jì)算”可以脫離其生物學(xué)語境，被算法化地遷移并在硅基系統(tǒng)中實(shí)現(xiàn)。在這種情況下，我們依然無法獲得AI意識。

14https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming

15拉丁語中的anima也是如此，它是基督教“靈魂”（soul）的詞源；而希伯來語中的 nephesh 也可以被理解為一種浸潤了整個(gè)生命體的“活力”（life force）。關(guān)于這一點(diǎn)的精彩歷史，參見文獻(xiàn)46。

參考文獻(xiàn)

1.Chalmers, D.J., Could a Large Language Model be Conscious? 2023.

2.Long, R., et al., Taking AI welfare seriously. 2024.

3.Legg, S. and M. Hutter, A collection of de?nitions of intelligence. Frontiers in Arti?cial Intelligence and Applications, 2007. 157: p. 17-24.

4.Nagel, T., What is it like to be a bat? Philosophical Review, 1974. 83: p. 435-50.

5.Becker, A., More everything forever. 2025: Basic Books.

6.Shagir, O., The rise and fall of computational functionalism, in Hilary Putnam. 2010, Cambridge University Press: Cambridge. p. 220-250.

7.Cobb, M., The idea of the brain: A history. 2020, London: Pro?le Books.

8.Turing, A.M., Computing Machinery and Intelligence. Mind, 1950. 49: p. 433-460.

9.Turing, A.M., On computable numbers, with an application to the Entscheidungsproblem. Proceedings of the London Mathematical Society, 1936. 42: p. 230-65.

10.McCulloch, W.S. and W. Pitts, A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biology, 1943. 52: p. 99-115.

11.Kleene, S.C., Representation of events in nerve nets and ?nite automata, in Automata Studies, C. Shannon and J. McCarthy, Editors. 1956, Princeton University Press: Princeton, NJ. p. 3-42.

12.Maturana, H. and F. Varela, Autopoiesis and Cognition: The Realization of the Living. Boston Studies in the Philosophy of Science. Vol. 42. 1980, Dordrecht: D. Reidel.

13.Cao, R., Multiple realizability and the spirit of functionalism. Synthese, 2022. 200: p. 506.

14.Chintaluri, C. and T.P. Vogels, Metabolically regulated spiking could serve neuronal energy homeostasis and protect from reactive oxygen species. Proc Natl Acad Sci U S A, 2023. 120(48): p. e2306525120.

15.Haugeland, J., Programs, causal powers and intentionality. Behavioral and Brain Sciences, 1980. 3: p. 432-433.

16.Seth, A.K., Being You: A New Science of Consciousness. 2021, London: Faber & Faber.

17.Varela, F.J., The specious present: A neurophenomenology of time consciousness, in Naturalizing Phenomenology: Issues in Contemporary Phenomenology and Cognitive Science, J. Petitot, et al., Editors. 1996, Stanford University Press: Stanford, CA. p. 266-329.

18.Dupuy, J.-P., On the origins of cognitive science: The mechanization of mind. 2nd ed. 2009, Cambridge, MA: MIT Press.

19.Mead, C., How we created neuromorphic engineering. Nature Electronics, 2020. 3: p. 434-435.

20.Hinton, G., The forward-forward algorithm: some preliminary investigations. 2022.

21.Van Gelder, T., What might cognition be if not computation? Journal of Philosophy, 1995. 92(7): p. 345-81.

22.Stewart, J., O. Gapenne, and E.A. Di Paolo, Enaction: Toward a new paradigm for cognitive science. 2010, Cambridge, MA: MIT Press.

23.Varela, F.J., E. Thompson, and E. Rosch, The embodied mind. 1991, Cambridge, MA: MIT Press.

24.Anderson, N.G. and G. Piccinini, The physical signature of computation: A robust mapping account. 2024, Oxford: Oxford University Press.

25.Wheeler, J.A., Information, physics, quantum: The search for links, in Proceedings III International Symposium on Foundations of Quantum Mechanics. 1989: Tokyo. p. 354-358.

26.Copeland, J.B., The Church-Turing thesis, in The Stanford Encyclopedia of Philosophy, E.N. Zalta and U. Nodelman, Editors. 2024, Metaphysics Research Lab, Stanford University.

27.Putnam, H., Psychological predicates, in Art, Mind, and Religion, W.H. Capitan and D.D. Merrill, Editors. 1967, Pittsburgh University Press: Pittsburgh. p. 37-48.

28.Searle, J., Biological naturalism, in The Blackwell Companion to Consciousness, S. Schneider and M. Velmans, Editors. 2017, John Wiley and Sons Ltd.

29.Seth, A.K., Conscious arti?cial intelligence and biological naturalism. Behavioral and Brain Sciences, 2025.

30.Clark, A., Whatever next? Predictive brains, situated agents, and the future of cognitive science. Behav Brain Sci, 2013. 36(3): p. 181-204.

31.Hohwy, J., The Predictive Mind. 2013, Oxford: Oxford University Press.

32.Seth, A.K., Interoceptive inference, emotion, and the embodied self. Trends Cogn Sci, 2013. 17(11): p. 565-73.

33.Craig, A.D., How do you feel? Interoception: the sense of the physiological condition of the body. Nat Rev Neurosci, 2002. 3(8): p. 655-66.

34.Seth, A.K., The cybernetic bayesian brain: from interoceptive inference to sensorimotor contingencies, in Open MIND, J.M. Windt and T. Metzinger, Editors. 2015, MIND Group: Frankfurt A.M. p. 35(T).

35.Friston, K.J., The free-energy principle: a uni?ed brain theory? Nat Rev Neurosci, 2010. 11(2): p. 127-38.

36.Richards, B. and B. Agüera y Arcas, Life is inherently computational, and consciousness probably is too.Behavioral and Brain Sciences, 2025.

37.Bostrom, N., Are you living in a computer simulation? Philosophical Quarterly, 2003. 53(11): p. 243-255.

38.Dehaene, S., H. Lau, and S. Kouider, What is consciousness, and could machines have it? Science, 2017.358(6362): p. 486-492.

39.Seth, A.K. and T. Bayne, Theories of consciousness. Nat Rev Neurosci, 2022. 23(7): p. 439-452.

40.Metzinger, T., Arti?cial su?ering: An argument for a global moratorium on synthetic phenomenology.Journal of Arti?cial Intelligence and Consciousness, 2021. 8(1): p. 1024.

41.Bayne, T., A.K. Seth, and M. Massimini, Are There Islands of Awareness? Trends Neurosci, 2020. 43(1):p. 6-16.

42.Bengio, Y. and E. Elmoznino, Illusions of AI consciousness. Science, 2025. 389(6765): p. 1090-1091.

43.Bayne, T., et al., Tests for consciousness in humans and beyond. Trends Cogn Sci, 2024. 28(5): p. 454-466.

44.Shanahan, M., Conscious exotica. Aeon, 2016.

45.Windt, J.M. and T. Metzinger, The philosophy of dreaming and self-consciousness: What happens to the experiential subject during the dream state?, in The New Science of Dreaming, D. Barre> and P. McNamara, Editors. (in press), Preager Imprint / Greenwood: Estport, CT.

46.Makari, G., Soul machine: The invention of the modern mind. 2016, London: W. W. Norton.

47.Damasio, A., Descartes' error. 1994, London: MacMillan.

48.Turkle, S., The empathy diaries: a memoir. 2021: Penguin.