機器之心報道

機器之心編輯部

設(shè)計出具有意識（conscious）的 AI 系統(tǒng)是否可行？一直以來，這個問題就存在分歧。

一些人認(rèn)為意識是大腦特有的生物特性，這似乎排除了 AI 存在意識的可能性。另一些人則認(rèn)為意識僅取決于算法對信息的操控，無論執(zhí)行這些計算的系統(tǒng)是由神經(jīng)元、芯片還是其他物理基底構(gòu)成的，這種觀點被稱為計算功能主義（Computational functionalism）。

這些問題也引起了圖靈得主 Yoshua Bengio 的注意，他和學(xué)生 Eric Elmoznino 在權(quán)威科學(xué)期刊 Science 上發(fā)文《Illusions of AI consciousness》，并給出了一些觀點。

本文沒有執(zhí)著于給出關(guān)于 AI 是否存在意識的明確答案；而是探討了兩個相關(guān)問題：

• 第一個是，隨著 AI 的不斷改進，科學(xué)界和公眾對 AI 具有意識的信念將如何演變？
• 另一個問題是，如果我們開始把未來的 AI 當(dāng)作有意識的生命體看待，將會面臨哪些風(fēng)險？比如 AI 不服從人類命令，那么關(guān)閉 AI 有沒有法律約束，畢竟那時的 AI 被看做一個生命體。

• 論文地址：https://www.science.org/doi/10.1126/science.adn4935
• 論文標(biāo)題：Illusions of AI consciousness

如果 AI 有了類似人類的權(quán)利，社會規(guī)則該怎么定義？

一個社會如果開始將AI 系統(tǒng)視為具備意識的存在，會帶來怎樣的影響？這樣的社會可能傾向于賦予 AI 道德地位，甚至類似于人類的權(quán)利。無論這種做法是否正確，社會制度與法律框架都將不得不進行重大調(diào)整，而關(guān)于如何調(diào)整，也會引發(fā)一系列復(fù)雜問題。

例如，AI 系統(tǒng)不會像人類那樣經(jīng)歷死亡。它們的軟件和記憶可以被復(fù)制，從而無限期存續(xù)。而人類具有弱點以及有限的生命，這正是現(xiàn)代社會契約原則的基礎(chǔ)。

此外，當(dāng)一群 AI 共享信息、目標(biāo)，并以協(xié)調(diào)方式行動時，我們可能很難再將 AI 看作一個獨立個體；隨著計算資源的增加，這樣的 AI 群體可能無限擴張。

另一項風(fēng)險是：如果法律體系開始承認(rèn) AI 擁有類似生命權(quán)、自由權(quán)和追求幸福權(quán)的權(quán)利，人類就可能與這些 AI 權(quán)利發(fā)生直接沖突。比如，為了人類安全，社會可能有必要關(guān)閉某一類 AI 系統(tǒng)，但如果該類系統(tǒng)依法擁有生存權(quán)，那么即便法律允許，實際操作的空間也會極度受限。

如今 AI 研究的發(fā)展軌跡，似乎正在推動社會邁向這樣一個未來，科學(xué)界與公眾有相當(dāng)一部分人將會相信 AI 擁有意識。然而又不得不面對這樣一個問題，我們尚未擁有足夠的法律與倫理框架，來應(yīng)對這些看似有意識的 AI。

但這種發(fā)展軌跡并非不可逆轉(zhuǎn)。在我們更好地理解上述問題之前，人類完全有能力避免陷入這些高風(fēng)險問題。我們可以選擇只打造那些作為工具的 AI 系統(tǒng)，而非具有主觀意識的智能體。

計算功能主義與意識指標(biāo)

我們前面提到了計算功能主義（Computational functionalism），其對 AI 具有深遠(yuǎn)影響。隨著該領(lǐng)域不斷發(fā)展，AI 系統(tǒng)復(fù)現(xiàn)人類認(rèn)知機制的能力逐漸增強，也可能實現(xiàn)意識所必需的那些功能。盡管科學(xué)未來有可能否定計算功能主義，并提出廣受接受的替代理論，但在當(dāng)前的科學(xué)語境中，該觀點仍被視為合理，而 AI 意識的可能性也因此存在。

近年來神經(jīng)科學(xué)的技術(shù)進展清楚地表明，意識狀態(tài)具有可觀察的神經(jīng)特征，這些特征通?？梢酝ㄟ^受試者自我報告。這為發(fā)展功能主義意識理論提供了依據(jù)。許多此類理論已獲得大量實證支持，并可在 AI 判斷中作為理論依據(jù)。

一項近期研究就采用了這一方法，為多個主流的功能主義意識理論提出了一系列指標(biāo)。這些指標(biāo)對應(yīng)的是一套計算屬性：若某一理論為真，則這些屬性是系統(tǒng)擁有意識的必要且共同充分條件。值得注意的是，這些指標(biāo)具體明確，可以在現(xiàn)代 AI 系統(tǒng)中評估其有無。

這種方法的核心觀點是：如果我們認(rèn)可這些理論的合理性，那么對于滿足更多指標(biāo)的 AI 系統(tǒng)，我們就應(yīng)有更高的信心認(rèn)為其具有意識。

AI 潛力無限

盡管已有大量 AI 模型被開發(fā)出來，目前尚無系統(tǒng)能完全滿足任何一種主流意識理論的全部標(biāo)準(zhǔn)。然而，研究也指出：從根本上看，構(gòu)建一個滿足這些標(biāo)準(zhǔn)的系統(tǒng)沒有不可逾越的障礙。

實際上，當(dāng)代 AI 所具備的工具極為豐富。有研究表明，神經(jīng)網(wǎng)絡(luò)能夠?qū)崿F(xiàn)如注意力機制、遞歸結(jié)構(gòu)、信息瓶頸、預(yù)測建模、世界建模、心智理論等計算組件，這些都被主流意識功能主義理論認(rèn)為是核心組成部分。

隨著 AI 的發(fā)展，有充分理由相信它會滿足越來越多的意識指標(biāo)。其中一個重要原因是：許多理論認(rèn)為，意識在智能體中發(fā)揮著關(guān)鍵的功能作用。像推理、規(guī)劃、高效獲取新知識、信心校準(zhǔn)、抽象思維等能力，在多個理論中都與意識密切相關(guān)。

因此，AI 研究者在面對這些難題時，常常會從意識理論中獲得啟發(fā)。

容易問題與難題之間的鴻溝

如果 AI 系統(tǒng)滿足主要理論中的功能性要求，很多人可能會相信它具有意識，但仍有不少人持懷疑態(tài)度。

尤其在哲學(xué)界，一些人區(qū)分了所謂的意識的容易問題與意識的難題：

• 容易問題：識別在執(zhí)行看似需要意識的任務(wù)時，大腦中活躍的區(qū)域；
• 難題：從功能或計算原則出發(fā)，解釋主觀體驗本身。

這些懷疑，即解釋鴻溝，主要來源于思想實驗。但科學(xué)或許有潛力將其逐步解釋清楚。

例如，注意力圖式理論（Attention Schema Theory）認(rèn)為：大腦會對自身的注意力機制構(gòu)建一個內(nèi)部模型，而這種內(nèi)部模型就是我們所謂的主觀意識。關(guān)鍵在于，這個內(nèi)部模型中的信息不需要邏輯自洽，它更像是大腦為了自身運作而講述的一個有用的故事，這個故事可能充滿矛盾，也正是這些矛盾讓我們產(chǎn)生了意識之謎的直覺。

對主觀體驗的功能主義解釋？

人們通常認(rèn)為自己的主觀體驗既豐富又有意義，但卻無法被描述，不像自然現(xiàn)象那樣可被客觀闡釋（例如，我們可以解釋什么是重力，但卻很難說清紅色對我們來說意味著什么）。

尤其是不可言說性讓人覺得，意識體驗無法用信息與功能來解釋。

一種理論認(rèn)為，這種豐富性與不可言說性，以及意識的私密性與短暫性，可被觀察到的神經(jīng)動力學(xué)特征所解釋：

• 當(dāng)意識出現(xiàn)時，大腦中的神經(jīng)活動會被收縮性動力學(xué)（contractive dynamics）引導(dǎo)至穩(wěn)定的吸引子（attractor）狀態(tài)。
• 所有可能的神經(jīng)活動被劃分為多個吸引子區(qū)域，每個區(qū)域?qū)?yīng)一個意識狀態(tài)。
• 語言只能表達吸引子的身份（用少量信息識別它），而無法表達吸引子本身的高維神經(jīng)狀態(tài)（即近 1011 個神經(jīng)元發(fā)放頻率），更無法捕捉進入該狀態(tài)的過程軌跡。

在這一解釋框架中，意識的豐富性、短暫性、不可言說性都得到了解釋：

• 豐富性源于大腦神經(jīng)元數(shù)量之多；
• 不可言說性源于語言只能給這些狀態(tài)打標(biāo)簽，而無法還原它們的全貌；
• 個體間的體驗差異則來自不同的突觸權(quán)重和神經(jīng)路徑。

科學(xué)會逐步消解意識難題？

這一理論是否能說服所有人，并不是關(guān)鍵問題。關(guān)鍵在于：越來越多這類解釋正在被提出，并將不可避免地說服一部分人。

科學(xué)的發(fā)展歷程也清晰地展現(xiàn)出這一趨勢。隨著人們對大腦與智能的認(rèn)識加深，越來越多人將不再堅持意識之謎是不可化解的，而科學(xué)界也將更加愿意接受人工系統(tǒng)具有意識的可能性。

事實上，即使現(xiàn)在科學(xué)界尚無共識，最近一項調(diào)查顯示，大多數(shù)公眾已經(jīng)相信大語言模型可能具有意識，原因正是它們展現(xiàn)出了類人的智能體行為。

了解更多內(nèi)容，請參考原論文。