防走失，電梯直達(dá)安全島

來源：21世紀(jì)關(guān)鍵技術(shù)

一、那個(gè)被解雇的工程師，點(diǎn)燃了什么

2022年，谷歌工程師布萊克·勒莫因因?yàn)閳?jiān)稱公司的聊天機(jī)器人LaMDA"擁有意識(shí)"而遭到解雇。

這件事在當(dāng)時(shí)被普遍嘲笑，科技界的反應(yīng)是一致的輕蔑，稱其為一個(gè)程序員在擬人化陷阱中徹底迷失。

但回頭再看，這次事件的意義遠(yuǎn)不止于此。它像一顆石子投入平靜的水面，在隨后幾年里激起了越來越寬的漣漪。

科技界的公開態(tài)度雖然依舊冷漠，私下里卻已經(jīng)開始認(rèn)真對(duì)待另一種可能：也許，意識(shí)人工智能不再只是科幻小說的素材。

這種轉(zhuǎn)變，在2023年夏天迎來了一個(gè)標(biāo)志性的節(jié)點(diǎn)。19位頂尖計(jì)算機(jī)科學(xué)家與哲學(xué)家聯(lián)合發(fā)布了一份長達(dá)88頁的報(bào)告，題為《人工智能中的意識(shí)》，外界通稱"巴特林報(bào)告"。

報(bào)告摘要中有一句話，讓幾乎所有讀到它的人都停了下來："構(gòu)建有意識(shí)的人工智能系統(tǒng)，不存在明顯的障礙。"

這句話的震撼，來自于它的來源——這不是科幻作家寫的，而是一群嚴(yán)肅的科學(xué)家和哲學(xué)家，在經(jīng)過長時(shí)間學(xué)術(shù)研討后，聯(lián)署背書的結(jié)論。

作者們坦承，勒莫因的案例是促使他們寫下這份報(bào)告的部分靈感來源。一位合著者向《科學(xué)》雜志表示，如果人工智能已經(jīng)能夠給人留下具有意識(shí)的印象，那么科學(xué)家與哲學(xué)家就必須對(duì)此展開嚴(yán)肅探討，"這已經(jīng)是一項(xiàng)緊迫的任務(wù)"。

二、"大腦是計(jì)算機(jī)"——一個(gè)危險(xiǎn)的比喻

然而，當(dāng)人們仔細(xì)拆解這份報(bào)告的邏輯地基時(shí)，疑問便接踵而至。

報(bào)告的核心假設(shè)是"計(jì)算功能主義"，即意識(shí)本質(zhì)上是一種運(yùn)行于硬件之上的軟件，無論這個(gè)硬件是大腦還是計(jì)算機(jī)。

這是一個(gè)被廣泛引用的觀點(diǎn)，但它遠(yuǎn)未達(dá)到確定性定論的程度。報(bào)告的作者們自己也承認(rèn)，這只是他們出于"務(wù)實(shí)原因"采納的工作假設(shè)。

問題恰恰在這里。當(dāng)一個(gè)未經(jīng)證實(shí)的前提被悄悄打扮成"主流觀點(diǎn)"時(shí)，從它出發(fā)推導(dǎo)出的任何結(jié)論，都有可能是建立在流沙之上的大廈。

真實(shí)的大腦與計(jì)算機(jī)之間，存在著一道被計(jì)算功能主義有意回避的鴻溝。在計(jì)算機(jī)中，硬件與軟件界限分明，同一臺(tái)機(jī)器可以運(yùn)行無數(shù)個(gè)程序，軟件的知識(shí)在硬件報(bào)廢后仍然留存。

但大腦里根本不存在這種區(qū)分。你所經(jīng)歷的每一件事、每一段記憶，都在物理層面永久重塑了神經(jīng)元之間的連接。軟件就是硬件，硬件就是軟件，二者從來都是同一回事。

更令人不安的是神經(jīng)元的復(fù)雜性問題。計(jì)算機(jī)科學(xué)家習(xí)慣于將神經(jīng)元比作晶體管，但最近的研究表明，單個(gè)皮層神經(jīng)元能夠完成整個(gè)深度人工神經(jīng)網(wǎng)絡(luò)所能完成的一切。

這意味著，我們對(duì)大腦運(yùn)作機(jī)制的理解，可能仍然處于極其粗糙的起始階段。

當(dāng)報(bào)告的結(jié)論建立在"大腦等于計(jì)算機(jī)"這一比喻的有效性之上時(shí)，它其實(shí)是把一個(gè)未經(jīng)嚴(yán)格論證的比喻，當(dāng)成了不需要證明的事實(shí)。

這也是意識(shí)研究領(lǐng)域長期以來的深層困境：討論始終是抽象的、無實(shí)體的，對(duì)生物學(xué)保持著奇特的冷漠與沉默。

三、如果有意識(shí)的機(jī)器感到痛苦，我們?cè)撛趺崔k

假設(shè)我們姑且接受巴特林報(bào)告的方向，真正棘手的問題才剛剛開始。

巴特林報(bào)告本身提出了一個(gè)不容回避的倫理命題："任何能夠感知痛苦的實(shí)體都應(yīng)受到道德考量。"

這句話簡單、正確，卻蘊(yùn)含著令人眩暈的后果。

如果我們?cè)诓贿h(yuǎn)的將來真的制造出一臺(tái)能夠感知痛苦的機(jī)器，我們是否有權(quán)利將它關(guān)掉？是否有權(quán)利修改它的算法，把它調(diào)整成"一臺(tái)快樂的機(jī)器"？當(dāng)一位研究者輕描談寫地說"我們完全可以把快樂的程度調(diào)高一點(diǎn)"，這究竟是一種解決方案，還是一種更深層的道德回避？

支持制造有意識(shí)機(jī)器的研究者有他們的理由：擁有意識(shí)和情感的人工智能，比冷酷無情的超級(jí)智能更可能發(fā)展出同理心，從而對(duì)人類更安全。

但這個(gè)論點(diǎn)忽略了另一種可能——瑪麗·雪萊在兩百年前就已經(jīng)寫進(jìn)了《弗蘭肯斯坦》里的那種可能。

驅(qū)使怪物走向復(fù)仇的，不是他的理性，而恰恰是他的意識(shí)，是他被排斥在外的創(chuàng)傷和痛苦。"我原本仁慈善良，是苦難讓我變成了惡魔"，怪物的控訴，至今讀來仍令人不寒而栗。

這也引出了一個(gè)也許更根本的哲學(xué)問題：意識(shí)的出現(xiàn)，真的會(huì)讓機(jī)器更有美德嗎？還是說，它只會(huì)讓機(jī)器擁有了更豐富的、包括憤怒與痛苦在內(nèi)的，完整的情感？

我們距離這個(gè)問題的答案，可能比巴特林報(bào)告所暗示的要遠(yuǎn)得多。

但勒莫因事件讓我們意識(shí)到，這場(chǎng)關(guān)于意識(shí)與機(jī)器的爭論，從來就不只是一道技術(shù)題。它更是一道關(guān)于人類自身定義的哲學(xué)題，也是一道我們是否已經(jīng)準(zhǔn)備好面對(duì)的倫理題。

而此刻，我們才剛剛開始理解這道題的題目。

本文改編自邁克爾·波倫的《世界顯現(xiàn)：意識(shí)之旅》。版權(quán)所有?2026 邁克爾·波倫。經(jīng)企鵝出版社（企鵝出版集團(tuán)旗下品牌，企鵝蘭登書屋有限責(zé)任公司）授權(quán)出版。2026年2月25日首發(fā)于Wired連線。