人類正處于一場(chǎng)范式革命之中。

范式轉(zhuǎn)變往往伴隨著陣痛。新觀念與舊世界觀相容時(shí)，人們欣然接受；而二者相悖時(shí)，人們便心生抵觸。地心說就是一個(gè)經(jīng)典案例。該學(xué)說由托勒密（Ptolemy）的“本輪說”進(jìn)一步完善，認(rèn)為太陽、月亮、行星和恒星圍繞著靜止不動(dòng)的地球運(yùn)轉(zhuǎn)。這種認(rèn)知既符合直覺又順應(yīng)宗教傳統(tǒng)，曾被視為重大科學(xué)成就，主導(dǎo)了人類近2000年的宇宙觀。因此，哥白尼的“日心說”雖然是科學(xué)進(jìn)步的標(biāo)志，更是備受爭(zhēng)議的“異端邪說”。正如本杰明·布拉頓（Benjamin Bratton）所言，“日心說”之于某些人甚至造成了存在主義層面的精神創(chuàng)傷。如今，人工智能（AI）已再度掀起認(rèn)知風(fēng)暴。

本文將闡述五大范式轉(zhuǎn)變。它們互相關(guān)聯(lián)，共同影響著AI的發(fā)展：

1. 自然計(jì)算——早在人類制造出第一臺(tái)“人工計(jì)算機(jī)”之前，計(jì)算就已然存在于自然界。將計(jì)算視為一種自然現(xiàn)象，不僅能推動(dòng)計(jì)算機(jī)科學(xué)和AI迭代，還將促使物理學(xué)和生物學(xué)革新。

2. 神經(jīng)計(jì)算——人類大腦正是自然計(jì)算的絕佳典范。通過重構(gòu)驅(qū)動(dòng)AI的計(jì)算機(jī)系統(tǒng)，使其更接近大腦的工作機(jī)制，將大幅提升AI的能效水平，同時(shí)解鎖其潛能。

3. 預(yù)測(cè)智能——大語言模型（LLM）的成功向我們揭示了智能的本質(zhì)特征：它建立在不斷演進(jìn)的知識(shí)、觀察和歷史反饋之上，是對(duì)未來（包括自身未來行為）的統(tǒng)計(jì)建模。這意味著，當(dāng)前AI模型的設(shè)計(jì)、訓(xùn)練與運(yùn)行之間的界限只是暫時(shí)性的，更先進(jìn)的AI將像人類一樣，以持續(xù)、互動(dòng)的形式不斷進(jìn)化、成長(zhǎng)和學(xué)習(xí)。

4. 通用智能——智能的實(shí)現(xiàn)未必需要基于生物的計(jì)算。AI模型仍將穩(wěn)步升級(jí)，但它們現(xiàn)階段的能力已經(jīng)相當(dāng)全面，能夠處理日益多樣化的認(rèn)知任務(wù)。其技能水平可以比肩人類個(gè)體，在某些情況下甚至更勝一籌。從這種意義上說，“通用人工智能”（AGI）或許已然到來，只是我們?cè)诜磸?fù)更改衡量標(biāo)準(zhǔn)。

5. 集體智能——人類大腦、AI智能體和社會(huì)系統(tǒng)都可以通過擴(kuò)展規(guī)模而變得更強(qiáng)大，但僅有規(guī)模是不夠的。智能本質(zhì)上是社會(huì)性的，由多個(gè)智能體的協(xié)作分工所驅(qū)動(dòng)。這一認(rèn)知促使我們重新思考人類（或“超越人類”）智能的本質(zhì)，更指明了AI發(fā)展的新路徑：通過社會(huì)化智能集群與多智能體協(xié)同架構(gòu)，可以降低計(jì)算成本、增加AI多樣性，并為AI安全議題提供新視角。

或許在AI時(shí)代，最大的“哥白尼式”沖擊則在于，我們可能將不得不接受非人類通用智能會(huì)如此般司空見慣。但要理解人類的“智能地心說”，首先必須重新審視計(jì)算的本質(zhì)。因?yàn)橛?jì)算不僅是AI的基礎(chǔ)，更是一切智能形式的根基。接下來，本文將就此展開論證。

?Blaise Agüera y Arcas（左）是Google副總裁兼研究員，技術(shù)與社會(huì)的首席技術(shù)官，也是智能范式團(tuán)隊(duì)（Paradigms of Intelligence）的創(chuàng)始人。他的新書《何為智能》（What Is Intelligence?）于9月將由Antikythera和Mit Press發(fā)布。

James Manyika（右）是谷歌-字母表（Google-Alphabet）的高級(jí)副總裁，同時(shí)擔(dān)任谷歌研究、實(shí)驗(yàn)室、技術(shù)與社會(huì)部門的總裁。他曾擔(dān)任美國(guó)國(guó)家人工智能咨詢委員會(huì)的副主席，以及聯(lián)合國(guó)秘書長(zhǎng)人工智能咨詢機(jī)構(gòu)的聯(lián)合主席。

自然計(jì)算

“計(jì)算機(jī)科學(xué)”算得上是一門科學(xué)嗎？通常來說，它更多地被視為一門工程學(xué)科，誕生于二戰(zhàn)時(shí)期的電子數(shù)字積分計(jì)算機(jī)（ENIAC）。ENIAC是人類歷史上第一臺(tái)完全可編程的通用電子計(jì)算機(jī)，也是你手中那部智能手機(jī)的遠(yuǎn)祖。

不過，計(jì)算機(jī)理論的出現(xiàn)則更早于計(jì)算機(jī)工程。1936年，英國(guó)數(shù)學(xué)家艾倫·圖靈（Alan Turing）發(fā)表了一篇具有開創(chuàng)性的論文，介紹了現(xiàn)在被我們稱之為“圖靈機(jī)”的虛擬設(shè)備，它由一個(gè)可以在磁帶上左右移動(dòng)的讀寫頭組成，可以根據(jù)一套規(guī)則讀取、擦除和寫入磁帶上的符號(hào)。只要賦予合適的規(guī)則，圖靈機(jī)就能按照磁帶上編碼的指令，即我們現(xiàn)在所說的計(jì)算機(jī)程序或代碼進(jìn)行操作，從而使得這種“通用圖靈機(jī)”（UTM）能夠執(zhí)行任意計(jì)算。反過來講，任何能由UTM完成的操作都屬于計(jì)算。1945年，ENIAC正式完工，成為世界上第一臺(tái)真正的UTM。

然而……事實(shí)或許并非如此。早在2014年，一小群在物理學(xué)和計(jì)算機(jī)科學(xué)領(lǐng)域都有深厚背景的非傳統(tǒng)研究人員，比如約克大學(xué)的蘇珊·斯蒂芬尼（Susan Stepney），就在《英國(guó)皇家學(xué)會(huì)學(xué)報(bào)A輯》（Proc. R. Soc. A）上提出，自然界中實(shí)際上充斥著計(jì)算系統(tǒng)，其中并沒有明確的人類計(jì)算機(jī)用戶。此外，20世紀(jì)物理學(xué)巨擘約翰·惠勒（John Wheeler）還曾經(jīng)大力倡導(dǎo)過一種名為“萬物源于比特”（it from bit）的激進(jìn)假說，該假說認(rèn)為宇宙的基本結(jié)構(gòu)是計(jì)算性的。在惠勒看來，我們視為物理的基本現(xiàn)象——夸克、電子、光子——都是底層計(jì)算的產(chǎn)物，就像互聯(lián)網(wǎng)數(shù)據(jù)包或圖像像素一樣。

或許在AI時(shí)代，最大的“哥白尼式”沖擊則在于，我們可能將不得不接受非人類通用智能會(huì)如此般司空見慣。

在量子力學(xué)的某些解釋中，這種計(jì)算發(fā)生在多重宇宙之中，展開而言，即大量相互糾纏的平行宇宙中同時(shí)進(jìn)行著大量的計(jì)算。無論對(duì)基礎(chǔ)物理學(xué)作何解釋，量子計(jì)算這一實(shí)實(shí)在在的技術(shù)都利用了這種并行性，使某些計(jì)算能夠在幾分鐘內(nèi)完成，而用當(dāng)今最強(qiáng)大的超級(jí)計(jì)算機(jī)則需要數(shù)倍于宇宙壽命的運(yùn)算時(shí)間。無論以何種標(biāo)準(zhǔn)衡量，這都是計(jì)算領(lǐng)域的一場(chǎng)范式變革。

“計(jì)算是物質(zhì)的現(xiàn)實(shí)基礎(chǔ)”這一說法難以被證實(shí)抑或證偽，但早在惠勒提出“萬物源于比特”的假說之前，就出現(xiàn)過“自然界中存在計(jì)算”的明確案例。約翰·馮·諾依曼（John von Neumann）是一位杰出的數(shù)學(xué)物理學(xué)家，也是計(jì)算機(jī)科學(xué)的另一位奠基人，早在1951年就發(fā)現(xiàn)了計(jì)算與生物學(xué)之間的深刻聯(lián)系。

馮·諾依曼意識(shí)到，對(duì)于一個(gè)復(fù)雜的生物體來說，要實(shí)現(xiàn)自我復(fù)制，它必須包含構(gòu)建自身的指令，以及讀取和執(zhí)行這些指令“磁帶”的機(jī)器?！按艓А北旧硪脖仨毮軌驈?fù)制，并包含構(gòu)建讀取它的機(jī)器的指令。巧合的是，這種“通用構(gòu)造器”的技術(shù)要求與通用圖靈機(jī)（UTM）的技術(shù)要求完全一致。令人驚訝的是，馮·諾依曼先于1953年在DNA的圖靈式磁帶樣結(jié)構(gòu)和功能被發(fā)現(xiàn)之前就已經(jīng)產(chǎn)生了這一洞見。

于是乎，馮·諾依曼證明了，生命究其本質(zhì)是“計(jì)算性”的。這聽起來可能讓人感到匪夷所思，因?yàn)槲覀兝硭?dāng)然會(huì)認(rèn)為計(jì)算機(jī)并沒有生命，而生物也絕不能算作計(jì)算機(jī)。但這是事實(shí)：DNA就是生命的代碼——盡管這種代碼難以逆向工程，又并非按線性順序執(zhí)行?！坝?jì)算”對(duì)于生物而言是必要的，這不僅是為了繁殖，還是為了發(fā)育、生長(zhǎng)和修復(fù)。而基于此的對(duì)基礎(chǔ)生物系統(tǒng)進(jìn)行編輯或編程，也正變得越來越有可能。

?左圖：艾倫·圖靈。右圖：圖靈模型的計(jì)算機(jī)模擬生成的模式。每個(gè)模式都基于相同的基本方程，只是參數(shù)略有調(diào)整。圖靈在他生命的盡頭寫下了他的第一篇也是最后一篇關(guān)于生物學(xué)和化學(xué)的論文，關(guān)于某種化學(xué)反應(yīng)如何產(chǎn)生自然界中看到的許多模式。這篇名為《形態(tài)發(fā)生的化學(xué)基礎(chǔ)》（The Chemical Basis of Morphogenesis）的論文完全是理論性的。但在隨后的幾十年里，也就是圖靈于1954年悲慘地自殺很久之后，科學(xué)家們發(fā)現(xiàn)他的推測(cè)變成了現(xiàn)實(shí)。所謂的圖靈模式首先在培養(yǎng)皿中的化學(xué)物質(zhì)中發(fā)現(xiàn)，然后在動(dòng)物的條紋、螺旋和渦旋中大量出現(xiàn)。有些人認(rèn)為圖靈模式實(shí)際上可以擴(kuò)展到生態(tài)系統(tǒng)，甚至星系。

圖源：Shigeru Kondo 和 Takashi Miura for Science

圖靈同樣在理論生物學(xué)領(lǐng)域做出了開創(chuàng)性的貢獻(xiàn)，他描述了組織的生長(zhǎng)和分化具體如何通過那些能夠感知和釋放他稱之為“形態(tài)發(fā)生素”（morphogen）的化學(xué)信號(hào)的細(xì)胞來實(shí)現(xiàn)——這是一種強(qiáng)大的模擬計(jì)算形式。和馮·諾依曼一樣，盡管圖靈從未真正踏足過生物學(xué)實(shí)驗(yàn)室，卻同樣說中了要害。

圖靈和馮·諾依曼共同揭示了生物學(xué)的計(jì)算基礎(chǔ)，而這則為人工生命或“ALife”奠定了根基，這一領(lǐng)域至今仍鮮為人知且處于范式前階段——就像AI在不久前的情況一樣。

然而，完全有理由相信，ALife很快就會(huì)像AI那樣蓬勃發(fā)展。AI的真正進(jìn)步，需要我們集結(jié)足夠的“人工”計(jì)算能力來模擬（或至少模仿）數(shù)十億個(gè)神經(jīng)元的活動(dòng)，以接近大腦的復(fù)雜性。而從零開始的ALife則需要走得更遠(yuǎn)，重現(xiàn)地球上數(shù)十億年的進(jìn)化歷程。這仍然是一項(xiàng)艱巨的任務(wù)，不過，我們并非毫無進(jìn)展。

?Windows系統(tǒng)下的Brainfuck IDE示例. 圖源：softwarerecs.stackexchange.com

谷歌“智能范式”團(tuán)隊(duì)近期開展的實(shí)驗(yàn)表明，在一個(gè)能夠支持計(jì)算的模擬玩具宇宙中，我們可以從純粹的隨機(jī)狀態(tài)出發(fā)，讓最簡(jiǎn)單的“生命形式”自發(fā)出現(xiàn)。其中一個(gè)實(shí)驗(yàn)是從一堆隨機(jī)字符串“湯”開始，每個(gè)字符串長(zhǎng)64字節(jié)。256種可能的字節(jié)值中有8種對(duì)應(yīng)于20世紀(jì)90年代一種名為“Brainfuck”的極簡(jiǎn)編程語言的指令。這些字節(jié)串可以被視為圖靈機(jī)的紙帶，而8條計(jì)算機(jī)指令則規(guī)定了圖靈機(jī)的基本操作。實(shí)驗(yàn)過程是反復(fù)從“湯”中隨機(jī)抽取兩條紙帶，將它們拼接在一起，“運(yùn)行”拼接后的紙帶，再將紙帶分開，放回“湯”中。起初，似乎沒什么特別的變化；我們看到的只是隨機(jī)的紙帶，偶爾會(huì)有一個(gè)字節(jié)被隨機(jī)修改。但在進(jìn)行了幾百萬次這樣的交互之后，功能性的紙帶出現(xiàn)了，并開始自我復(fù)制：這就是最簡(jiǎn)單的“人工生命”。

從某種程度上講，人工生命的出現(xiàn)宛如水結(jié)冰或沸騰時(shí)發(fā)生的相變。然而，常規(guī)物質(zhì)的相態(tài)特征取決于其統(tǒng)計(jì)意義上的均勻性，例如，冰是有序的原子晶格，而氣體的原子位置則呈現(xiàn)隨機(jī)分布，液體則介于兩者之間。相比之下，生命物質(zhì)則要復(fù)雜得多，其在每個(gè)尺度上都展現(xiàn)出多樣且有目的的結(jié)構(gòu)。這是因?yàn)橛?jì)算需要不同的功能部件協(xié)同工作，這一點(diǎn)在任何機(jī)器、生物體或程序中都顯而易見。

看著結(jié)構(gòu)復(fù)雜、目的明確且功能完備的結(jié)構(gòu)自雜亂無章的噪聲中逐漸涌現(xiàn)出來，這過程充滿神奇的魔力，但這絕非超自然或奇跡。數(shù)十億年前，地球上就曾發(fā)生過類似的生命從無到有的相變，我們也可以推測(cè)在其他適宜生命存在的行星或衛(wèi)星上也發(fā)生過類似事件。

生命具有計(jì)算性，因?yàn)槠浞€(wěn)定性取決于生長(zhǎng)、自愈或繁殖；而計(jì)算本身也必須進(jìn)化以支持這些基本功能。

那么，在一個(gè)隨機(jī)的環(huán)境中，生命的復(fù)雜性到底是如何產(chǎn)生的？更進(jìn)一步地問，這種復(fù)雜性又是如何持續(xù)存在呢？答案是：任何具有自愈或繁殖能力的生命體都比無生命的惰性物質(zhì)更“動(dòng)態(tài)穩(wěn)定”，因?yàn)樯w（或其后代）在未來仍會(huì)存在，而任何無生命的物質(zhì)都會(huì)隨著時(shí)間的推移而退化，屈服于隨機(jī)性。生命是具有計(jì)算性的，因?yàn)槠浞€(wěn)定性取決于生長(zhǎng)、自愈或繁殖；而計(jì)算本身也必須進(jìn)化以支持這些基本功能。

這種關(guān)于生命的計(jì)算視角，也為生命在進(jìn)化過程中復(fù)雜度不斷增加的現(xiàn)象提供了新的見解。由于計(jì)算物質(zhì)——包括生命本身——是由需要協(xié)同的不同部分組成的，進(jìn)化將同時(shí)作用于各個(gè)部分和整體，這一過程在生物學(xué)中被稱為“多級(jí)選擇”（multilevel selection）。

通過這一機(jī)制，現(xiàn)有的組成部分（或完整的生物體）能夠反復(fù)組合，從而形成越來越龐大、越來越復(fù)雜的實(shí)體。主流觀點(diǎn)認(rèn)為，在遠(yuǎn)古時(shí)期的原始海床上，分子聚合形成了能夠自我復(fù)制或“自催化”的反應(yīng)循環(huán)；這些化學(xué)循環(huán)與脂肪膜融合，形成了最早的細(xì)胞；細(xì)菌和古菌結(jié)合形成了真核細(xì)胞；這些復(fù)雜的細(xì)胞又組合在一起，形成了多細(xì)胞生物......每一次這樣的重大進(jìn)化轉(zhuǎn)變都以功能性共生關(guān)系為特征，即一種相互依存的形式，在這種形式中，先前獨(dú)立的實(shí)體聯(lián)合起來，形成一個(gè)更大的整體。

進(jìn)化階梯的最初幾級(jí)臺(tái)階，并不涉及具有可遺傳基因編碼的生命實(shí)體。然而，一旦這些聯(lián)合起來的實(shí)體具有生命并因此具備了計(jì)算能力，那么隨后的每一次組合都會(huì)增強(qiáng)共生整體的潛在計(jì)算能力。而在這一進(jìn)化階梯的終點(diǎn)處，人類的智能水平已遠(yuǎn)遠(yuǎn)高于那些最早的生命形式，這源自于底層的約860億個(gè)神經(jīng)元的協(xié)同運(yùn)算，所有神經(jīng)元相互并行著處理信息。

神經(jīng)計(jì)算

計(jì)算機(jī)科學(xué)的先驅(qū)們?cè)缇蜕羁陶J(rèn)識(shí)到，我們的大腦本質(zhì)上就是一臺(tái)計(jì)算機(jī)。事實(shí)上，在20世紀(jì)40年代，計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)這兩個(gè)新興領(lǐng)域之間幾乎沒有區(qū)別。電子計(jì)算機(jī)的開發(fā)初衷正是為了在工業(yè)規(guī)模上執(zhí)行腦力勞動(dòng)，就像上個(gè)世紀(jì)工廠機(jī)器的開發(fā)是為了實(shí)現(xiàn)體力勞動(dòng)的自動(dòng)化一樣。最初，重復(fù)性的腦力勞動(dòng)由“人腦計(jì)算機(jī)”完成，就像電影《隱藏的人物》（hidden figures）中的女性，承擔(dān)了戰(zhàn)爭(zhēng)時(shí)期以及后來太空競(jìng)賽所需的大量計(jì)算工作（但她們往往得不到認(rèn)可，報(bào)酬也很低）。

因此，新型“人工”計(jì)算機(jī)的核心部件——構(gòu)成電子電路的邏輯門，最初被構(gòu)想為人工神經(jīng)元。那些將計(jì)算機(jī)稱為“電子大腦”的記者們，并非那個(gè)年代的“標(biāo)題黨”，他們真實(shí)描繪了計(jì)算機(jī)科學(xué)先驅(qū)們的雄心壯志。對(duì)于那些早期的計(jì)算機(jī)科學(xué)家來說，試圖復(fù)制任何形式的思維活動(dòng)，都不過是順利成章的事了。

然而，那些雄心壯志很快便破滅了。一方面，數(shù)字計(jì)算機(jī)確實(shí)范圍明確的程序性任務(wù)上取得了巨大成功——通過編程，電子計(jì)算機(jī)能夠以低成本、零差錯(cuò)、大規(guī)模的方式完成諸如火箭軌道計(jì)算和薪資核算之類的工作。另一方面，20世紀(jì)50年代的神經(jīng)科學(xué)家卻發(fā)現(xiàn)，真正的神經(jīng)元要比邏輯門復(fù)雜得多。

更糟糕的是，事實(shí)證明，編寫能夠執(zhí)行最簡(jiǎn)單日常人類功能（從視覺識(shí)別到基本的語言理解）的程序竟都無法實(shí)現(xiàn)，更不用說復(fù)雜推理、文學(xué)分析或藝術(shù)創(chuàng)作了。對(duì)于這些事情，我們（至今仍然）不知道該如何編寫精確的程序。這種注定失敗的嘗試如今被稱為“傳統(tǒng)AI”或GOFAI（Good Old-Fashioned AI）。我們本想制造出像HAL 9000那樣的智能體，結(jié)果得到的卻只是“預(yù)約，請(qǐng)按1；修改現(xiàn)有預(yù)約請(qǐng)按2”。

一種看似合理的解釋出現(xiàn)了，為GOFAI的失敗提供了理由：計(jì)算機(jī)不是大腦，大腦也不是計(jì)算機(jī)。任何相反的觀點(diǎn)都被認(rèn)為是幼稚的，是“炒作”，或者最多只是個(gè)不恰當(dāng)?shù)谋扔鳌；蛟S，人類行為無法被編程這一想法多少讓人感到安心。在很大程度上，神經(jīng)科學(xué)和計(jì)算機(jī)科學(xué)分道揚(yáng)鑣了。

然而，“計(jì)算神經(jīng)科學(xué)家”們繼續(xù)將大腦視為一種信息處理系統(tǒng)，盡管其設(shè)計(jì)與傳統(tǒng)電子計(jì)算機(jī)截然不同。大腦沒有中央處理器或單獨(dú)的存儲(chǔ)器，不會(huì)只按順序執(zhí)行指令，也不使用二進(jìn)制邏輯。不過，正如圖靈所證明的，計(jì)算具有通用性。只要有足夠的時(shí)間和內(nèi)存，任何計(jì)算機(jī)，無論是生物的還是人工的，都能模擬任何其他計(jì)算機(jī)。事實(shí)上，多年來，神經(jīng)科學(xué)家已經(jīng)建立了越來越精確的生物神經(jīng)元和神經(jīng)網(wǎng)絡(luò)的計(jì)算模型。這些模型不僅包括最能體現(xiàn)神經(jīng)活動(dòng)特征的“全或無”脈沖或“動(dòng)作電位”，還包括化學(xué)信號(hào)、基因表達(dá)、電場(chǎng)等現(xiàn)象的影響。

人類的智力水平已遠(yuǎn)遠(yuǎn)高于那些最早的生命形式，這源自于底層的約860億個(gè)神經(jīng)元的協(xié)同運(yùn)算，所有神經(jīng)元相互并行著處理信息。

在此，有必要解釋一下“模型”（model）這個(gè)詞。在傳統(tǒng)用法中，模型絕非真實(shí)事物，比如火車模型或金融模型。它只是一張地圖，而非實(shí)際的地域。神經(jīng)科學(xué)家在構(gòu)建神經(jīng)網(wǎng)絡(luò)模型時(shí)，通常也是秉持這種精神。他們?cè)噲D了解大腦的工作原理，而非探索如何賦予計(jì)算機(jī)思維能力。因此，他們的模型是高度簡(jiǎn)化的。

然而，計(jì)算神經(jīng)科學(xué)提醒我們，大腦也在忙于計(jì)算。因此，大腦的計(jì)算功能本身就是一個(gè)模型。所以，現(xiàn)實(shí)世界就是一張地圖——如果這張地圖和現(xiàn)實(shí)世界一樣大，它就等同于真實(shí)事物，就像一個(gè)全尺寸的模型鐵路一樣。換言之，如果我們能造出一個(gè)完全實(shí)現(xiàn)的大腦模型，它就能反過來對(duì)我們進(jìn)行建模！

一方面，GOFAI經(jīng)歷著屬于自己的反復(fù)興衰循環(huán)，而在另一方面，另一種關(guān)于如何讓計(jì)算機(jī)思考的“聯(lián)結(jié)主義”學(xué)派（connectionist）則始終存在著，且常常與計(jì)算神經(jīng)科學(xué)相互聯(lián)動(dòng)。聯(lián)結(jié)主義者放棄了基于程序員預(yù)設(shè)規(guī)則的符號(hào)邏輯，轉(zhuǎn)而擁抱“機(jī)器學(xué)習(xí)”方法，讓神經(jīng)網(wǎng)絡(luò)從經(jīng)驗(yàn)中學(xué)習(xí)，類似于我們?nèi)祟惖膶W(xué)習(xí)方式。

盡管常常被GOFAI所掩蓋，但聯(lián)結(jié)主義者從未停止過嘗試讓人工神經(jīng)網(wǎng)絡(luò)完成現(xiàn)實(shí)生活中的認(rèn)知任務(wù)。在這些堅(jiān)持不懈的人當(dāng)中，有杰弗里·辛頓（Geoffrey Hinton）和約翰·霍普菲爾德（John Hopfield），他們因在機(jī)器學(xué)習(xí)方面的突出貢獻(xiàn)而獲得2024年諾貝爾物理學(xué)獎(jiǎng)；還有許多該領(lǐng)域的先驅(qū)盡管他們的貢獻(xiàn)未得到廣泛認(rèn)可，比如美國(guó)心理學(xué)家弗蘭克·羅森布拉特（Frank Rosenblatt）和詹姆斯·麥卡利蘭（James McClelland）以及日本計(jì)算機(jī)科學(xué)家福島邦彥（Kunihiko Fukushima）。不幸的是，20世紀(jì)的計(jì)算范式（至少直到90年代）對(duì)機(jī)器學(xué)習(xí)并不友好，這不僅是因?yàn)槿藗儗?duì)神經(jīng)網(wǎng)絡(luò)普遍持懷疑態(tài)度，還因?yàn)榫幊瘫举|(zhì)上是符號(hào)性的——計(jì)算機(jī)是為按順序執(zhí)行指令而設(shè)計(jì)的，而這與神經(jīng)計(jì)算并不契合；而在最初，這本只是一種設(shè)計(jì)選擇。

最初的邏輯門是用真空管制成的，這種真空管極不可靠且需要頻繁更換。為了使計(jì)算盡可能地穩(wěn)健可靠，所有計(jì)算都自然而然地基于每個(gè)真空管可區(qū)分的最小“狀態(tài)”：“關(guān)”或“開”。由此形成了二進(jìn)制系統(tǒng)，只使用0和1，恰好對(duì)應(yīng)著布爾邏輯（Boolean logic）的“真”（或1）和“假”（或0）的基本符號(hào)基礎(chǔ)。

同理，構(gòu)建“中央處理器”（CPU）也是采用最少數(shù)量的“易故障”真空管來逐條執(zhí)行指令。這意味著要將處理單元與內(nèi)存分離，并通過一根電纜或“總線”將數(shù)據(jù)和指令在存儲(chǔ)器和CPU之間串行傳輸。

這種“經(jīng)典”的計(jì)算范式在很長(zhǎng)一段時(shí)間內(nèi)蓬勃發(fā)展，這得益于摩爾定律（Moore’s Law）——這是后來的芯片制造商英特爾的創(chuàng)始人戈登·摩爾（Gordon Moore）在1965年提出的一個(gè)著名觀點(diǎn)：微型化使芯片上的晶體管數(shù)量每一年或兩年就翻一番。隨著晶體管尺寸的縮小，它們的運(yùn)算速度也呈指數(shù)級(jí)提升，成本大幅降低，耗電量也減少了。于是，龐大昂貴的大型機(jī)變成了小型機(jī)，然后是臺(tái)式機(jī)、筆記本電腦、手機(jī)，再到可穿戴設(shè)備。如今，計(jì)算機(jī)已經(jīng)小到可以穿過一根注射器針頭。筆記本電腦和手機(jī)主要由電池和屏幕構(gòu)成；這類設(shè)備中的實(shí)際計(jì)算機(jī)“片上系統(tǒng)”（SoC），面積僅約一平方厘米，厚度不到十分之一毫米——一滴水的體積都是其數(shù)倍。

?片上系統(tǒng)（SoC）示意圖. 圖源：ansys

盡管規(guī)模上的這一進(jìn)步令人矚目，但它并沒有引領(lǐng)我們走向大腦。大腦既不微小也不快速，其運(yùn)行速度遠(yuǎn)比智能手表中的計(jì)算機(jī)要慢得多。然而，請(qǐng)記住，它同時(shí)擁有約860億個(gè)工作狀態(tài)下的神經(jīng)元。這加起來就是極其龐大的計(jì)算量，而且由于其運(yùn)行相對(duì)緩慢，并且使用本地存儲(chǔ)的信息，因此它非常節(jié)能。即便計(jì)算機(jī)的運(yùn)行速度在不斷提升，人工神經(jīng)計(jì)算的效率仍然不高，因?yàn)樗鼈內(nèi)圆捎么袌?zhí)行模式：根據(jù)需要從單獨(dú)的內(nèi)存中讀寫數(shù)據(jù)。

直到英偉達(dá)等公司開始設(shè)計(jì)多處理器并行芯片，運(yùn)行真正有意義的大規(guī)模神經(jīng)網(wǎng)絡(luò)才成為可能。并行化在一定程度上是對(duì)摩爾定律原始形式逐漸失效的一種回應(yīng)。盡管晶體管仍在不斷縮小，但自2006年左右起，處理器運(yùn)行頻率已無法繼續(xù)提高，實(shí)際上限約為幾千兆赫茲（每秒數(shù)十億次時(shí)鐘周期）。

即便計(jì)算機(jī)的運(yùn)行速度在不斷提升，人工神經(jīng)計(jì)算的效率仍然不高，因?yàn)樗鼈內(nèi)圆捎么袌?zhí)行模式。

并行化意味著要改變編程模型，使其更傾向于使用短代碼片段（最初被稱為“像素著色器”，因?yàn)樗鼈兪菫閳D形設(shè)計(jì)的），以便能夠在多個(gè)處理器上同時(shí)執(zhí)行。著色器（Shader）被證明非常適合并行化神經(jīng)網(wǎng)絡(luò)。因此，最初為游戲設(shè)計(jì)的圖形處理單元（GPU）如今為AI提供動(dòng)力。除此之外，谷歌的張量處理單元（TPU）也是基于類似的設(shè)計(jì)原則。

盡管圖形處理器（GPU）和張量處理器（TPU）朝著正確的方向邁出了一步，但當(dāng)今的AI基礎(chǔ)設(shè)施仍受困于其傳統(tǒng)的架構(gòu)。我們距離擁有千兆級(jí)處理器并行處理本地存儲(chǔ)數(shù)據(jù)的芯片還很遙遠(yuǎn)。而且，AI模型仍然串行指令來實(shí)現(xiàn)，究其根源，傳統(tǒng)的計(jì)算機(jī)編程、芯片架構(gòu)和系統(tǒng)設(shè)計(jì)根本不像大腦。我們?cè)诮?jīng)典計(jì)算機(jī)上模擬神經(jīng)計(jì)算，這效率低得就像過去人類計(jì)算時(shí)代用大腦模擬經(jīng)典計(jì)算一樣。

不過，在接下來的幾年里，我們預(yù)計(jì)會(huì)看到一種真正的神經(jīng)計(jì)算范式出現(xiàn)。神經(jīng)計(jì)算最終可能會(huì)在光子、生物、化學(xué)、量子或其他全新的基質(zhì)上實(shí)現(xiàn)。但即便“硅基大腦”是利用熟悉的芯片技術(shù)制造出來的，其組件的組織方式也會(huì)有所不同。每平方厘米的硅片都將包含數(shù)以百萬計(jì)的信息處理節(jié)點(diǎn)，這些節(jié)點(diǎn)就像一個(gè)個(gè)神經(jīng)元一樣能夠同時(shí)運(yùn)作。

這些神經(jīng)芯片不會(huì)運(yùn)行程序。它們的功能將不是由代碼（至少不是我們?nèi)缃袼熘哪欠N代碼）來決定的，而是由存儲(chǔ)在整個(gè)計(jì)算區(qū)域內(nèi)的數(shù)十億甚至數(shù)萬億個(gè)數(shù)值參數(shù)來決定。神經(jīng)硅腦能夠被“刷新”，其參數(shù)可以按照需要進(jìn)行初始化；但它也能夠從經(jīng)驗(yàn)中學(xué)習(xí)，即時(shí)修改這些參數(shù)。計(jì)算將是分散且穩(wěn)健的，偶爾的故障或局部損壞無關(guān)緊要。這與大腦的天然架構(gòu)不謀而合，而這絕非巧合。

預(yù)測(cè)智能

對(duì)于我們這些語言模型早期開發(fā)者來說，僅憑預(yù)測(cè)下一個(gè)單詞（或“下一個(gè)標(biāo)記”），AI就展現(xiàn)出的驚人的通用智能，這一發(fā)現(xiàn)具有劃時(shí)代的意義。即便我們認(rèn)同大腦是可計(jì)算的，大多數(shù)人依然認(rèn)為真正的AI需要某種特殊算法，來破解智能與意識(shí)的亙古謎團(tuán)。所以，當(dāng)僅靠大規(guī)模應(yīng)用下一個(gè)標(biāo)記預(yù)測(cè)（next-token prediction）就“解決”了智能問題時(shí)，這著實(shí)令人震驚。

而從最初的震驚中緩過神后，我們會(huì)意識(shí)到這并不意味著再無未解之謎，也不意味著意識(shí)不存在，或者心智只是《綠野仙蹤》（Wizard of Oz）里的“幻想”。大語言模型（LLM）背后的神經(jīng)網(wǎng)絡(luò)規(guī)模龐大，且已被證明能夠進(jìn)行任何計(jì)算，就像一臺(tái)運(yùn)行程序的經(jīng)典計(jì)算機(jī)一樣。實(shí)際上，LLM能學(xué)會(huì)的算法種類如此之多，已遠(yuǎn)超計(jì)算機(jī)科學(xué)家發(fā)現(xiàn)或發(fā)明的算法總和。

或許，這種震驚是如此多余。我們?cè)缫阎来竽X具有計(jì)算能力，且它的一切能力必然是可習(xí)得的，要么通過進(jìn)化，要么通過經(jīng)驗(yàn)——否則我們根本就不會(huì)存在。于是，我們發(fā)現(xiàn)自己已身處在一種奇怪的境地，即在尚未完全理解某事物的情況下就已將其復(fù)制出來。當(dāng)圖靈和馮·諾依曼為計(jì)算機(jī)科學(xué)做出貢獻(xiàn)時(shí)，理論還曾大幅領(lǐng)先于實(shí)踐。而如今，實(shí)踐則反過來超越了理論。

實(shí)驗(yàn)室能夠創(chuàng)造出智能，為我們探究其長(zhǎng)期存在的奧秘提供了強(qiáng)大的新途徑，因?yàn)楸M管有不同的聲音，但人工神經(jīng)網(wǎng)絡(luò)并非“黑箱”。我們不僅能夠?qū)徱暺渌季S鏈，還可以更深入地探究它們，以開展“人工神經(jīng)科學(xué)”。與生物大腦不同，我們可以記錄和分析其活動(dòng)的每一個(gè)細(xì)節(jié)，大規(guī)模進(jìn)行完全可重復(fù)的實(shí)驗(yàn)，并開啟或關(guān)閉網(wǎng)絡(luò)的任何部分以觀察其作用。

盡管AI模型與大腦之間存諸多顯著的差異，但通過分析，我們也發(fā)現(xiàn)了它們之間存在著驚人的功能相似性，這表明其二者存在共同的基本原理。在“NeuroAI”這一旗幟下，AI從數(shù)十年的大腦研究中汲取靈感，如今也開始反向回報(bào)神經(jīng)科學(xué)。

盡管我們尚未完全理解LLM所學(xué)習(xí)的算法，但我們開始明白為何學(xué)習(xí)預(yù)測(cè)下一個(gè)詞元會(huì)如此有效。在神經(jīng)科學(xué)領(lǐng)域，“預(yù)測(cè)性大腦假說”（predictive brain hypothesis）由來已久；該假說認(rèn)為大腦進(jìn)化是為了不斷地建模和預(yù)測(cè)未來，其進(jìn)化是通過感知環(huán)境、自身、自身行為及其對(duì)自身和環(huán)境的影響而實(shí)現(xiàn)的。我們能夠有目的地、明智地行事，正是依賴于這樣的模型。

我們?cè)诮?jīng)典計(jì)算機(jī)上模擬神經(jīng)計(jì)算，這效率低得就像過去人類計(jì)算時(shí)代用大腦模擬經(jīng)典計(jì)算一樣。

想象一下自己起身拿一杯水的場(chǎng)景。在該過程里，一個(gè)人能夠在短短一兩秒內(nèi)就學(xué)會(huì)如何很好地對(duì)世界和自己的身體進(jìn)行建模，從而將手伸向杯子，用手指握住它，然后送到嘴邊喝掉。然而，這其實(shí)絕非易事。在這些動(dòng)作的每個(gè)階段，你的神經(jīng)系統(tǒng)都會(huì)計(jì)算出一個(gè)預(yù)測(cè)值，并將其與本體感覺反饋進(jìn)行比較。你的眼睛在場(chǎng)景中快速地移動(dòng)著，以進(jìn)一步進(jìn)行誤差校正。

從更高的層面來看，你預(yù)測(cè)喝水能解渴?？诳时旧硪彩且环N預(yù)測(cè)信號(hào)，盡管是整個(gè)物種在漫長(zhǎng)的進(jìn)化時(shí)間尺度上“習(xí)得”的。無法預(yù)測(cè)自身對(duì)水的需求的生物，存活時(shí)間不會(huì)太長(zhǎng)，也就無法將其有缺陷的自我模型傳遞下去。

演化濃縮了無數(shù)前代的經(jīng)驗(yàn)，并于最終被歸結(jié)為繁衍成功或死亡的粗略信號(hào)。當(dāng)新生兒認(rèn)出人臉，或者一只從未見過蛇的貓被背后突然出現(xiàn)的黃瓜嚇得跳起來時(shí)，演化學(xué)習(xí)（evolutionary learning）就在發(fā)揮作用。

機(jī)器學(xué)習(xí)涉及調(diào)整模型參數(shù)，這些參數(shù)通常被認(rèn)為代表突觸（即神經(jīng)元之間的連接），通過終身學(xué)習(xí)而增強(qiáng)或減弱。這些參數(shù)通常是隨機(jī)初始化的。但在大腦中，神經(jīng)元是根據(jù)遺傳編碼（且對(duì)環(huán)境敏感）的發(fā)育程序連接起來的。我們預(yù)計(jì)，未來的AI模型也將演化為自我構(gòu)建的系統(tǒng)。它們將通過經(jīng)驗(yàn)動(dòng)態(tài)地生長(zhǎng)和發(fā)展，而不是具有固定參數(shù)數(shù)量的靜態(tài)、人工設(shè)計(jì)的架構(gòu)。

在不同時(shí)間尺度上進(jìn)行統(tǒng)一學(xué)習(xí)，或許還能消除當(dāng)前模型訓(xùn)練與正常運(yùn)行（或推理）之間的差距。如今，最先進(jìn)的LLM訓(xùn)練成本極其高昂，要耗費(fèi)大量計(jì)算資源長(zhǎng)達(dá)數(shù)月，而推理則相對(duì)便宜，可以實(shí)時(shí)完成。然而我們知道，LLM掌握的最重要技能之一就是學(xué)會(huì)學(xué)習(xí)，這也就解釋了它們?yōu)楹文茉趯?duì)話過程中處理新的想法、詞匯或任務(wù)。

不過，就目前而言，任何新獲得的知識(shí)都是即時(shí)性的，其僅在“上下文窗口”內(nèi)存在，而模型參數(shù)則自始至終保持不變。未來那些能夠?qū)⑿袆?dòng)與預(yù)測(cè)統(tǒng)一起來的模型，應(yīng)該可以像我們一樣，在運(yùn)行過程中持續(xù)累積、開放式學(xué)習(xí)。

同樣地，我們開始看到一種轉(zhuǎn)變，人們不再將AI模型的能力局限于其初始離線訓(xùn)練階段，而是轉(zhuǎn)向“測(cè)試時(shí)擴(kuò)展”（test-time scaling），在這種模式下，模型只需花更多時(shí)間思考其響應(yīng)就能變得更強(qiáng)大。更類似人腦的模型設(shè)計(jì)，應(yīng)能讓這種當(dāng)下的改進(jìn)像我們?nèi)祟愐粯硬粩嗬鄯e，從而使所有未來的響應(yīng)都能從中受益。

由于支撐LLM的神經(jīng)網(wǎng)絡(luò)是強(qiáng)大的通用預(yù)測(cè)器，所以它們不僅能夠?qū)φZ言、聲音和視頻進(jìn)行建模，還能徹底變革機(jī)器人技術(shù)，前文所提到的抓取一杯水的例子也就不足為奇了。幾十年來，人工編程的GOFAI在超出裝配線那種重復(fù)、常規(guī)化的機(jī)器人技術(shù)方面一直舉步維艱。但如今，類似LLM的“視覺-語言-動(dòng)作”模型能夠?qū)W會(huì)驅(qū)動(dòng)各種各樣的機(jī)器人身體，從Waymo無人車到人形機(jī)器人（以及許多其他）形態(tài)，被越來越多地部署在了復(fù)雜的非結(jié)構(gòu)化環(huán)境中。

?汽車大廠的自動(dòng)駕駛汽車比賽. 圖源：fortune

通過運(yùn)用思維鏈和推理軌跡，將大問題拆解為較小的中間步驟，預(yù)測(cè)模型甚至能夠模擬出多種可能的結(jié)果或意外情況，從潛在的未來樹中進(jìn)行選擇。這種“有選擇性的”預(yù)測(cè)，可能正是我們自由意志概念的成立機(jī)制。

最終，生命體的一切行為都可以被視為一種自我實(shí)現(xiàn)的預(yù)言。生命就是那種能將自身預(yù)測(cè)為持續(xù)存在的事物，而且隨著智能的不斷提升，這種預(yù)測(cè)也會(huì)變得愈發(fā)復(fù)雜精妙。

擁抱預(yù)測(cè)處理范式，包括將規(guī)劃、行動(dòng)和預(yù)測(cè)統(tǒng)一起來，不僅有望進(jìn)一步改進(jìn)語言模型和機(jī)器人技術(shù)，而且還能將機(jī)器學(xué)習(xí)、神經(jīng)科學(xué)甚至理論生物學(xué)的理論基礎(chǔ)建立在統(tǒng)一基礎(chǔ)之上。

通用智能

有人認(rèn)為，LLM只是偽智能：它們看似聰明，實(shí)則不然。這些懷疑論者認(rèn)為，我們通過讓AI“自動(dòng)補(bǔ)全”海量句子，訓(xùn)練出了能通過圖靈測(cè)試的機(jī)器，但這些機(jī)器只是讓我們誤以為“有人在”，實(shí)際上并非如此。

許多人持相反觀點(diǎn)，認(rèn)為AI是真實(shí)的，并且我們即將實(shí)現(xiàn)“通用人工智能”（AGI）——盡管對(duì)于如何定義它存在各種不同的看法。對(duì)不同的人來說，這一前景可能令人興奮、令人擔(dān)憂，甚至威脅存在。

盡管有人反對(duì)，但人工神經(jīng)網(wǎng)絡(luò)確非“黑箱”。

那么，哪一方是正確的呢？答案或許是“都不是”：雙方陣營(yíng)中的大多數(shù)人認(rèn)為AGI是一個(gè)在未來某個(gè)時(shí)候會(huì)（或不會(huì)）跨越的明確界限。但實(shí)際上，似乎并不存在這樣的界限——或者即便存在，我們可能已經(jīng)跨越了它。

首先來分析懷疑論者的觀點(diǎn)。對(duì)許多人來說，AI完成任務(wù)的能力——無論是聊天、寫詩、駕駛汽車，還是做些全新的事情——都無關(guān)緊要，因?yàn)锳I的實(shí)現(xiàn)方式從根本上排除了其具備真正智能的可能。這種觀點(diǎn)可能基于這樣的斷言：大腦除了“單純的”預(yù)測(cè)之外還必須執(zhí)行其他操作，大腦不是計(jì)算機(jī)，或者簡(jiǎn)單地說AI模型沒有生命。因此，懷疑論者通常認(rèn)為，當(dāng)應(yīng)用于AI時(shí)，諸如“智能”、“理解”、“能動(dòng)性”、“學(xué)習(xí)”或“幻覺”之類的術(shù)語需要加引號(hào)，因?yàn)檫@都是不恰當(dāng)?shù)娜烁窕硎觥?/p>

這種對(duì)措辭的焦慮有必要嗎？從功能的角度來看，答案是否定的。我們稱鳥的翅膀和飛機(jī)的機(jī)翼都是“翅膀”，并非因?yàn)樗鼈冇上嗤牟牧现瞥苫蚬ぷ髟硐嗤?，而是因?yàn)樗鼈儼l(fā)揮著相同的作用。我們是否應(yīng)該在意飛機(jī)實(shí)現(xiàn)飛行的方式與鳥類不同？如果我們的關(guān)注點(diǎn)在于目的——即鳥類和飛機(jī)為何要有翅膀，那么我們就不必在意這種困擾。

功能主義（Functionalism）是所有“有目的”的系統(tǒng)的標(biāo)志性特征，這里的系統(tǒng)包括生物體、生態(tài)系統(tǒng)和技術(shù)系統(tǒng)。一切“有目的”的事物都是由相互依存的部分組成的，每個(gè)部分都為其他部分提供功能支持；而這些部分本身也常常由更小的相互依存且有目的的部分構(gòu)成。

許多AI懷疑論者明里暗里更關(guān)心的是實(shí)現(xiàn)方式而非所取得的成果（比如飛行或智能）。然而，大自然對(duì)“如何實(shí)現(xiàn)”并不在意。為了增強(qiáng)靈活性或穩(wěn)定性，無論是人工系統(tǒng)還是自然系統(tǒng)，常常會(huì)采用功能相同但工作原理不同的部件進(jìn)行替代或同時(shí)使用。比如在物流領(lǐng)域，鐵路和卡車都能運(yùn)輸貨物；作為客戶，你只關(guān)心貨物能否送達(dá)。在您的細(xì)胞中，有氧呼吸和無氧呼吸可能具有相同的功能，當(dāng)你運(yùn)動(dòng)過猛，有氧呼吸跟不上時(shí)，無氧呼吸途徑就會(huì)啟動(dòng)。

神經(jīng)系統(tǒng)也是如此。它同樣由具有功能關(guān)系的各個(gè)部分組成，這些部分同樣可以被功能相當(dāng)?shù)牟考娲?。我們已?jīng)在一定程度上做到了這一點(diǎn)，比如人工耳蝸和人工視網(wǎng)膜，盡管這些假體目前還無法達(dá)到生物耳朵或眼睛的質(zhì)量。不過，神經(jīng)義肢最終將與我們與生俱來的感覺器官相媲美，甚至超越它們。

有朝一日，我們甚至可能以同樣的方式替換受損的腦組織。這之所以可行，是因?yàn)槟銢]有“小人”（homunculus），即你的大腦中并無某個(gè)特別不可替代的區(qū)域是“你”的所在之處。讓你成為你的并非大腦或身體的任何一部分，也不是你的原子（它們無論如何都會(huì)頻繁更新），更不是你身體每一部分的具體實(shí)現(xiàn)方式。相反，你是一個(gè)高度復(fù)雜且動(dòng)態(tài)的功能關(guān)系集合體。

那么AI模型呢？LLM不僅實(shí)現(xiàn)方式與大腦截然不同，它們與我們的關(guān)系也不同于人與人之間的關(guān)系。它們沒有身體，沒有生命經(jīng)歷，沒有親屬關(guān)系，也沒有長(zhǎng)期的情感羈絆。這些差異思考AI的倫理和法律地位時(shí)至關(guān)重要，但在諸如智能和理解能力之類的問題上則無關(guān)緊要。

一些研究人員雖然在理論上認(rèn)同所有這些前提，但仍堅(jiān)持認(rèn)為AGI存在一個(gè)當(dāng)前的AI系統(tǒng)尚未跨越的門檻。那么，我們?nèi)绾尾拍苤浪鼈兒螘r(shí)跨越了呢？答案必然涉及用于測(cè)試我們認(rèn)為構(gòu)成通用智能的能力的基準(zhǔn)。

目前，我們已擁有了許多套基準(zhǔn)測(cè)試方案。其中有些方案，比如AI研究員弗朗索瓦·肖萊特（Francois Chollet）的“抽象與推理語料庫”，類似于智商測(cè)試。還有一些則更為全面；例如，谷歌DeepMind的研發(fā)人員就強(qiáng)調(diào)，我們更應(yīng)關(guān)注能力而非過程，他們還強(qiáng)調(diào)通用智能代理需要?jiǎng)偃巍鞍▽W(xué)習(xí)新技能在內(nèi)的廣泛非物理任務(wù)”。但究竟應(yīng)該評(píng)估哪些任務(wù)呢？出某些競(jìng)爭(zhēng)激烈的市場(chǎng)中界定明確的技能之外，我們可能很難將自己劃分為“勝任者”（超越50%）、“專家”（超越90%）和“大師”（超越99%）等類別。

為了增強(qiáng)靈活性或穩(wěn)定性，無論是人工系統(tǒng)還是自然系統(tǒng)，常常會(huì)采用功能相同但工作原理不同的部件進(jìn)行替代或同時(shí)使用。

AGI這一術(shù)語最早可追溯至2002年，計(jì)算機(jī)科學(xué)家彼得·沃斯（Peter Voss）和姆拉丹·約萬諾維奇（Mla?an Jovanovi?）在2023年的一篇論文中將其極致簡(jiǎn)化為“與人類相當(dāng)?shù)耐ㄓ谜J(rèn)知能力”。但也有些僅從經(jīng)濟(jì)角度的界定。OpenAI官網(wǎng)將AGI定義為“一種高度自主的系統(tǒng)，能夠在大多數(shù)經(jīng)濟(jì)價(jià)值高的工作中超越人類”。2023年，AI企業(yè)家穆斯塔法·蘇萊曼（Mustafa Suleyman，現(xiàn)為微軟AI部門的首席執(zhí)行官）提出，當(dāng)一個(gè)AI能夠賺取一百萬美元時(shí)，它就具備了通常意義上的“能力”。

這樣的門檻既武斷，也并不符合我們對(duì)人類智能的認(rèn)知方式。為何一定要強(qiáng)調(diào)經(jīng)濟(jì)活動(dòng)呢？我們得賺多少錢才算聰明，那些沒能積累巨額財(cái)富的人就不聰明嗎？

當(dāng)然，我們開發(fā)AI的動(dòng)機(jī)在于期望豐富或拓展人類的科學(xué)、經(jīng)濟(jì)或社會(huì)生活。但生產(chǎn)力的經(jīng)濟(jì)衡量標(biāo)準(zhǔn)既不簡(jiǎn)單，也不能直接反映智能水平。而且，這種衡量標(biāo)準(zhǔn)還排除了大量人類勞動(dòng)，而這些勞動(dòng)的寶貴價(jià)值并在經(jīng)濟(jì)維度上得到體現(xiàn)。對(duì)此，或許更應(yīng)該得到關(guān)注的是任務(wù)本身的“生態(tài)效度”（ecological validity），即它們是否對(duì)他人重要，無論是經(jīng)濟(jì)上、藝術(shù)上、社會(huì)上、情感上還是其他方面。然而，這樣復(fù)雜的標(biāo)準(zhǔn)凸顯了純粹客觀的效能評(píng)估的難度。

如今的LLM已經(jīng)能夠完成一系列種類繁多且依舊在不斷增長(zhǎng)的認(rèn)知任務(wù)，而就在幾年前，任何理智的人都會(huì)認(rèn)為這些任務(wù)需要高智商才能完成：從剖析復(fù)雜的論點(diǎn)到編寫代碼，再到緩和電子郵件的語氣，以及在線研究某個(gè)主題。在幾乎任何給定的領(lǐng)域，人類專家的表現(xiàn)仍然更勝一籌（這正是當(dāng)前許多評(píng)估方法所試圖衡量的性能差距）。但我們必須承認(rèn)，沒有哪一個(gè)人——無論多么聰明——擁有與AI相當(dāng)?shù)膹V泛技能。在過去幾年里，我們已悄然轉(zhuǎn)變?cè)u(píng)估標(biāo)準(zhǔn)，即衡量AI性能不再以“任何個(gè)體”為基準(zhǔn)，而是以“全人類”為參照。換言之，當(dāng)前單個(gè)人類的“通用性”已低于AI模型。

這一進(jìn)展迅速且持續(xù)不斷。我們認(rèn)為，該領(lǐng)域的標(biāo)準(zhǔn)不斷提高，部分原因在于似乎沒有哪一項(xiàng)單獨(dú)的進(jìn)展足以宣告AGI的成功。總有更多的工作要做。然而，我們相信，如果讓2002年的AI研究人員有機(jī)會(huì)接觸到當(dāng)今的任何LLM，他絕對(duì)會(huì)毫不猶豫地說AGI已經(jīng)到來。

實(shí)現(xiàn)AGI中的“通用”，關(guān)鍵在于“無監(jiān)督訓(xùn)練”，即在不規(guī)定任務(wù)的情況下進(jìn)行機(jī)器學(xué)習(xí)。微調(diào)和強(qiáng)化學(xué)習(xí)常被用于后續(xù)增強(qiáng)特定技能和行為屬性，但如今大多數(shù)模型訓(xùn)練都是通用的。AI的廣泛能力源于對(duì)語言、聲音、視覺或其他任何事物進(jìn)行建模。一旦模型能夠通用地處理這些模態(tài)，那么，就像我們一樣，只要首先描述、推斷或通過示例展示任務(wù)，它就能被指示執(zhí)行任何任務(wù)，甚至是全新的任務(wù)。

想要弄明白我們?nèi)绾螌?shí)現(xiàn)AGI，為何在經(jīng)歷了數(shù)十年的失敗嘗試之后才在最近得以實(shí)現(xiàn)，以及這對(duì)理解我們自身心智意味著什么，我們就必須重新審視我們最根本的假設(shè)——不僅是關(guān)于AI的，還有關(guān)于計(jì)算本質(zhì)的。

集體智慧

“社會(huì)智力假說”（Social intelligence hypothesis）認(rèn)為，像我們這樣的智慧生物之所以會(huì)出現(xiàn)智力爆發(fā)，是因?yàn)榇嬖谝环N社會(huì)性反饋循環(huán)的機(jī)制。展開來說，我們的生存和繁衍成功與否，取決于我們能否交朋友、吸引伴侶、獲取共享資源，至少是說服他人幫助照顧我們的孩子。實(shí)現(xiàn)所有這些都需要一種“心智理論”，即設(shè)身處地為他人著想的能力：對(duì)方看到了什么，感覺如何？他們?cè)谙胧裁?？他們知道什么，不知道什么？他們?huì)如何行動(dòng)？

追蹤他人的心理狀態(tài)是一項(xiàng)認(rèn)知挑戰(zhàn)?？v觀各類靈長(zhǎng)類動(dòng)物，研究人員觀察到大腦大小與群體規(guī)模之間存在相關(guān)性。在人類中，與心智理論相關(guān)的腦區(qū)體積與朋友數(shù)量有關(guān)；此外，朋友多的人往往比社交孤立的人更健康、更長(zhǎng)壽。綜合來看，這些觀察結(jié)果表明，持續(xù)的選擇壓力促進(jìn)了社會(huì)腦的進(jìn)化。

我們已悄然轉(zhuǎn)變?cè)u(píng)估標(biāo)準(zhǔn)，即衡量AI性能不再以“任何個(gè)體”為基準(zhǔn)，而是以“全人類”為參照。換言之，當(dāng)前單個(gè)人類的“通用性”已低于AI模型。

盡管心智理論存在馬基雅維利式（Machiavellian）*的一面，但它對(duì)于人類所獨(dú)有的高級(jí)合作形式至關(guān)重要。教學(xué)與學(xué)習(xí)、勞動(dòng)分工、聲譽(yù)維護(hù)以及“IOU”心理賬戶都依賴于心智理論。因此，任何重要的經(jīng)濟(jì)、政治體系或技術(shù)的發(fā)展也都依賴于此。由于能夠大規(guī)模合作的部落或社區(qū)能作為一個(gè)更龐大且強(qiáng)大的整體發(fā)揮作用，心智理論不僅為個(gè)人帶來益處，也為群體帶來益處。

?馬基雅維利式智力 (Machiavellian Intelligence)，是指?jìng)€(gè)體通過狡黠、策略等手段來理解和操縱他人行為的能力。它由理查德·伯恩（Richard Byrne）和安德魯·威滕（Andrew Whiten）在1988年提出，用以解釋靈長(zhǎng)類動(dòng)物復(fù)雜智力的進(jìn)化原因，認(rèn)為智力的進(jìn)化并非僅為了應(yīng)對(duì)物理環(huán)境，更是為了在復(fù)雜的社會(huì)關(guān)系中更好地生存和繁衍。其典型表現(xiàn)包括欺騙、操縱他人以獲取資源、建立和利用社會(huì)聯(lián)盟等。圖源：Oxford: Clarendon Press, 1988.

隨著這種群體層面的優(yōu)勢(shì)變得具有決定性作用，心智的社會(huì)整合便邁向了一場(chǎng)重大的進(jìn)化轉(zhuǎn)變——一種共生關(guān)系（symbiosis），如前所述，在這種關(guān)系中，曾經(jīng)獨(dú)立的實(shí)體聯(lián)合起來，創(chuàng)造出新的、更偉大的事物。而整合的代價(jià)則是，曾經(jīng)獨(dú)立的實(shí)體再也無法獨(dú)自生存和繁衍。這正是對(duì)現(xiàn)代城市化社會(huì)的真實(shí)寫照：我們當(dāng)中又有多少人能夠在森林里獨(dú)自生存呢？

我們組成了一個(gè)超級(jí)生命體（superorganism）。正因如此，我們的智慧本就是集體性的，因此在某種意義上，我們可以被稱為超人。這就是為什么當(dāng)我們用大量的人類集體成果來訓(xùn)練LLM時(shí)，我們實(shí)際上已經(jīng)在創(chuàng)造一種超級(jí)智能，其知識(shí)廣度和平均深度都遠(yuǎn)超任何單個(gè)個(gè)體——盡管LLM通常無法在專業(yè)領(lǐng)域內(nèi)超越人類專家。

這就是近期的一項(xiàng)嘗試“人類終極測(cè)試”（名字相當(dāng)冷酷）的項(xiàng)目初衷，它試圖創(chuàng)建一個(gè)LLM目前尚無法通過的AI基準(zhǔn)測(cè)試。其測(cè)試題目由來自100多個(gè)領(lǐng)域的近1000名專家編寫，AI需要掌握諸如翻譯羅馬墓碑上的帕爾米拉文，或者知道蜂鳥的籽骨支撐著多少對(duì)肌腱這樣的技能。前者古典學(xué)專家或許能答對(duì)，后者鳥類學(xué)家或許能答對(duì)，但普通人的測(cè)試表現(xiàn)可能會(huì)接近零分。相比之下，目前最先進(jìn)的模型得分在3.3%到18.8%之間。

人類之所以擁有超凡的智慧，得益于其所擁有的認(rèn)知分工；從某種意義上說，單個(gè)大腦也是如此。AI先驅(qū)馬文·明斯基（Marvin Minsky）曾提出“心智社會(huì)”（Society of Mind）的概念，認(rèn)為我們看似單一的“自我”實(shí)際上是由眾多相互作用的專門化代理組成的蜂巢思維。的確，我們的大腦皮層由一系列“皮質(zhì)柱”組成，這些重復(fù)的神經(jīng)回路單元多次排列，形成一個(gè)廣闊的表面。盡管人類大腦皮層的厚度僅約2~4.5毫米，但其面積卻可達(dá)2500平方厘米（大腦表面之所以遍布褶皺，是因?yàn)橐衙娣e相當(dāng)于一張大號(hào)餐巾的腦組織塞進(jìn)我們的頭顱中）。，正是由于這種模塊化設(shè)計(jì)，我們的大腦皮層才能在進(jìn)化壓力驅(qū)動(dòng)下迅速擴(kuò)張，實(shí)際上就是增加了更多的皮質(zhì)柱。

大腦皮層的模塊化，不僅是發(fā)育意義上的，也是功能意義上的。大腦皮層的某些部分專門負(fù)責(zé)處理視覺，另一些部分負(fù)責(zé)處理聽覺或觸覺等；還有一些部分似乎專門負(fù)責(zé)社會(huì)性模仿、書寫和算術(shù)。由于這些任務(wù)如此多樣，人們很容易認(rèn)為大腦中的相應(yīng)區(qū)域，就像洗碗機(jī)和復(fù)印機(jī)那樣，高度專業(yè)化且彼此差異顯著。

其實(shí)不然：大腦皮層各個(gè)區(qū)域從嬰兒期就開始學(xué)習(xí)各自的任務(wù)。這種學(xué)習(xí)能力既強(qiáng)大又通用，例如皮層區(qū)域中存在諸如“視覺詞形區(qū)”，專門負(fù)責(zé)閱讀——而閱讀這項(xiàng)技能在人類歷史上出現(xiàn)得太晚，不可能通過自然選擇進(jìn)化而來。我們的皮層并非為閱讀而生，但它能學(xué)會(huì)閱讀。每個(gè)皮層區(qū)域都運(yùn)行著相同的通用“學(xué)習(xí)算法”，與其說是一臺(tái)預(yù)裝功能的機(jī)器，將之視為一個(gè)通過學(xué)習(xí)掌握特定領(lǐng)域知識(shí)的“人類專家”更為貼切。

這種“社會(huì)性皮層”（social cortex）視角強(qiáng)調(diào)：你的大腦中并不存在一個(gè)“小人”（homunculus）或中央處理器（CPU）來承載“你”的存在；相反，大腦更像是一個(gè)“社區(qū)”，它能在沒有中央統(tǒng)籌的情況下協(xié)調(diào)一致地運(yùn)作，這不僅依賴于各個(gè)區(qū)域執(zhí)行專門任務(wù)的能力，也依賴于這些區(qū)域“相互建模”的能力——就像人們需要心智理論來建立關(guān)系和更大的社會(huì)單元一樣。

那么，大腦區(qū)域本身是否也是由更小部分組成的“社區(qū)”在運(yùn)作呢？我們認(rèn)為確實(shí)如此。皮層回路由神經(jīng)元構(gòu)成，這些神經(jīng)元不僅執(zhí)行專門任務(wù)，似乎也學(xué)會(huì)了對(duì)其鄰近神經(jīng)元進(jìn)行建模。這印證了那句熟悉的俚語“一路向下皆是龜”（turtles all the way down，暗指無限的遞歸），暗示智能最好被理解為一種“社會(huì)性分形”（social fractal），而非單一的整體實(shí)體。

當(dāng)然也可能是“一路向上皆是龜”（turtles all the way up）。隨著大腦變大，個(gè)體可以變得更聰明；而隨著個(gè)體數(shù)量增多，社會(huì)也可以變得更聰明。這里存在一種奇妙的“跨尺度反饋循環(huán)”：我們只有通過增大大腦（以利于為他人建模），才能形成更大的社會(huì)；而我們大腦本身的增大，似乎也是通過一種類似的內(nèi)部認(rèn)知分工（division of cognitive labor）實(shí)現(xiàn)的。

大腦區(qū)域本身是否也是由更小部分組成的社區(qū)在運(yùn)作？我們認(rèn)為確實(shí)如此。

AI模型似乎也遵循同樣的原則。研究人員普及了“規(guī)模法則”（scaling laws）這一概念，即模型的大?。ㄒ约坝?xùn)練數(shù)據(jù)的數(shù)量）與模型的能力之間存在關(guān)聯(lián)。大致來說，規(guī)模更大的模型更聰明，就像大腦越大越聰明一樣。而且，與大腦一樣，AI模型也是模塊化的。實(shí)際上，許多模型都依賴于明確訓(xùn)練一個(gè)緊密協(xié)作的“專家集體”，即所謂的“專家混合模型”（Mixture of Experts）。此外，即使是大型的、單一的模型也表現(xiàn)出“涌現(xiàn)模塊化”（emergent modularity）——它們通過學(xué)習(xí)如何將自身劃分為專門的模塊來實(shí)現(xiàn)規(guī)模擴(kuò)展，這些模塊能夠分工合作、各司其職。

從社會(huì)性和認(rèn)知?jiǎng)趧?dòng)多尺度分工的角度思考智能，代表著一種深刻的范式轉(zhuǎn)變。它促使我們探索更像不斷發(fā)展的社交網(wǎng)絡(luò)的AI架構(gòu)，而不是靜態(tài)的、越來越龐大的單體模型。同時(shí)，讓模型（以及子模型）逐步專業(yè)化，并與人類以及彼此之間形成長(zhǎng)期合作，這一點(diǎn)也將至關(guān)重要。

參與“人類終極測(cè)試”的1000多位專家都清楚，從互聯(lián)網(wǎng)上能學(xué)到的東西是有限的。越過這一界限，學(xué)習(xí)就離不開行動(dòng)和互動(dòng)。當(dāng)新的知識(shí)被分享時(shí)，知識(shí)的邊界才會(huì)拓展——無論是源于科學(xué)實(shí)驗(yàn)、討論，還是線下長(zhǎng)時(shí)間的創(chuàng)造性思考（這或許等同于與自己對(duì)話）。

在當(dāng)前的前沿AI開發(fā)路徑中，已有的人類成果被整合并蒸餾成一個(gè)巨大的“基礎(chǔ)模型”，其權(quán)重隨后被凍結(jié)。但在此基礎(chǔ)之上，AI模型也正逐漸向“高度自主性”與“主體能動(dòng)性”（agentive）演進(jìn)，這種演變包括與其他智能體的協(xié)作或互動(dòng)。AI在簡(jiǎn)短的集中式互動(dòng)中已經(jīng)很有幫助。但若要讓它們?cè)谕卣谷祟惣w知識(shí)和能力邊界這類更大的項(xiàng)目中發(fā)揮作用，就必須賦予它們?nèi)缤祟惏慊?dòng)式持續(xù)學(xué)習(xí)及多樣化發(fā)展的能力。

這無疑會(huì)引發(fā)擔(dān)憂，因?yàn)樗鼮锳I開啟了一條“開放式自我演化”的大門，而這正如同人類自身的發(fā)展一樣。AI安全領(lǐng)域?qū)⒛Ｐ烷_放式進(jìn)化的能力稱為“元優(yōu)化”（mesa optimization），并將其視為一種威脅。但值得注意的是，我們發(fā)現(xiàn)，即便當(dāng)今的AI模型也已是元優(yōu)化器，因?yàn)轭A(yù)測(cè)本質(zhì)上涉及即時(shí)學(xué)習(xí)（learning on the fly）；這就是聊天機(jī)器人在被指示執(zhí)行新任務(wù)時(shí)所做的。它之所以可行，是因?yàn)榧词沽奶鞕C(jī)器人的神經(jīng)網(wǎng)絡(luò)權(quán)重已被凍結(jié)，其每次輸出都會(huì)調(diào)取當(dāng)前對(duì)話記錄的整個(gè)“上下文窗口”。盡管如此，現(xiàn)有聊天機(jī)器人仍存在某種“失憶癥”。它們通常無法在單次會(huì)話或多輪會(huì)話之外保留其學(xué)習(xí)成果。谷歌近期開發(fā)的“無限注意力”（Infini-attention）和長(zhǎng)期記憶技術(shù)，通過壓縮舊信息實(shí)現(xiàn)近乎無限的上下文窗口，標(biāo)志著該領(lǐng)域的重大突破。

智能的社會(huì)視角，不僅為AI工程提供了新的視角，也為哲學(xué)中一些長(zhǎng)期存在的問題提供了新的視角，如意識(shí)的“難問題”。如果我們把意識(shí)理解為我們對(duì)自己作為擁有自身經(jīng)歷、內(nèi)心世界和能動(dòng)性主體的清晰認(rèn)知，那么意識(shí)的出現(xiàn)就不足為奇了。我們構(gòu)建“自我”模型，是因?yàn)槲覀兩钤诔錆M“自我”的社會(huì)環(huán)境中，必須不斷運(yùn)用心智理論來預(yù)測(cè)他人的想法和感受。當(dāng)然，我們也需要理解自己也是一個(gè)“自我”，這不僅是因?yàn)槲覀冏约旱倪^去、現(xiàn)在和未來的經(jīng)歷非常重要，還因?yàn)槲覀儗?duì)他人的模型中也包含著他們對(duì)我們的模型。

數(shù)十年來，學(xué)界一直試圖通過實(shí)證測(cè)試來診斷心智理論能力的缺陷。當(dāng)我們?cè)贚LM上運(yùn)行這些測(cè)試時(shí)，毫不意外地發(fā)現(xiàn)它們的表現(xiàn)與人類不相上下。畢竟，在訓(xùn)練模型的對(duì)話、故事和評(píng)論區(qū)數(shù)據(jù)中，自我意識(shí)和心智理論任務(wù)本就占據(jù)重要地位。我們的聊天機(jī)器人同樣依賴心智理論。在每次對(duì)話中，AI不僅需要構(gòu)建用戶模型，還要維持自身“友善助手”模型，以及用戶對(duì)其的認(rèn)知模型——如此遞歸建模，層層嵌套。

超越常規(guī)的AI發(fā)展

經(jīng)過數(shù)十年的緩慢發(fā)展后，我們正快速邁向一個(gè)新階段——未來的AI不僅能響應(yīng)人類個(gè)體的智能，還能拓展集體極限，超越人類的智能水平。面對(duì)AI迅猛的發(fā)展勢(shì)頭，我們既興奮、期待，又深知這是范式變革的關(guān)鍵時(shí)刻。就像歷史上所有重大轉(zhuǎn)折一樣，這個(gè)階段必然會(huì)伴隨著焦慮、爭(zhēng)論和動(dòng)蕩，還面臨著許多必須謹(jǐn)慎處理的問題。

在這種時(shí)刻，我們不僅要優(yōu)先考慮技術(shù)突破，更應(yīng)像國(guó)際象棋中的“跳馬”那樣，在推進(jìn)技術(shù)進(jìn)步的同時(shí)靈活轉(zhuǎn)向相鄰領(lǐng)域或不同范式，通過縱橫結(jié)合的方式開辟豐富的知識(shí)領(lǐng)域，重新思考既有假設(shè)，構(gòu)建新的理論基礎(chǔ)。為了開發(fā)真正造福人類、推動(dòng)科學(xué)發(fā)展的智能系統(tǒng)，最終借助其理解我們自身——無論是作為個(gè)體、小型智能生態(tài)群落，還是作為更大整體的組成部分，我們必須建立全新的范式。

https://www.noemamag.com/ai-is-evolving-and-changing-our-understanding-of-intelligence/

關(guān)于追問nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問為紐帶，深入探究人工智能與人類智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。歡迎評(píng)論區(qū)留言，或后臺(tái)留言“社群”即可加入社群與我們互動(dòng)。您也可以在后臺(tái)提問，我們將基于追問知識(shí)庫為你做出智能回復(fù)哦~

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元?jiǎng)?chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn)，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項(xiàng)目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎(jiǎng)勵(lì)計(jì)劃、、等。