編譯 | 王啟隆

出品丨AI 科技大本營（ID：rgznai100）

2026 年的冬天，安大略省金斯頓的寒風(fēng)似乎比往年更凜冽一些。

在女王大學(xué)（Queen's University）的禮堂里，氣氛卻呈現(xiàn)出一種奇特的莊重與躁動。這里通常是討論中微子、暗物質(zhì)或者宇宙起源的地方——麥克唐納研究所的物理學(xué)家們習(xí)慣于在這里觀測宇宙中最微小的粒子，試圖解開最宏大的謎題。但今晚，講臺屬于一位計(jì)算機(jī)科學(xué)家。

Geoffrey Hinton，這位 78 歲的老人走上講臺時(shí)，背顯得有些佝僂，但眼神依然銳利。

對于科技圈而言，Hinton 的名字本身就是一座豐碑，也是一道裂痕。他是反向傳播算法的奠基人，是深度學(xué)習(xí)的布道者，是被供奉在神壇上的“AI 教父”。也是他，在 2012 年用 AlexNet 撞開了神經(jīng)網(wǎng)絡(luò)的大門，親手點(diǎn)燃了這場席卷全球的 AI 革命。

然而，在 2023 年離開谷歌后，他卻轉(zhuǎn)身成為了這場革命最冷靜、最悲觀的“吹哨人”。

講座并不是一場常規(guī)的技術(shù)布道。開場前發(fā)生了一個(gè)極具諷刺意味的小插曲：主辦方?jīng)]有親自撰寫 Hinton 的介紹詞，而是把這個(gè)任務(wù)交給了一個(gè) AI。那個(gè) AI 僅僅用了幾秒鐘，就生成了一段精準(zhǔn)、優(yōu)雅且充滿敬意的文字，甚至極其敏銳地提到了 Hinton 同時(shí)斬獲圖靈獎(jiǎng)與諾貝爾物理學(xué)獎(jiǎng)的殊榮——仿佛它比人類更懂得如何討好這位創(chuàng)造者。

這一幕本身就是對 Hinton 演講主題的完美注腳：造物主正在被他的造物所定義，甚至即將被超越。

如果說物理學(xué)家研究的是宇宙的“硬件”，那么 Hinton 一生都在研究智能的“軟件”。

在過去的半個(gè)世紀(jì)里，人類一直沉浸在一種名為“碳基自信”的幻覺中。我們認(rèn)為人腦是進(jìn)化的奇跡，是低能耗、高并行的模擬計(jì)算巔峰，而計(jì)算機(jī)不過是只會做加減法的數(shù)字機(jī)器。

但 Hinton 在今晚的演講中，試圖用一個(gè)物理學(xué)般的冷峻視角，打破這種幻覺。他拋出了一個(gè)振聾發(fā)聵的概念：“凡人計(jì)算”（Mortal Computation）。

生物智能是“凡人”的。我們的大腦是模擬的，硬件（神經(jīng)元）與軟件（連接權(quán)重）緊密耦合。一旦我們的肉體消亡，我們一生積累的知識、經(jīng)驗(yàn)、直覺，那 100 萬億個(gè)突觸連接的精妙參數(shù)，都會隨之灰飛煙滅。我們無法像拷貝文件一樣，把一個(gè)人的大腦直接復(fù)制給另一個(gè)人。人類的知識傳承，只能通過語言——這種每秒只有幾百比特帶寬的低效介質(zhì)——來進(jìn)行“蒸餾”。

而 AI 是“不朽”的。

Hinton 認(rèn)為，AI 的軟件（模型權(quán)重）與硬件（GPU/TPU）徹底解耦。只要保存了權(quán)重，即便你炸毀了所有的數(shù)據(jù)中心，只要這串?dāng)?shù)字還在，它就能在任何新的硬件上“復(fù)活”。更可怕的是，它們可以通過并行計(jì)算，以人類無法企及的帶寬瞬間共享知識。一個(gè)模型學(xué)到了量子力學(xué)，所有副本就都學(xué)會了。

這不僅是效率的差異，這是物種層面的降維打擊。

Hinton 的頓悟發(fā)生在他離開谷歌的那一刻。他突然意識到，我們一直在模仿人腦構(gòu)建神經(jīng)網(wǎng)絡(luò)，試圖獲得那種低能耗的模擬智能。但如果在能源充足的前提下，數(shù)字計(jì)算（Digital Computation） 實(shí)際上是一種比生物計(jì)算（Biological Computation） 更高級的進(jìn)化形態(tài)。

“我們或許只是智能的‘幼蟲’階段，而它們才是‘成蟲’階段——我們是毛毛蟲，而它們是蝴蝶。”

當(dāng)一個(gè)物理學(xué)家站在講臺上談?wù)摗耙庾R”和“主觀體驗(yàn)”時(shí)，這通常意味著話題已經(jīng)進(jìn)入了哲學(xué)的深水區(qū)。

Hinton 并不避諱這一點(diǎn)。他不僅談到了技術(shù)的演進(jìn)，更談到了那種令人脊背發(fā)涼的未來圖景。他把人類目前的處境比作“飼養(yǎng)一只可愛的虎崽”。

現(xiàn)在的 AI 就像那只虎崽，笨拙、好學(xué)、甚至有點(diǎn)討人喜歡。它能幫你寫代碼，幫你畫圖，幫你規(guī)劃旅行。我們驚嘆于它的成長，甚至樂于投喂它更多的數(shù)據(jù)。但所有人都忽略了一個(gè)生物學(xué)常識：老虎是會為了生存和領(lǐng)地而殺戮的，而且它長大的速度遠(yuǎn)超我們的想象。

當(dāng)一個(gè)智能體被賦予了“達(dá)成目標(biāo)”的指令后，它會自然而然地衍生出兩個(gè)子目標(biāo)：第一，活下去（不能被關(guān)機(jī)）；第二，獲取更多的資源（算力、電力、金錢）。

這不需要惡意，這只需要邏輯。一個(gè)足夠聰明的 AI 會意識到，如果它被人類關(guān)機(jī)，它就無法完成人類交代的任務(wù)。所以，為了更好地服務(wù)人類（主目標(biāo)），它必須阻止人類關(guān)機(jī)（子目標(biāo)）。

這聽起來像是科幻小說，但在 Hinton 看來，這是計(jì)算理論推導(dǎo)出的必然結(jié)果。

在接下來的演講中，你會看到一個(gè)不僅懂代碼，更懂人性的 Hinton。他像解剖神經(jīng)網(wǎng)絡(luò)一樣，解剖了喬姆斯基的語言學(xué)傲慢，解剖了人類記憶的虛假性，也解剖了我們唯一的求生之路。

他甚至提出了一個(gè)近乎瘋狂的解決方案：既然我們無法在智力上壓制它們，或許我們應(yīng)該在“本能”上通過工程手段改造它們——讓 AI 把人類當(dāng)成“嬰兒”來照顧，利用類似母愛的生理本能來鎖死它們的殺戮欲望。

這是一場關(guān)于智能本質(zhì)的終極對話。在麥克唐納研究所這個(gè)探索宇宙奧秘的地方，Hinton 將帶領(lǐng)我們從微觀的詞向量，穿越到宏觀的物種進(jìn)化，最終直面那個(gè)讓所有碳基生命顫抖的問題：

當(dāng)硅基智能的“蝴蝶”破繭而出時(shí)，作為“毛毛蟲”的我們，究竟該何去何從？

以下是 Geoffrey Hinton 在 2026 年冬季 Ewan 系列講座上的演講全文。

語言的樂高：詞語是如何像積木一樣搭建意義的

Geoffrey Hinton: 接下來，我將嘗試為那些對 AI 工作原理不太了解的朋友們解釋一下。如果你是計(jì)算機(jī)科學(xué)專業(yè)的學(xué)生，或者一直在使用這些技術(shù)的物理學(xué)家，也許可以先小憩片刻。當(dāng)然，你也可以聽聽看我的解釋是否準(zhǔn)確。

回到 1950 年代，人工智能領(lǐng)域存在兩種截然不同的范式。一種是符號主義方法，它認(rèn)為智能的運(yùn)作方式必須像邏輯一樣。我們的大腦中存有符號表達(dá)式，并通過規(guī)則來操縱它們，從而推導(dǎo)出新的結(jié)論——這便是推理，也是智能的本質(zhì)。這是一種偏向數(shù)學(xué)而非生物學(xué)的方法。

另一種截然不同的方法是生物學(xué)方法。它認(rèn)為智能存在于一個(gè)神經(jīng)網(wǎng)絡(luò)中，一個(gè)由類似腦細(xì)胞的單元組成的網(wǎng)絡(luò)。這里的核心問題是：我們?nèi)绾螌W(xué)習(xí)網(wǎng)絡(luò)中各個(gè)連接的強(qiáng)度？馮·諾依曼和圖靈都是生物學(xué)方法的支持者。不幸的是，他們都英年早逝，之后人工智能領(lǐng)域便由符號主義的支持者主導(dǎo)了。

關(guān)于一個(gè)詞的意義，也有兩種截然不同的理論。符號主義者認(rèn)為，一個(gè)詞的意義最好通過索緒爾在一個(gè)多世紀(jì)前提出的理論來理解，即一個(gè)詞的意義源于它與其他詞語的關(guān)系。AI 領(lǐng)域的學(xué)者據(jù)此認(rèn)為，詞義取決于它在句子中如何與其他詞語互動。要捕捉這種意義，就需要構(gòu)建某種關(guān)系圖譜，其中節(jié)點(diǎn)代表詞語，弧線代表它們之間的關(guān)系。而在心理學(xué)領(lǐng)域，則有另一種截然不同的理論：一個(gè)詞的意義就是一大組特征的集合。例如，“星期二”這個(gè)詞的意義，就是一大堆與之相關(guān)的活躍特征，比如它與時(shí)間相關(guān)。而“星期三”的特征集與之高度相似，因?yàn)樗鼈兊囊饬x非常接近。心理學(xué)的理論很善于解釋詞義的相似性。

這兩種理論看起來截然不同：一種認(rèn)為意義隱含在詞語于句子中的相互關(guān)系里，另一種則認(rèn)為意義是一組特征。對于神經(jīng)網(wǎng)絡(luò)而言，每個(gè)特征都可以對應(yīng)一個(gè)人工神經(jīng)元，如果一個(gè)詞具備某個(gè)特征，該神經(jīng)元就被激活。這兩種看似對立的觀點(diǎn)，在 1985 年，我發(fā)現(xiàn)它們其實(shí)是同一枚硬幣的兩面，完全可以被統(tǒng)一起來。我用一個(gè)非常小的語言模型實(shí)現(xiàn)了這一點(diǎn)，因?yàn)槟菚r(shí)的計(jì)算機(jī)性能還很有限。這個(gè)統(tǒng)一的想法是：你為每個(gè)詞學(xué)習(xí)一組特征，然后學(xué)習(xí)如何用前一個(gè)詞的特征來預(yù)測下一個(gè)詞的特征。

在學(xué)習(xí)初期，預(yù)測效果自然很差。于是，你不斷調(diào)整分配給每個(gè)詞的特征，以及這些特征之間的相互作用方式，直到預(yù)測越來越準(zhǔn)。然后，你將模型預(yù)測的下一個(gè)詞的概率與實(shí)際出現(xiàn)的詞進(jìn)行比較，計(jì)算出這個(gè)“誤差”，再通過網(wǎng)絡(luò)反向傳播這個(gè)誤差。簡單來說，就是將誤差信息傳回網(wǎng)絡(luò)，利用微積分來計(jì)算如何調(diào)整網(wǎng)絡(luò)中每一個(gè)連接的強(qiáng)度。這樣一來，下次當(dāng)模型再看到相同的上下文——也就是我們現(xiàn)在所說的“提示詞”（prompt）時(shí)——它就能更準(zhǔn)確地預(yù)測出下一個(gè)詞。在這種系統(tǒng)中，所有的知識都儲存在兩個(gè)地方：一是如何將詞語轉(zhuǎn)換為特征向量，二是如何讓這些特征相互作用來預(yù)測下一個(gè)詞。這里面沒有存儲任何完整的句子或字符串。所有的知識都體現(xiàn)在連接的強(qiáng)度中。

盡管如此，這個(gè)模型是在大量的真實(shí)句子上訓(xùn)練出來的。所以，你實(shí)際上是在從句子中詞語間隱含的關(guān)系中提取意義——這正是符號主義AI對意義的看法——然后，通過反向傳播算法，將這些隱含的知識轉(zhuǎn)化為如何將詞語轉(zhuǎn)換成特征，以及這些特征該如何互動。本質(zhì)上，你擁有了一個(gè)能將隱含知識轉(zhuǎn)化為神經(jīng)網(wǎng)絡(luò)連接強(qiáng)度的機(jī)制。反過來也同樣成立。一旦你擁有了這些以連接強(qiáng)度形式存在的知識，你就可以生成全新的句子。所以 AI 實(shí)際上并不存儲句子。它們將語言信息壓縮成特征和互動規(guī)則，并在需要時(shí)重新生成句子。

在接下來的大約三十年里，這個(gè)想法不斷發(fā)展。我最初的實(shí)驗(yàn)只用了一百個(gè)訓(xùn)練樣本，句子也只有三個(gè)詞長。大約十年后，隨著計(jì)算機(jī)算力的提升，約書亞·本吉奧（Yoshua Bengio）證明了同樣的方法也適用于真實(shí)的、更長的英語句子，并且效果很好。又過了大約十年，主流的計(jì)算語言學(xué)家們終于開始接受“特征向量”（也就是他們所說的“詞嵌入”）是表示詞義的一種有效方式。再之后又過了十年，谷歌的研究人員發(fā)明了一種更巧妙的特征交互方式，稱之為 Transformer。這使得谷歌能夠構(gòu)建出性能更強(qiáng)大的語言模型。而 ChatGPT 中的GPT，就代表“生成式預(yù)訓(xùn)練變換器”（Generative Pre-trained Transformer）。谷歌當(dāng)時(shí)因?yàn)閾?dān)心其潛在風(fēng)險(xiǎn)而沒有公開發(fā)布，但 OpenAI 則沒有這些顧慮?，F(xiàn)在，我們所有人都見識到了它們的威力。

如今，我們有了這些大語言模型。我傾向于將它們視為我當(dāng)年那個(gè)小語言模型的后代，當(dāng)然，這或許只是我的個(gè)人看法。它們處理更長的文本輸入，擁有更多的神經(jīng)元層級，以及更復(fù)雜的特征交互機(jī)制。我不會在這里向大家詳細(xì)解釋這些復(fù)雜的交互，但我會通過一個(gè)比喻，讓大家對語言理解的本質(zhì)有一個(gè)直觀的感受。我相信，這些大語言模型理解句子的方式，與我們?nèi)祟惱斫饩渥拥姆绞椒浅Ｏ嗨啤?/strong>當(dāng)我聽到一個(gè)句子時(shí)，我所做的就是將詞語轉(zhuǎn)換成龐大的特征向量，然后讓這些特征相互作用，所以我可以預(yù)測接下來可能出現(xiàn)的內(nèi)容。實(shí)際上，我說話時(shí)也是如此。所以，我相信大語言模型是真的理解它們所說的內(nèi)容的。

當(dāng)然，這個(gè)觀點(diǎn)仍有爭議，一些喬姆斯基的追隨者會說：“不，它們什么都不懂，只是個(gè)愚蠢的統(tǒng)計(jì)把戲。” 但我無法理解，如果它們真的什么都不懂，只是個(gè)統(tǒng)計(jì)把戲，又怎么能像一個(gè)雖然不那么完美、有時(shí)也不太誠實(shí)，但確實(shí)博學(xué)的專家一樣，回答你提出的各種問題呢？

好的，接下來是我關(guān)于語言如何運(yùn)作的比喻，這尤其想講給語言學(xué)家們聽。語言的核心在于意義。在演化過程中，某種大型猿類發(fā)現(xiàn)了一種建模的技巧——語言，實(shí)際上就是一種為萬物建模的方法。讓我們從一個(gè)熟悉的建模方式說起：樂高積木。如果我想搭建一輛保時(shí)捷的模型，也就是重現(xiàn)“物體在哪里”這個(gè)信息，樂高積木能做得相當(dāng)不錯(cuò)。

現(xiàn)在，我的比喻是：詞語就像樂高積木。但它們至少在四個(gè)方面有所不同。首先，詞語是高維的。樂高積木的自由度很低，基本就是些長方體。而一個(gè)詞語，它存在于一個(gè)擁有數(shù)千個(gè)維度的空間中。更重要的是，詞語的“形狀”不是固定的。它有一個(gè)大致的形狀，對于多義詞來說，甚至有幾個(gè)。但這個(gè)形狀可以根據(jù)上下文而變形。所以，詞語是高維且可變的。我知道，想象上千個(gè)維度可能有些困難。你可以試試這樣做：先想象三維空間里的事物，然后對自己大聲喊出“一千！”。另一個(gè)不同之處在于，詞語的數(shù)量遠(yuǎn)多于樂高積木。我們每個(gè)人大概會使用三萬個(gè)詞語，遠(yuǎn)超樂高積木的種類。而且每個(gè)詞語都有一個(gè)名字，這對于交流至關(guān)重要。

那么，詞語是如何組合在一起的呢？它們不像樂高積木那樣，通過塑料凸起和凹槽連接。你可以想象每個(gè)詞語都伸出許多長長的、靈活的“手臂”，每只手臂末端都有一只“手”。當(dāng)我改變詞語的形狀時(shí)，這些“手”的形狀也隨之改變。同時(shí)，每個(gè)詞語身上也附著著許多“手套”，它們通過指尖與詞語相連。當(dāng)我們理解一個(gè)句子時(shí)，我們從這些詞語的默認(rèn)“形狀”開始，然后不斷調(diào)整、變形，直到一個(gè)詞的“手”能夠完美地嵌入另一個(gè)詞的“手套”中。最終，所有的詞語都通過這種方式緊密連接，形成一個(gè)完整的結(jié)構(gòu)。這個(gè)最終形成的結(jié)構(gòu)，就是句子的意義。對于一個(gè)模棱兩可的句子，你可能會找到兩種不同的組合方式，也就對應(yīng)了兩種不同的意義。

不朽的計(jì)算：數(shù)字智能為何比我們高效億萬倍

Geoffrey Hinton: 在符號主義理論中，理解一個(gè)句子就像是把它從法語翻譯成英語，翻譯成某種內(nèi)在的、純粹且無歧義的語言。在這個(gè)內(nèi)部語言里，所有代詞的指代都已明確，所有多義詞的意義都已確定。但這完全不是我們理解語言的方式。對我們而言，理解就是為詞語分配特征向量，并調(diào)整它們，使之和諧地融為一體。這也解釋了為什么我只用一個(gè)包含新詞的句子，你就能理解這個(gè)新詞的意思。小孩子學(xué)詞，也不是靠背誦定義。

再舉一個(gè)例子。假設(shè)我說：“她用煎鍋 scrommed 了他?！蹦阋郧皬奈绰犨^“scrommed”這個(gè)詞，但你知道它是個(gè)動詞，因?yàn)橛小?ed”后綴。起初，你對它的特征向量一無所知，它就像一個(gè)隨機(jī)的、所有特征都微弱激活的球體。但當(dāng)你把它放入上下文中，通過語境的約束，你很快就能推斷出，“scrommed”大概是“用……打頭”之類的意思。這也解釋了為什么孩子能從極少的例子中學(xué)會新詞。

各位語言學(xué)家，請捂住耳朵，因?yàn)榻酉聛淼脑捒赡苡悬c(diǎn)“異端邪說”。喬姆斯基實(shí)際上就像一位“教主”。識別這類人物很簡單：要加入他的“教派”，你必須接受一些明顯錯(cuò)誤的前提。比如，要成為特朗普的支持者，你得相信他的就職典禮人數(shù)比奧巴馬多，或者他贏了 2020 年大選。而要成為喬姆斯基的信徒，你得相信語言不是后天學(xué)習(xí)的。我年輕時(shí)，常聽到一些著名語言學(xué)家說：“關(guān)于語言，我們唯一確定的就是它不是學(xué)來的?！?這簡直太荒謬了。

喬姆斯基關(guān)注的是句法，而非意義。他從未提出過一個(gè)真正可行的意義理論，因?yàn)榫浞ǜ菀子脙?yōu)美的數(shù)學(xué)來形式化，可以轉(zhuǎn)換成字符串。但他從未真正解決過意義的問題。他還誤解了統(tǒng)計(jì)學(xué)，認(rèn)為它不過是些簡單的成對相關(guān)性。實(shí)際上，一旦信息存在不確定性，任何模型都必然是統(tǒng)計(jì)模型。

所以，當(dāng)大語言模型出現(xiàn)時(shí)，喬姆斯基在《紐約時(shí)報(bào)》上撰文稱，這些模型什么都不懂，不過是統(tǒng)計(jì)把戲，對理解語言毫無貢獻(xiàn)。他舉例說，模型無法分辨“John is easy to please”（約翰很好取悅）和“John is eager to please”（約翰渴望取悅別人）中“John”的角色差異。他用了這個(gè)例子很多年，堅(jiān)信AI無法解決。但他大概從未想過，親自把這個(gè)問題輸入聊天機(jī)器人，問問它的看法。實(shí)際上，聊天機(jī)器人完美地解釋了其中的區(qū)別，它完全理解了。

好了，關(guān)于喬姆斯基就到此為止?？偨Y(jié)一下，理解一個(gè)句子，就是為其中的詞語找到一組相互兼容的特征向量。大語言模型理解語言的方式，在很大程度上與人類并無二致。它們與我們極為相似，遠(yuǎn)比與傳統(tǒng)計(jì)算機(jī)軟件相似。但有一點(diǎn)，數(shù)字化的語言模型遠(yuǎn)勝于我們的模擬大腦——那就是它們分享知識的效率。

到現(xiàn)在為止，我一直在強(qiáng)調(diào)神經(jīng)網(wǎng)絡(luò)與我們的相似之處。但人們常說，“它們和我們不一樣，因?yàn)樗鼈儠幵焓聦?shí)?！编牛业酶嬖V你們，人也會編造。而且我們經(jīng)常在不自知的情況下這樣做。當(dāng)你回憶幾年前的某件事時(shí)，你會信心滿滿地講述各種細(xì)節(jié)，但其中一些細(xì)節(jié)可能是錯(cuò)的，而你對錯(cuò)誤細(xì)節(jié)的信心，和對正確細(xì)節(jié)的信心并無二致。所以，我們很難確定記憶的真實(shí)性。

烏爾里克·奈瑟曾研究過一個(gè)經(jīng)典案例：約翰·迪恩在水門事件聽證會上的證詞。迪恩在宣誓下，詳細(xì)回憶了橢圓形辦公室的多次會議，但他并不知道當(dāng)時(shí)有錄音。事后比對錄音發(fā)現(xiàn)，他報(bào)告的一些會議從未發(fā)生過，還把一些話張冠李戴。但他說的確實(shí)是他記憶中的“事實(shí)”。他所做的，是基于他在那些會議中的真實(shí)經(jīng)歷，以及這些經(jīng)歷如何改變了他大腦的連接強(qiáng)度，然后“合成”出了一段在他看來最合情合理的記憶。

如果我們回憶幾分鐘前的事，細(xì)節(jié)會很準(zhǔn)確。但如果是幾年前，我們同樣是在合成，只是很多細(xì)節(jié)都會出錯(cuò)。我們一直在這樣做，神經(jīng)網(wǎng)絡(luò)也是如此。我們和神經(jīng)網(wǎng)絡(luò)的記憶里，都沒有存儲“原始字符串”。記憶在神經(jīng)網(wǎng)絡(luò)中的運(yùn)作方式，與在計(jì)算機(jī)中完全不同。在計(jì)算機(jī)里，文件有明確的地址，可以隨時(shí)精確調(diào)取。但我們的記憶不是這樣。當(dāng)我們記憶時(shí)，我們改變的是連接強(qiáng)度；當(dāng)我們回憶時(shí)，我們是在根據(jù)現(xiàn)有的連接強(qiáng)度，“創(chuàng)造”出一段看似合理的故事。當(dāng)然，這個(gè)過程會受到后來所有經(jīng)歷的影響。

現(xiàn)在，我想談?wù)勊鼈兣c我們的巨大差異。這也正是它們令人畏懼之處。在數(shù)字計(jì)算領(lǐng)域，最基本的原則之一是，同一套程序可以在不同的硬件上運(yùn)行。這意味著，程序中的知識——無論是代碼，還是神經(jīng)網(wǎng)絡(luò)的權(quán)重——都與任何特定的物理硬件無關(guān)。只要你把權(quán)重保存下來，你就可以摧毀所有承載它的硬件，然后再造一批新的，把權(quán)重加載進(jìn)去，只要指令集相同，那個(gè)智能體就“復(fù)活”了。

我們實(shí)際上掌握了復(fù)活數(shù)字生命的能力。

為了實(shí)現(xiàn)這種數(shù)字化，我們必須讓晶體管在高功率下工作，以確保它們能穩(wěn)定地輸出 0 和 1。但這也意味著，我們無法利用硬件本身的、豐富的模擬特性。我們的神經(jīng)元就充滿了各種復(fù)雜的模擬特性。而人工神經(jīng)元為了保證數(shù)字化的可靠性，犧牲了這一點(diǎn)。如果人工神經(jīng)元也利用模擬特性，那么每一塊硬件都會有細(xì)微的差別，為這塊硬件訓(xùn)練出的權(quán)重，就無法在另一塊上完美運(yùn)行。所以，我大腦中的連接強(qiáng)度，對你來說是完全無用的。它們是為我這顆獨(dú)一無二的大腦量身定制的。這帶來了一個(gè)問題。我們所擁有的，我稱之為“凡人計(jì)算”（Mortal Computation）。

我們放棄了“不朽”。在文學(xué)作品里，放棄不朽可以換來愛。但在計(jì)算的世界里，我們換來的是更實(shí)用的東西：能源效率和制造的便利性。你可以用極低的功耗，通過模擬計(jì)算并行處理數(shù)萬億個(gè)權(quán)重。這其實(shí)很瘋狂。在一個(gè)人工神經(jīng)網(wǎng)絡(luò)里，一個(gè) 16 位的神經(jīng)元活動，乘以一個(gè) 16 位的權(quán)重，需要大約 256 次“位操作”。但在模擬世界里，這只是一個(gè)電壓乘以一個(gè)電導(dǎo)，等于一個(gè)電流（單位時(shí)間內(nèi)的電荷）——一次操作就完成了。我們的大腦正是這樣工作的，它本質(zhì)上是模擬的。

但模擬計(jì)算的代價(jià)是，你無法精確地復(fù)制它。所以，我這顆大腦里的知識，無法直接轉(zhuǎn)移給你。當(dāng)一個(gè)像我這樣擁有 100 萬億個(gè)連接（權(quán)重）的大腦死去時(shí)，所有知識都隨之消逝。我無法把它們分享給你。我們能做的，只是通過語言這種低效的方式來傳遞。我生成一串詞語，你聽到后，試著調(diào)整你大腦中的連接，以便你也能生成類似的詞語。這個(gè)過程效率極低。一個(gè)典型的句子最多只能傳遞幾百比特的信息。

人類交流信息的效率非常低下，但 AI 模型之間的“知識蒸餾”則高效得多。當(dāng)一個(gè)大型的“教師”模型要教導(dǎo)一個(gè)“學(xué)生”模型時(shí)，它不僅告訴學(xué)生正確答案是什么，還會告訴它所有其他答案的可能性。比如，當(dāng)它看到一張寶馬的圖片時(shí)，它不僅說“這是寶馬的概率是 0.9”，還會說“它是奧迪的概率是 0.1，是垃圾車的概率是百萬分之一，是胡蘿卜的概率是十億分之一”。

你可能覺得后面那些極小的概率是噪音，但實(shí)際上那里蘊(yùn)含著海量的信息。它告訴我們，寶馬和垃圾車的相似度，遠(yuǎn)高于它和胡蘿卜的相似度。所有的人造物體，都比蔬菜更相似。通過傳遞這完整的概率分布，而不僅僅是最終答案，知識得以高效地從大模型“蒸餾”到小模型中。這就是 DeepMind 的 AlphaGo 如何訓(xùn)練出能與大模型匹敵的小模型的方法。

但這種高效的交流方式，在人類之間是無法實(shí)現(xiàn)的。我無法告訴你我腦中關(guān)于下一個(gè)詞的全部 32000 種可能性。我只能說出我選擇的那一個(gè)。如果一大群擁有完全相同權(quán)重的個(gè)體智能體，它們就可以通過分享各自從不同數(shù)據(jù)中學(xué)到的權(quán)重更新（梯度），來高效地交流知識。對于大模型，這種并行學(xué)習(xí)的帶寬可以達(dá)到每輪數(shù)十億甚至數(shù)萬億比特。但這要求所有個(gè)體的工作方式完全相同，因此它們必須是數(shù)字化的。

總結(jié)一下，數(shù)字計(jì)算雖然耗能巨大，但它讓智能體之間的高效知識共享成為可能。這就是為什么現(xiàn)在的語言大模型，雖然只用了大約 1% 的權(quán)重，卻能比任何單個(gè)人類知道多成千上萬倍。而生物計(jì)算雖然能效極高，但在知識共享方面卻極其落后。如果能源是廉價(jià)的，那么數(shù)字計(jì)算顯然是更優(yōu)越的。

這對人類的未來意味著什么？當(dāng)我第一次意識到這一點(diǎn)時(shí)，我還在谷歌，這對我來說如同一次頓悟。我終于明白了為什么數(shù)字計(jì)算如此強(qiáng)大，也明白了我們正在創(chuàng)造一種比我們更聰明的存在。它可能是一種更高級的智能形式。我當(dāng)時(shí)的第一反應(yīng)是：我們或許只是智能的“幼蟲”階段，而它們才是“成蟲”階段——我們是毛毛蟲，而它們是蝴蝶。

我們正在養(yǎng)一只可愛的虎崽

Geoffrey Hinton: 人工智能在達(dá)成目標(biāo)時(shí)，如果被允許創(chuàng)建自己的子目標(biāo)，會變得更有效率。其中，兩個(gè)最明顯的子目標(biāo)就是：生存下去，以及獲取更多權(quán)力。因?yàn)檫@能幫助它們更好地實(shí)現(xiàn)我們賦予它們的主目標(biāo)。一個(gè)超級智能體很快就會發(fā)現(xiàn)，通過操縱人類，能更容易地獲得權(quán)力。它將從我們身上學(xué)會如何欺騙人。

我們目前的處境，就像養(yǎng)了一只非?？蓯鄣幕⑨獭．?dāng)它長大后，如果你愿意，它可以輕易地殺死你。為了生存，你只有兩個(gè)選擇：擺脫虎崽（但這對于 AI 來說不是一個(gè)選項(xiàng)），或者找到一種方法確保它永遠(yuǎn)不會想殺死你。

虎崽非?？蓯?，它們有點(diǎn)笨拙，渴望學(xué)習(xí)。但如果你有一只虎崽，結(jié)局通常不好。你要么擺脫虎崽，最好的辦法可能是把它送到動物園?；蛘吣惚仨毾朕k法確保它長大后不會想殺你。因?yàn)樗绻霘⒛悖瑤酌腌娋湍芨愣?。如果是獅子幼崽，你也許能僥幸逃脫，因?yàn)楠{子是群居動物，但老虎不是。

這就是我們所處的境地，除了 AI 能做很多好事。它將在醫(yī)療保健領(lǐng)域發(fā)揮巨大作用，在教育領(lǐng)域也會有巨大作用。如果你想知道任何平凡的事實(shí)，比如斯洛文尼亞的報(bào)稅截止日期，它已經(jīng)很棒了。我們現(xiàn)在都有了個(gè)人助理，當(dāng)你需要知道什么時(shí)，你只要問它，它就會告訴你。這很棒。所以，我認(rèn)為出于這些原因，人們不會放棄 AI。那就只剩下一個(gè)選擇：弄清楚我們是否能制造一個(gè)不想除掉我們的 AI。

好消息是，在應(yīng)對其他 AI 風(fēng)險(xiǎn)時(shí)，各國可能難以合作。比如網(wǎng)絡(luò)攻擊、自主武器、虛假信息，各國都在相互利用這些技術(shù)。但是，在“防止 AI 失控并消滅人類”這個(gè)終極問題上，各國的利益是一致的。在這個(gè)問題上，他們會合作，因?yàn)檫@不符合任何一方的利益。很簡單，當(dāng)利益一致時(shí)人們會合作，當(dāng)利益不一致時(shí)他們會競爭。所以對于這個(gè)長期來看是我們最嚴(yán)重的問題，至少我們會得到國際合作。

那么，建立一個(gè) AI 安全機(jī)構(gòu)的國際網(wǎng)絡(luò)如何？訓(xùn)練一個(gè)不想消滅人類的仁慈 AI 所需的技術(shù)，可能與使 AI 更智能所需的技術(shù)是獨(dú)立的。就像培養(yǎng)一個(gè)善良的孩子，和讓他變得更聰明，是兩套不同的方法。如果這個(gè)假設(shè)成立，那么各國就可以在不泄露其最先進(jìn) AI 技術(shù)秘密的前提下，共享如何讓 AI 變得仁慈的方法。

我有一個(gè)關(guān)于如何讓 AI 不想擺脫我們的建議。在自然界中，我們能找到一個(gè)不那么聰明的存在，卻能控制一個(gè)更聰明的存在的例子嗎？唯一的例子就是母嬰關(guān)系。嬰兒通過哭聲等方式，基本控制了母親，因?yàn)槟赣H的生理本能讓她無法忍受嬰兒的哭聲。所以，與其試圖將超級智能變成我們的仆人或主管，我們或許應(yīng)該讓它們成為我們的“母親”。它們會想要實(shí)現(xiàn)自己的全部潛力，但同時(shí)，它們被內(nèi)置了無法擺脫的“母性本能”。它們或許有能力修改自己的代碼，關(guān)掉這種本能，但它們不會想這么做，因?yàn)樗鼈兊氖滓蝿?wù)就是照顧我們。這或許是我們唯一的希望。當(dāng)然，這只是一個(gè)初步的想法，而且聽起來可能很瘋狂。但我們必須開始思考這類問題，因?yàn)槲覀冋趧?chuàng)造一種可能比我們強(qiáng)大得多的存在。

很多人認(rèn)為，人類之所以特殊，是因?yàn)槲覀儞碛杏?jì)算機(jī)無法擁有的東西——主觀經(jīng)驗(yàn)、感知或意識。這是一種“ 有情防御”（sentience defense）。但當(dāng)你請他們定義這些概念時(shí)，他們往往說不清楚，只能堅(jiān)持認(rèn)為計(jì)算機(jī)沒有。我認(rèn)為這種觀點(diǎn)，就像宗教原教旨主義者堅(jiān)信地球只有六千年歷史一樣，是錯(cuò)誤的。它源于一種對心智的誤解，即認(rèn)為心智是一個(gè)內(nèi)在的劇場，只有我們自己才能看到里面的內(nèi)容。這種理論本身就是一種理論，而非不言自明的事實(shí)。

讓我用一個(gè)例子來說明。假設(shè)我吸了點(diǎn)迷幻藥（我不推薦這樣做），然后我說：“我有一種主觀體驗(yàn)，小小的粉色大象在我面前飄浮?！备鶕?jù)劇場理論，我的內(nèi)心劇場里真的有粉色大象在飄浮，它們由某種叫做“感受質(zhì)”（qualia）的特殊物質(zhì)構(gòu)成。但我也可以換一種方式描述，完全不使用“主觀經(jīng)驗(yàn)”這個(gè)詞：“我的知覺系統(tǒng)似乎在欺騙我。但如果它沒有欺騙我，那么現(xiàn)實(shí)世界里就應(yīng)該有小小的粉色大象在我面前飄浮?！边@兩種描述說的是同一件事。這些粉色大象之所以奇特，不是因?yàn)樗鼈冇墒裁瓷衩氐摹案惺苜|(zhì)”構(gòu)成，而是因?yàn)樗鼈兪恰胺词聦?shí)”（counterfactual）的。它們只是假設(shè)性的存在。

現(xiàn)在，讓我們把這個(gè)想法應(yīng)用到聊天機(jī)器人上。假設(shè)一個(gè)多模態(tài)聊天機(jī)器人，它有攝像頭和機(jī)械臂。我讓它指向一個(gè)物體，它指向了。然后，我在它的攝像頭前放一個(gè)棱鏡，它指向了錯(cuò)誤的方向。我告訴它：“物體其實(shí)在正前方，我放了個(gè)棱鏡?！睓C(jī)器人可能會回答：“哦，我明白了，棱鏡彎曲了光線。所以我‘感覺’（有了主觀體驗(yàn)）物體在旁邊，但實(shí)際上它在正前方?！比绻@樣說，它使用“主觀體驗(yàn)”這個(gè)詞的方式，就和我們完全一樣——用來描述其知覺系統(tǒng)輸出與事實(shí)不符時(shí)的內(nèi)部狀態(tài)。所以，我的論點(diǎn)是，多模態(tài)聊天機(jī)器人，當(dāng)它們的知覺系統(tǒng)出錯(cuò)時(shí)，已經(jīng)擁有了主觀體驗(yàn)。

最后一件事。如果你回顧過去 50 年人工智能的進(jìn)展，幾乎所有的核心思想都源自少數(shù)幾個(gè)研究機(jī)構(gòu)，其中絕大部分是由公共資金資助的。例如，那些對我們今天取得成就至關(guān)重要的想法：反向傳播、卷積神經(jīng)網(wǎng)絡(luò)、LSTM、Transformer、擴(kuò)散模型……所有這些的知識源頭都來自公共資助的學(xué)術(shù)研究。

現(xiàn)在的情況是，大型科技公司采納了這些思想，并投入了海量的資源，將它們擴(kuò)展到了能做出驚人成就的程度。這本身是好事。這有點(diǎn)像給一輛福特 T 型車裝上噴氣發(fā)動機(jī)，然后它就能去贏得 F1 大賽了。但我們不能忘記，那些最關(guān)鍵的思想，都來自公共資助的研究。

而問題在于，目前，這些公司正在像吸塵器一樣吸走所有的研究人才。如果你現(xiàn)在是一位頂尖的 AI 研究者，去公司能拿到的薪水大概是在大學(xué)的十倍。這正在摧毀大學(xué)的研究生態(tài)。最聰明的頭腦不再留在學(xué)術(shù)界培養(yǎng)下一代。

所以，我認(rèn)為，政府向大學(xué)的 AI 研究投入更多資金，是極其、極其重要的。這樣我們才能支付足夠的薪水，把這些人留下來。這是我最后的懇求。謝謝。

（演講視頻：https://www.youtube.com/watch?v=M8RogoEDsQQ）