辛頓的冬與春

文｜史中

（零）負(fù)十字架的人

1947 年，在原子彈的余震中，新世界如大雪初霽，茫然而沉靜。

那一年，《新聞周刊》發(fā)表了文章：《愛(ài)因斯坦，那個(gè)開(kāi)啟一切的人》。

那一年，愛(ài)因斯坦懊悔地說(shuō)：“如果早知道德國(guó)人研發(fā)不出原子彈，我就不會(huì)為原子彈做任何事情！”

那一年，68 歲的愛(ài)因斯坦決定奔走全世界，講述核戰(zhàn)的末世圖景，余生致力于推動(dòng)核裁軍。

那一年，世界沒(méi)有為愛(ài)因斯坦停留半步，戰(zhàn)略核威懾的骨相從虛空中浮現(xiàn)。

而后一個(gè)世紀(jì)，我們對(duì)社會(huì)最大膽的構(gòu)想，對(duì)敵我最深刻的分別，一切光榮與夢(mèng)想的枝蔓，都必須攀附于核威懾的穹窿之下。

一個(gè)試圖破解萬(wàn)物奧秘的人，卻因自己的求索背負(fù)了沉重的十字架，直到墳?zāi)怪幸矝](méi)卸下。

這是宇宙殘酷的小玩笑。

正是在 1947 年的冬季，倫敦西南的溫布爾頓，一個(gè)叫做杰弗里·辛頓的小男孩呱呱墜地。

站在辛頓和愛(ài)因斯坦的切近，你找不到他們的任何共同點(diǎn)，除了兩人都獲得了諾貝爾物理學(xué)獎(jiǎng)。

相隔 102 年。

但如果退到崖邊遠(yuǎn)眺，你也許會(huì)驚奇地目睹：歷史的齒輪旋過(guò)幾代人頭頂，經(jīng)過(guò) 102 年的漫長(zhǎng)行進(jìn)，正再次嚴(yán)絲合縫地嚙合在一起。就在那齒輪彈撞的一瞬間，兩人靠得很近。

歷史的交接，沉默的巨響。

人們抬起頭，一切如常。

（一）生命與機(jī)器

我們是機(jī)器，只是以生物的方式被制造出來(lái)。

辛頓說(shuō)。

普通人其實(shí)并不在乎自己是什么，他們只在乎自己是否高貴。

機(jī)器并不高貴。

哥白尼把我們驅(qū)拋出了宇宙中心，達(dá)爾文把我們趕進(jìn)動(dòng)物平原，尼采宣布沒(méi)有一個(gè)上帝曾許諾我們牧羊，加繆說(shuō)一個(gè)人所能過(guò)的最強(qiáng)悍的一生不過(guò)如西西弗斯。

辛頓只是用鋒利的“真相”在人類(lèi)本已血肉模糊的自尊上又補(bǔ)了一刀，而已。

Geoffrey Hinton

最近十年，不特別冷的日子，辛頓都會(huì)住在自己的島上。

沒(méi)錯(cuò)，是他的島，一個(gè)點(diǎn)綴在加拿大休倫湖畔，完美符合人們對(duì)“人工智能教父”名頭浪漫想象的島嶼。

他在 65 歲時(shí)買(mǎi)下這座島。而在 65 歲以前的任何一天，他恐怕都沒(méi)幻想自己能這么奢侈地“消費(fèi)”。

在那之前 30 年，辛頓只有一個(gè)身份：計(jì)算機(jī)科學(xué)教授。

現(xiàn)在人們很自然地把他做的事情稱(chēng)為“人工智能”。但時(shí)鐘撥回上世紀(jì) 70 年代，這不過(guò)是一個(gè)只有幻想家和瘋子才愿意投身的冷門(mén)學(xué)科。

甚至研究者本人都覺(jué)得“人工智能”這樣的詞太過(guò)艷俗難以說(shuō)出口，一般稱(chēng)自己搞的是“機(jī)器學(xué)習(xí)”。

而辛頓所投身的，又是機(jī)器學(xué)習(xí)里冷門(mén)的一派：神經(jīng)網(wǎng)絡(luò)。

簡(jiǎn)單來(lái)說(shuō)，就是用計(jì)算機(jī)模擬人類(lèi)大腦的億萬(wàn)神經(jīng)元連接，從而涌現(xiàn)出“智能”。

可具體怎么“涌”？真是鬼知道。

在打長(zhǎng)途電話還要人工接線，電腦剛剛開(kāi)始小型化，出門(mén)只能靠紙質(zhì)地圖的 Lo-Fi 年代，人造神經(jīng)元之類(lèi)的話聽(tīng)上去就像夢(mèng)囈。

1970 年的紐約。

1970 年生產(chǎn)的 IBM System 3 電腦。

1971 年，人類(lèi)第一顆大規(guī)模集成電路處理器 intel 4004 剛剛誕生。

1972 年，辛頓在愛(ài)丁堡大學(xué)攻讀“神經(jīng)網(wǎng)絡(luò)”博士時(shí)，導(dǎo)師每周都親口提醒他：“你在浪費(fèi)時(shí)間”。

以至于旁觀者都好奇，一個(gè)人要靠什么力量才能把自己生命里最好的一萬(wàn)個(gè)日夜消磨在這種天方夜譚之上？

那種力量也許來(lái)自一棵“樹(shù)”。

他的家族樹(shù)。

辛頓的外曾曾祖父是喬治·布爾，他發(fā)明了布爾代數(shù)，奠定了計(jì)算機(jī)的數(shù)學(xué)基礎(chǔ)；

George Boole

1815-1864

布爾妻子的叔叔是地理學(xué)家，他的姓氏 Everest 命名了珠峰；

George Everest

1790-1866

布爾的一位女兒，也就是辛頓的外曾姑奶奶是《牛虻》的作者艾捷爾?麗蓮?伏尼契；（伏尼契是她在結(jié)婚之后改姓的夫姓）

Ethel Lilian Voynich

1864-1960

辛頓的曾祖父查爾斯·霍華德·辛頓是數(shù)學(xué)家兼奇幻作家，發(fā)明了“四維立方體”，就是你在《星際穿越》里看到的四維空間；

Charles Howard Hinton

1853-1907

辛頓的表哥發(fā)明了便攜 X 光機(jī)，辛頓的表姐參加了研發(fā)原子彈的曼哈頓計(jì)劃；辛頓的爸爸霍華德·辛頓是昆蟲(chóng)學(xué)家，英國(guó)皇家學(xué)會(huì)會(huì)員。

就連杰弗里·辛頓的中間名，都是代表珠峰的 Everest，為了紀(jì)念家族的榮光。

生活在這樣碩果累累家族樹(shù)的陰影下，一個(gè)孩子 只會(huì)感到恐懼——即便將來(lái)自己出人頭地，甚至拿到了諾貝爾獎(jiǎng)，旁人也會(huì)撇撇嘴，這家伙“本該如此”吧？

孩提時(shí)代，壓抑已經(jīng)如影隨形。

他爸爸用那只能單手做引體向上的手指著瘦弱的他：“如果你付出兩倍于我的努力，歲數(shù)是我兩倍的時(shí)候，也許能有我一半優(yōu)秀。”

他媽媽就和善多了，說(shuō)：“你面前有兩條路，要么當(dāng)一個(gè)教授，要么當(dāng)一個(gè)失敗者。”

他逃離現(xiàn)實(shí)的方法是：暗中觀察這個(gè)世界。

4 歲時(shí)，辛頓和他媽媽坐公交車(chē)。他拿出一便士硬幣放在天鵝絨座套上，奇怪的現(xiàn)象出現(xiàn)了：

硬幣沒(méi)有往下滑，而是逆著重力往高處移動(dòng)。

這件事情在他腦海里駐留了 10 年，直到十幾歲的時(shí)候，他才恍然大悟：公交車(chē)的震動(dòng)模式給了硬幣向上的推力，而天鵝絨座套的纖維恰好能阻止硬幣向下滑動(dòng)。

有人看到他不理解的東西也坦然。但我不能接受有什么違背了我對(duì)世界的認(rèn)知模型，我真的接受不了。

辛頓后來(lái)回憶。

作為生物學(xué)家，辛頓的爸爸在家里搞了一個(gè)“動(dòng)物園”。房間里養(yǎng)著貓鼬，車(chē)庫(kù)的坑里養(yǎng)著毒蛇、青蛙、蜥蜴，水里還泡著他從中國(guó)帶回去的烏龜。

小辛頓有大量時(shí)間觀察一個(gè)生命如何與環(huán)境互動(dòng)。

8 歲的辛頓在動(dòng)物園里和蟒蛇合影。

他懵懂地意識(shí)到：生命對(duì)環(huán)境的反應(yīng)模式并非完全隨機(jī)，而是遵循某種“直覺(jué)”。

這種直覺(jué)既不像數(shù)學(xué)公式那樣簡(jiǎn)單輸出，也不像宗教宣揚(yáng)的“靈魂”那樣不可琢磨。

它有跡可循。

就在小辛頓蹲在爬滿冷血?jiǎng)游锏拇罂优赃叺?50 年代，大洋彼岸的美國(guó)心理學(xué)家弗蘭克·羅森布拉特行動(dòng)了。

他改造了一臺(tái)碩大的 IBM 計(jì)算機(jī)，模擬出幾百個(gè)神經(jīng)元，想讓它從識(shí)別字母和形狀開(kāi)始，最終成為一個(gè)生命。

這就是后來(lái)一切“神經(jīng)網(wǎng)絡(luò)”的母機(jī)——感知機(jī)。

Frank Rosenblatt

1958 年，《紐約時(shí)報(bào)》采訪了感知機(jī)團(tuán)隊(duì)后大受震撼，寫(xiě)下了熱情洋溢的樂(lè)觀預(yù)測(cè)：

要不了幾年，計(jì)算機(jī)就走路、說(shuō)話，擁有自我意識(shí)！

隨后的事實(shí)證明，“感知機(jī)”是個(gè)笑話。它不會(huì)說(shuō)話也不會(huì)走路，連分清左右都困難。。。

當(dāng)時(shí)人工智能界的同僚對(duì)羅森布拉特充滿同情的目光：做得不錯(cuò)，下次可別做了！

很多學(xué)者并不懷疑生命*可以是*機(jī)器，但他們普遍相信，要造出人工生命，得靠“編程”：

既然我們?nèi)祟?lèi)已經(jīng)懂了這么多道理，把道理編成“概念和規(guī)則”，一條條清晰地羅列給計(jì)算機(jī)，它不就直接智能了嗎？ 你們非要模擬神經(jīng)元，讓計(jì)算機(jī)自己從頭構(gòu)建對(duì)世界的理解，這路繞姥姥家了！

那辛頓怎么說(shuō)？

不好意思，那時(shí)候辛頓并沒(méi)有資格參與這個(gè)“真理”的討論。

他正在洶涌的命運(yùn)之海里大口嗆水。

（二）渴望而不得

如果有什么詞匯能概括辛頓的整個(gè)青年時(shí)代，那就是“渴望而不得”。

辛頓動(dòng)手能力很強(qiáng)，從小喜歡做木工活。可是閃耀的家族樹(shù)上沒(méi)地方掛個(gè)木匠。

他必須硬著頭皮走學(xué)術(shù)道路。

雖然考上了劍橋，可是這里人才濟(jì)濟(jì)，辛頓接連換了好幾個(gè)專(zhuān)業(yè)，學(xué)物理，數(shù)學(xué)底子不夠扎實(shí)；學(xué)哲學(xué)，又難以深入形而上的空想?？傊屯瑢W(xué)們一比都不算開(kāi)竅。

當(dāng)尊重不被提供，必須有勇氣離開(kāi)牌桌。中途他一度放棄，去倫敦打零工。

辛頓眼中，涌動(dòng)著一種深刻的自我否定。那恐怕是所有少年都曾經(jīng)歷的渴望而不得的切膚痛苦。

荒謬的是：一臺(tái)電腦可從來(lái)不會(huì)因?yàn)樽约核愠龅慕Y(jié)果與別人不同而痛苦，只有擁有“自我”的高級(jí)生命才能體會(huì)到這種痛苦——痛苦竟然是智能的副產(chǎn)品。

辛頓決定最后再試一個(gè)專(zhuān)業(yè)——心理學(xué)。

由此，他遇到了伯納德·威廉姆斯教授。

Bernard Williams

威廉姆斯是一位道德哲學(xué)家，他一生都在跟一個(gè)敵人戰(zhàn)斗，那就是——還原論。

“還原論”，其實(shí)是當(dāng)時(shí)主流科學(xué)的一個(gè)假設(shè)推論：

萬(wàn)事萬(wàn)物，無(wú)論多復(fù)雜，都可以拆解成一個(gè)個(gè)邊界分明的、有特定功能的“零件”。

這意味著，想要復(fù)刻某個(gè)系統(tǒng)——包括人和動(dòng)物——只需找齊所有的零件！

民國(guó)時(shí)基于還原論思想的人體科普掛圖：人體好像工廠。

可在威廉姆斯眼中，還原論是狂妄的自負(fù)，只會(huì)導(dǎo)致固步自封。

他的觀點(diǎn)是：復(fù)雜到一定程度的系統(tǒng)，尤其是“人的道德”，根本不能還原成一條條清晰的規(guī)則。

我們不同的思想一定反映了我們大腦內(nèi)部不同的物理排列，但這與計(jì)算機(jī)內(nèi)部的情況完全不同。

威廉姆斯對(duì)辛頓說(shuō)。

聽(tīng)到這一句，辛頓腦中有原子彈爆炸。

既然不能用拆成簡(jiǎn)單零件的方法來(lái)復(fù)刻一個(gè)系統(tǒng)，那還可以怎么辦呢？

沒(méi)錯(cuò)，用一個(gè)復(fù)雜系統(tǒng)*從整體上*模擬另一個(gè)復(fù)雜系統(tǒng)。

Blade Runner（1982）

給機(jī)器強(qiáng)行輸入概念和規(guī)則，被歸為人工智能的 “符號(hào)主義” 流派，它扎根于 “還原論” ； 而用人造神經(jīng)系統(tǒng)整體模仿人的學(xué)習(xí)過(guò)程，就歸為 “神經(jīng)網(wǎng)絡(luò)” 流派，它源自于 “系統(tǒng)論” 。

而后幾十年，兩派勢(shì)同水火，各不相讓?zhuān)砻嫔鲜羌夹g(shù)路線之爭(zhēng)，實(shí)際上卻是對(duì)世界本質(zhì)的“押注”。

賭的就是：這個(gè)世界究竟是一堆利落的“零件”，還是一坨牽一發(fā)動(dòng)全身的“濃湯”？

這里，我們不妨明晰一下“符號(hào)主義”和“神經(jīng)網(wǎng)絡(luò)”在方法論上的根本區(qū)別：

在“符號(hào)主義”的方案里，最小的零件就是“概念”。

例如：食物、醬汁、調(diào)味品、甜、味道、紅色、番茄、美國(guó)、炸薯?xiàng)l、蛋黃醬、芥末，這些都是概念。

所有概念用規(guī)則相連，組成一個(gè)巨大的漁網(wǎng)。

而新概念，例如“番茄醬”，則可以掛在剛才這些舊概念網(wǎng)眼中的適當(dāng)位置，成為新的繩結(jié)。

新概念無(wú)窮無(wú)盡，漁網(wǎng)上的網(wǎng)眼也無(wú)窮無(wú)盡； 舊規(guī)則不夠精準(zhǔn)，也需要用無(wú)窮無(wú)盡的新規(guī)則來(lái)完善。

例如：鳥(niǎo)會(huì)飛，企鵝是鳥(niǎo)，但企鵝是不會(huì)飛的鳥(niǎo)。

在“神經(jīng)網(wǎng)絡(luò)”的方案里，神經(jīng)元所維持的基本元素可以稱(chēng)為“亞概念”：一個(gè)概念可以從很多亞概念中涌現(xiàn)出來(lái)。

這意味著，一個(gè)亞概念發(fā)生了變化，將會(huì)潛移默化地影響很多個(gè)概念。

比如：我告訴你猩猩喜歡洋蔥，那么你一定會(huì)猜，猴子是不是也喜歡洋蔥？

因?yàn)樵谀愕哪X中，猩猩和猴子雖然是兩個(gè)概念，但是他們共用了某些“亞概念”，例如多毛、動(dòng)物、智力、靈長(zhǎng)類(lèi)、野性等等。

這里的關(guān)鍵是：

很多深層的亞概念是無(wú)法用語(yǔ)言形容的，它本質(zhì)上只是某種神經(jīng)元的“組合方式”。

但凡對(duì)自己的思維過(guò)程有過(guò)深刻反思的人，都會(huì)同意“神經(jīng)網(wǎng)絡(luò)”比“符號(hào)主義”更接近我們大腦的工作方式。

不過(guò)沒(méi)人規(guī)定智能必須以類(lèi)腦的方式實(shí)現(xiàn)，你完全可以“抄近路”。

而且造物主絕對(duì)是個(gè)“反雞湯者”，因?yàn)?strong>很多情況下抄近路就是有效的。

1970 年代，“符號(hào)主義”已經(jīng)突飛猛進(jìn)，能做出一些像模像樣的推理，可是“神經(jīng)網(wǎng)絡(luò)”還停留在智障階段。

這是一種極強(qiáng)的反饋。很多神經(jīng)網(wǎng)絡(luò)學(xué)者含恨倒戈，加入了“還原論”的陣營(yíng)。

但辛頓無(wú)法說(shuō)服自己。和小時(shí)候一樣，他不能接受有什么東西違背了自己對(duì)世界構(gòu)建的認(rèn)知模型。

1972 年，他進(jìn)入愛(ài)丁堡大學(xué)攻讀博士，方向就是“神經(jīng)網(wǎng)絡(luò)”。

如果別人無(wú)法找出原因，他就得自己找出原因。

如無(wú)意外，這次找到答案，要比搞懂公交車(chē)上硬幣爬坡花費(fèi)更長(zhǎng)的時(shí)間。

就在博士的第一年，辛頓看到了一個(gè)其他人工智能小組做的實(shí)驗(yàn)：

一臺(tái)計(jì)算機(jī)，連著兩個(gè)攝像頭，系統(tǒng)要自主控制機(jī)械臂把積木搭成汽車(chē)的形狀。

這對(duì)于當(dāng)時(shí)的技術(shù)來(lái)說(shuō)是地獄難度。因?yàn)橄到y(tǒng)視覺(jué)只能靠輪廓識(shí)別散落的積木塊，一旦堆在一起，它就不認(rèn)識(shí)了。

讓辛頓難忘的瞬間出現(xiàn)了：機(jī)械臂退后了一點(diǎn)，然后“砰”地一拳把積木堆打散。

如果有人這么干，你會(huì)覺(jué)得他是因?yàn)椤白霾坏健倍?沮喪 。在機(jī)器人揮拳猛擊積木時(shí)，我感到了它有同樣的情緒。

辛頓說(shuō)。

擁有感覺(jué)，就是你開(kāi)始渴望得不到的東西。

Blade Runner（1982）

（三）橋

正如威廉姆斯所說(shuō)：不同的思想一定反映了我們大腦內(nèi)部不同的物理排列。

可擺在辛頓面前的問(wèn)題是：

“宏觀層面的思想”和“微觀層面的神經(jīng)排列”像是兩座孤島，中間隔著洶涌莫測(cè)的深海，需要一座“橋”把他們聯(lián)系起來(lái)。

這座橋是什么？

這一點(diǎn)上，辛頓是極其幸運(yùn)的：無(wú)數(shù)巨人的肩膀正在前方，等待他拾級(jí)而上。

半個(gè)多世紀(jì)前，也就是愛(ài)因斯坦那一代科學(xué)家所掀起的物理學(xué)浪潮中，“最硬的腦殼們”向各個(gè)方向都撞出了一些空間。

在闡述“微觀和宏觀的關(guān)系”方面，最偉大的奠基者首推路德維?！げ柶澛?。

玻爾茲曼發(fā)明了一套極其簡(jiǎn)潔的“統(tǒng)計(jì)+概率計(jì)算”的方法：

只要知道原子的原子量、電荷、結(jié)構(gòu)等等微觀特性，就能算出億萬(wàn)原子在一起組成的宏觀物體的物理性質(zhì)，例如粘性、熱量、擴(kuò)散性。

也正是用同一套理論框架，玻爾茲曼解釋了“熵”這個(gè)宇宙底層概念。

這就是統(tǒng)計(jì)力學(xué)。

Ludwig Eduard Boltzmann

然而，玻爾茲曼當(dāng)時(shí)遭到了一眾科學(xué)家的激烈反對(duì)，甚至對(duì)異教徒似的攻擊。

一個(gè)重要的理由是：你竟然用“統(tǒng)計(jì)數(shù)字”、“計(jì)算概率”的模糊方法來(lái)解釋具有確定性的物理世界，這算什么科學(xué)？

反對(duì)派科學(xué)家的憤怒，本質(zhì)上只有三個(gè)字：不承認(rèn)。

不承認(rèn)這個(gè)宇宙的復(fù)雜性超越人類(lèi)的計(jì)算能力；不承認(rèn)人類(lèi)拼盡全力也只能以模糊的方式把握這個(gè)世界。

但宇宙不會(huì)因渺小人類(lèi)的憤怒而改換它的基本結(jié)構(gòu)。

放棄對(duì)“精確”的執(zhí)念，正是撕開(kāi)迷霧，找到那座連接“宏觀”和“微觀”之橋的重要前提。

但這里存在一個(gè)問(wèn)題。

假如，你把各種顏色的墨水混在一起。

它們肯定會(huì)經(jīng)歷一個(gè)混合的動(dòng)態(tài)過(guò)程，最終會(huì)完全均勻。（此時(shí)每個(gè)分子在各種可能狀態(tài)上的概率是相同的。）

玻爾茲曼的理論只能計(jì)算搖勻達(dá)到“穩(wěn)態(tài)”之后的物理性質(zhì)。

但人腦的微觀結(jié)構(gòu)，顯然不是這種一團(tuán)漿糊的“最終穩(wěn)態(tài)”。

它很穩(wěn)定，但沒(méi)穩(wěn)到這個(gè)份兒上，可以稱(chēng)為“亞穩(wěn)狀態(tài)”。

如下圖所示：

同樣由碳組成，鉆石就是一種亞穩(wěn)狀態(tài)，石墨是一種終極穩(wěn)態(tài)。但由于二者之間有勢(shì)能壁壘，所以鉆石很難*自動(dòng)*轉(zhuǎn)化成石墨。 同樣道理?，人腦的神經(jīng)元結(jié)構(gòu)也是亞穩(wěn)狀態(tài)，但它能維持相當(dāng)程度的穩(wěn)定。

玻爾茲曼作為先驅(qū)，能給辛頓的只有這么多了。

接下來(lái)，接力棒交給了另一位大神。

1982 年，一篇名為《具有涌現(xiàn)集體計(jì)算能力的神經(jīng)網(wǎng)絡(luò)和物理系統(tǒng)》的論文震撼了整個(gè)人工智能界。

而它的作者竟然是個(gè)“外行”——物理學(xué)家約翰·霍普菲爾德。

John Hopfield

要理解霍普菲爾德的洞見(jiàn)，首先要知道“最小化自由能原理”。

無(wú)論在什么物理結(jié)構(gòu)中，系統(tǒng)總會(huì)盡可能對(duì)外做功—— 就像小球總會(huì)往低處滾那樣。

滾到相對(duì)低位后，系統(tǒng)就達(dá)到了“最小化自由能狀態(tài)”，從而實(shí)現(xiàn)穩(wěn)定。

現(xiàn)在，我們想象一堆帶有磁性的原子，它們?cè)谔囟囟龋ň永餃囟龋┮韵伦罱K會(huì)朝向一個(gè)方向，這是它們的“最小化自由能狀態(tài)”。

這個(gè)狀態(tài)比較單調(diào)，無(wú)法承載復(fù)雜信息。

但通過(guò)一些操作改變?cè)娱g的結(jié)構(gòu)，最終系統(tǒng)可以穩(wěn)定在原子朝向不同方向的狀態(tài)——這種狀態(tài)就已經(jīng)是它的“最小化自由能狀態(tài)”了。

這種結(jié)構(gòu)被稱(chēng)為“自旋玻璃”（Spin Glass）。

這張圖上方顯示了一個(gè)“自旋玻璃”，它內(nèi)部的無(wú)序性構(gòu)成了一種穩(wěn)態(tài)，產(chǎn)生了下方所示的復(fù)雜的“能量地形”。

霍普菲爾德的神來(lái)之筆是：

他沒(méi)有用現(xiàn)實(shí)世界的原子制造“自旋玻璃”，而是用計(jì)算機(jī)的 0 和 1 不同的電位來(lái)替代原子狀態(tài)，在賽博空間模擬出了“自旋玻璃”。

它也被后來(lái)人稱(chēng)為“霍普菲爾德網(wǎng)絡(luò)”。

這只是示意圖，真實(shí)的霍普菲爾德網(wǎng)絡(luò)中的 0 和 1 要多得多。

理論過(guò)于抽象，我們可以做一個(gè)類(lèi)比：

一顆星球如果全由水組成，在引力作用下，它最后的穩(wěn)態(tài)肯定是一個(gè)完美的球體。波瀾不驚，一團(tuán)死寂。 但如果一顆星球存在豐富的元素，氫、氧、碳、鐵，那么各種性質(zhì)的結(jié)構(gòu)之間就會(huì)相互摩擦、羈絆，最終穩(wěn)定在一個(gè)宏觀上類(lèi)似球體，但微觀上卻山巒起伏的樣貌。

霍普菲爾德網(wǎng)絡(luò)就像我們地球表面的山巒一樣。

與地球不同，霍普菲爾德網(wǎng)絡(luò)中山脈的最終走向不是大自然創(chuàng)造的，而是人設(shè)定的。

設(shè)定的方法就是“訓(xùn)練”。

例如，我們用“26 個(gè)字母的形狀”進(jìn)行訓(xùn)練，最終這個(gè)霍普菲爾德網(wǎng)絡(luò)的“地貌”就會(huì)被塑造成特定的樣子，并且穩(wěn)定在這個(gè)樣子。（因?yàn)檫@個(gè)樣子它的自由能就是最低的。）

此時(shí)，訓(xùn)練完成。

現(xiàn)在它具備了一個(gè)有用的性質(zhì)：

假設(shè)我們從空中向下扔小球，它不會(huì)停在原處，而是最終會(huì)滾落到一個(gè)相對(duì)低的位置。 由于地貌很復(fù)雜，我們?nèi)有∏虻奈恢貌煌?，它最后滾落到的低點(diǎn)也不同。

然后我們?cè)囍眠@個(gè)性質(zhì)：

同時(shí)從很多個(gè)點(diǎn)向下扔小球，他們最終會(huì)停留到不同的位置。

比如我們站在這片山脈的上空，按照這樣的排列方式扔一些小球：

它們最后停留的位置是：

不用抑制你的歡呼。這，就是一個(gè)智能系統(tǒng)識(shí)別出字母“J”的過(guò)程。

現(xiàn)在我們回到霍菲爾德網(wǎng)絡(luò)，揭開(kāi)真相：

它就是一個(gè)通過(guò)微觀上模擬神經(jīng)元，從而在宏觀上涌現(xiàn)出“記憶”能力的計(jì)算機(jī)系統(tǒng)。

記憶是一種高級(jí)的存儲(chǔ)，它是智能的基礎(chǔ)：

世界極其復(fù)雜，極其開(kāi)放，每天都會(huì)出現(xiàn)新東西。 比如遠(yuǎn)古的人類(lèi)遇見(jiàn)一個(gè)動(dòng)物，極有可能和我們記憶中的所有動(dòng)物都*不完全*相同。 但是為了生存，我們的祖先必須快速把它匹配到和記憶中最相近的那個(gè)，以便決定是攻擊還是逃跑。

霍普菲爾德網(wǎng)絡(luò)恰恰能做這個(gè)：把無(wú)限刷新的新怪，歸類(lèi)到有限的記憶類(lèi)別中。

這是人類(lèi)歷史中，第一次做出和人腦的某一大類(lèi)功能如此接近的系統(tǒng)。

1982，正是人工智能的“奇跡年”。

生物神經(jīng)元之間信號(hào)的強(qiáng)弱，和神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)之間強(qiáng)弱的類(lèi)比。

在相繼登上玻爾茲曼和霍普菲爾德這兩個(gè)巨人的肩膀之后，鏡頭從辛頓的腦后緩緩升起，鼓點(diǎn)聲由遠(yuǎn)及近，他面前迷霧散盡，浮現(xiàn)出一座雄偉的大橋。

辛頓瘦削的手臂，接過(guò)了人類(lèi)探索的熊熊火炬。

（四）蛹、湯、蝶

記憶并非智能的終結(jié)，它需要理解這些信息，最終用表達(dá)給予回應(yīng)。

有心理學(xué)背景的辛頓很快就發(fā)現(xiàn)了要害：

也許是為了簡(jiǎn)便，也許是沒(méi)有走那么遠(yuǎn)，總之，霍普菲爾德假設(shè)了存儲(chǔ)的各項(xiàng)信息之間是完全獨(dú)立的。

也就是說(shuō)：霍普菲爾德網(wǎng)絡(luò)在學(xué)字母表時(shí)，默認(rèn) A 是 A、 B 是 B、C 是 C。如果輸入一個(gè)信息，系統(tǒng)或者判定它是 A，或者判定它是 B，不會(huì)判定它介于 A 和 B 之間。

這有點(diǎn)兒像硬幣分類(lèi)機(jī)，任何硬幣都必然會(huì)落在某個(gè)預(yù)定的溝槽內(nèi)：

這看上去似乎沒(méi)問(wèn)題，畢竟 A 和 B 之間也沒(méi)有其他字母。

但如果推廣到更廣泛的“語(yǔ)義”，局限性立刻顯出來(lái)：

比如“好”和“壞”這兩個(gè)概念。難道一個(gè)東西不是好就一定是壞嗎？在好壞之間顯然存在很多概念，例如：普通、缺陷、尚可、優(yōu)秀、完美。

你甚至可以發(fā)現(xiàn)，這些概念和好、壞并不在一條直線上，它們有交叉的含義，也有不交叉的含義。

它們?cè)谝粋€(gè)碩大的語(yǔ)義空間的不同位置上，像光譜一樣沒(méi)有明顯分界。

正因如此，我們才有必要?jiǎng)?chuàng)造出這么多詞匯，不是嗎？

要想更準(zhǔn)確地表達(dá)這些概念之間的關(guān)系，必須給霍普菲爾德網(wǎng)絡(luò)引入一個(gè)重要的性質(zhì)：概率。

比如：“激進(jìn)”這個(gè)詞，可能包含了 22% 的“勇敢”，包含了 16% 的“武斷”，后面還有 62% 的空間可以羅列很多其他的語(yǔ)義。

這張圖展示了詞語(yǔ)之間語(yǔ)義關(guān)聯(lián)的程度，顏色越紅表示語(yǔ)義關(guān)聯(lián)越大。例如“名字”和“性別”的內(nèi)在關(guān)聯(lián)就很大。

由此，概念之間不再是孤島，而是依靠概率建立起了精妙的數(shù)學(xué)關(guān)系，形成了一個(gè)“語(yǔ)義空間”：

每個(gè)詞在語(yǔ)義空間中都有一個(gè)坐標(biāo)。

語(yǔ)義空間不是普通的三維，而是多維空間，也許有幾百個(gè)，幾千個(gè)維度。

語(yǔ)義空間

這張圖展示了用 50 個(gè)維度來(lái)描繪左邊的詞。每一個(gè)維度上的顏色都可以看作一個(gè)“亞概念”的強(qiáng)度。

有了這個(gè)“語(yǔ)義空間”，系統(tǒng)得以把概念拆碎，為每一個(gè)亞概念的“粉末”找到它的坐標(biāo)。

舉例來(lái)說(shuō)：

普通的“通”和暢通的“通”，就包含某種共同的深層語(yǔ)義，我們能體會(huì)其中的亞概念，但卻很難描述。

而利用亞概念進(jìn)行學(xué)習(xí)，就相當(dāng)于進(jìn)入了“盜夢(mèng)空間”的更深層，一瞬間打通了任督二脈，理解就產(chǎn)生了。

而且，它還可以在深層空間重新整合這些亞概念，吐出和學(xué)習(xí)資料不同的全新語(yǔ)句，也就是表達(dá)。

這正是辛頓要做的。

1983 年，辛頓和他的合作者特倫斯·謝諾夫斯基宣布了這個(gè)新系統(tǒng)——“玻爾茲曼機(jī)”。

辛頓（右）和特倫斯·謝諾夫斯基

因?yàn)椴柶澛鼨C(jī)需要一個(gè)“只可意會(huì)不可言傳”的亞概念思考空間，所以辛頓把霍普菲爾德網(wǎng)絡(luò)改成了兩層：

一層是“可見(jiàn)層”：按照人類(lèi)的表達(dá)規(guī)范接受輸入和整理輸出。 一層是“隱含層”：只用于思考，不用管任何表達(dá)規(guī)范。

一堆信息小球，先撞到可見(jiàn)層，在可見(jiàn)層滾動(dòng)到最低點(diǎn)后，漏到隱含層再繼續(xù)滾動(dòng)，這就是“理解”。

小球從隱含層開(kāi)始，反向彈射到可見(jiàn)層，這就是“表達(dá)”。

這，就是今天一切人工智能的基本結(jié)構(gòu)：多層神經(jīng)網(wǎng)絡(luò)。

玻爾茲曼機(jī)：上面是可見(jiàn)層，下面是隱藏層。

玻爾茲曼機(jī)的訓(xùn)練，大部分工作其實(shí)就是對(duì)各種概率的計(jì)算，把計(jì)算好的參數(shù)固定在各個(gè)神經(jīng)元的連接參數(shù)里，讓這些神經(jīng)元最終所構(gòu)成的“地貌”能夠逼近訓(xùn)練素材中所隱含的“地貌”。

這時(shí)神經(jīng)元數(shù)量已經(jīng)非常大，每一個(gè)神經(jīng)元在“地貌”中具體起什么作用已經(jīng)很難說(shuō)清。

也就是說(shuō)，人類(lèi)沒(méi)有辦法對(duì)具體的神經(jīng)元進(jìn)行直接干預(yù)，只能使用某種算法來(lái)操作。

辛頓腦海里出現(xiàn)了“反向傳播算法”。

你也許讀過(guò)卡夫卡的《城堡》。

土地測(cè)量員 K 受雇于一個(gè)城堡，但當(dāng)他來(lái)到城堡所在的村莊，卻無(wú)法與真正的權(quán)力機(jī)構(gòu)取得聯(lián)系，但是他又確確實(shí)實(shí)地被那個(gè)高高在上的權(quán)力所影響和阻撓。

反向傳播算法就是如此：

1、每一個(gè)神經(jīng)元都是 K，他們一開(kāi)始根本不知道自己該做什么才能遂權(quán)力的意。 2、“權(quán)力”就是訓(xùn)練語(yǔ)料里隱含的秩序。沒(méi)人見(jiàn)過(guò)它，沒(méi)人說(shuō)的清，但它就是會(huì)對(duì)每一個(gè) K 都施加影響。 3、一旦 K 做的行為違背了“權(quán)力的意志”，K 就會(huì)遭到懲罰，但 K 卻永遠(yuǎn)無(wú)法聯(lián)系到權(quán)力，詢(xún)問(wèn)它真正的意志到底是什么，它只能聯(lián)系到一些基層官員。 4、所以 K 唯一能做的就是間接地聽(tīng)基層官員傳達(dá)上層的喜怒。感覺(jué)自己錯(cuò)得少，就少改變一點(diǎn)，感覺(jué)錯(cuò)得多，就多改變一些。

直到所有的 K 最后都*盡可能*實(shí)現(xiàn)了“隨心所欲不逾矩”，這個(gè)神經(jīng)網(wǎng)絡(luò)就*算是*訓(xùn)練成了。

注意，之所以要說(shuō)“盡可能”、“算是”，是因?yàn)闄?quán)力的意志本質(zhì)上不可捉摸。

如果一直訓(xùn)練下去，一定還有 K 的行為會(huì)出錯(cuò)，只不過(guò)相比高峰時(shí)期大大減少，所以反向傳播訓(xùn)練是沒(méi)有一個(gè)明確的結(jié)束標(biāo)志的，它只有一種“收斂”的態(tài)勢(shì)。

從系統(tǒng)整體地角度看，“反向傳播”是一種極為有效的收斂方法。這種整體的有效性，從某種程度上可以掩蓋每個(gè)神經(jīng)元 K 所體會(huì)到的具體的荒誕。

但從 K 的眼里反射出的，也許才是宇宙的真相——我們永遠(yuǎn)沒(méi)有機(jī)會(huì)從根本上理解這個(gè)世界。

喜歡動(dòng)物的辛頓會(huì)用更積極的比喻來(lái)解釋神經(jīng)網(wǎng)絡(luò)的訓(xùn)練：

一個(gè)毛毛蟲(chóng)，就是訓(xùn)練神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)。它會(huì)變成蛹，而在蛹里，原來(lái)的毛毛蟲(chóng)融化成了湯，從這個(gè)湯中最終幻化出一只蝴蝶。

那么，從毛毛蟲(chóng)到蝴蝶到底發(fā)生了什么？蝴蝶和之前的毛毛蟲(chóng)還是同一只昆蟲(chóng)嗎？

這些答案，如莊周夢(mèng)蝶一般深刻而浪漫。

1980 年代，接連祭出玻爾茲曼機(jī)和反向傳播算法后，辛頓引起了小圈子的注意，但很快波瀾就平息了。

不過(guò)他尋找真相的努力，為“神經(jīng)網(wǎng)絡(luò)”一派結(jié)結(jié)實(shí)實(shí)扳回一局。

這是一個(gè)玻爾茲曼機(jī)的例子：用兩層神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別手寫(xiě)數(shù)字時(shí)，書(shū)寫(xiě)的過(guò)程中，每一個(gè)神經(jīng)元的實(shí)時(shí)激活狀態(tài)。

在 80 年代，結(jié)束了一次和師妹兼學(xué)生不成功的閃婚后，辛頓步入第二段婚姻，妻子是分子生物學(xué)家羅莎琳德·扎林。

雖然彼時(shí)的辛頓為了找到合適的教職輾轉(zhuǎn)了美、加的好幾個(gè)城市，但他的精神仍像沐浴在暖春中：

白日當(dāng)空，有聰明的伙伴們和他一起并肩行進(jìn)，黃昏時(shí)分，他如暮色歸舟，和愛(ài)人暢談言歡。

重要的是，站在鏡子面前時(shí)，映出的是一張年輕的臉龐。

也許有一夜，他也曾夢(mèng)見(jiàn)自己的名字掛在辛頓的家族樹(shù)上，光輝奪目。

但正如辛頓親手揭示的那樣：機(jī)器（當(dāng)然也包括人類(lèi)）對(duì)世界的預(yù)測(cè)只是基于模擬和概率計(jì)算。

浮云中的城堡，并無(wú)根基。

每個(gè)神經(jīng)元 K 所體會(huì)到的才是真相——世界的走向從根本上如三體世界的太陽(yáng)那樣無(wú)法預(yù)測(cè)，荒誕如影子一樣跟隨著每一個(gè)人。

辛頓在 1990

（五）冬

雖然玻爾茲曼機(jī)所暗示的基于“系統(tǒng)論”的神經(jīng)網(wǎng)絡(luò)看上去很有王者之氣，但要造出一個(gè)“能平視人類(lèi)的 AI”，則需要人類(lèi)的計(jì)算力大幅增長(zhǎng)。

不是一千倍，不是一萬(wàn)倍，不是十萬(wàn)倍，是十億倍。

90 年代，全球計(jì)算機(jī)的算力雖然已經(jīng)起飛。但對(duì)于神經(jīng)網(wǎng)絡(luò)所需來(lái)說(shuō)，仍如燭火之于太陽(yáng)。

正如當(dāng)年愛(ài)因斯坦高擎相對(duì)論，卻因無(wú)法驗(yàn)證導(dǎo)致獲得諾獎(jiǎng)的日子一拖再拖那樣尷尬。

辛頓改良了玻爾茲曼機(jī)，減少了神經(jīng)元之間的連接，成為“受限玻爾茲曼機(jī)”，以此大大降低了計(jì)算量；他還設(shè)計(jì)了“模型蒸餾法”，可以把大模型中的知識(shí)轉(zhuǎn)移到小模型中。

即便如此，所需的計(jì)算力還是遠(yuǎn)超想象。

“渴望而得不到”，這個(gè)孩提時(shí)代的夢(mèng)魘突然又回來(lái)了。

或者說(shuō)，它從未遠(yuǎn)走。

羅莎琳德患有不孕癥，他們沒(méi)辦法生下小孩，最終決定收養(yǎng)兩個(gè)南美洲的孩子。

就在一雙兒女剛進(jìn)家門(mén)時(shí)，羅莎琳德被確診了卵巢癌。

治療不孕癥夢(mèng)魘般的體驗(yàn)，讓羅莎琳德對(duì)醫(yī)生的冷漠和無(wú)能產(chǎn)生了極強(qiáng)的厭惡。

她拒絕手術(shù)和化療，執(zhí)拗地在家自己用一種非常冷門(mén)的“順勢(shì)療法”，也就是把藥物稀釋到幾乎無(wú)法檢測(cè)的程度，然后輸入體內(nèi)。

“冷門(mén)”只是一種客氣的說(shuō)法——這種療法是無(wú)效的。

羅莎琳德的病程發(fā)展很快，腫瘤越來(lái)越多，精神也越來(lái)越崩潰。她固執(zhí)地相信自己肯定能好，開(kāi)始尋找更貴的“順勢(shì)療法藥物”。直到她流著淚對(duì)辛頓說(shuō)：“我們把房子賣(mài)掉吧?！?/p>

辛頓看著妻子，看著這個(gè)支持自己走過(guò)春天的眷侶，說(shuō)出了此生最殘忍的話：“我們不賣(mài)房子。如果你死了，我得照顧孩子們，他們要有地方住?！?/p>

哪怕 30 年已經(jīng)過(guò)去，每每回想起這個(gè)瞬間，辛頓的心中還是會(huì)被各種情緒充滿，那是憤怒、內(nèi)疚、傷心、困惑。

那是一個(gè)智能生命面對(duì)這個(gè)世界的荒謬所迸發(fā)出的劇烈反應(yīng)，那是一種辛頓尚且無(wú)法理解的東西。

辛頓站在了一生中自我懷疑的頂峰。

幾十年對(duì)世界的觀察最終都不可避免地滑向殘忍的“自我剖析”：

如果人終歸只是機(jī)器，那么這種滴血的情感，究竟藏在神經(jīng)網(wǎng)絡(luò)多么幽深的地方？ 如果機(jī)器終究能成人，那么制造出一個(gè) AI 讓它終究嘗遍人間苦難，意義又是什么？

妻子離開(kāi)那年，辛頓 46 歲。他的兒子 5 歲，女兒 3 歲。

羅莎琳德的墓碑

在那之前的半生，辛頓都活在自己的精神世界中，而在那之后，辛頓必須活在“滾滾塵世”里。

辛頓的兒子有多動(dòng)癥和學(xué)習(xí)障礙，即便有保姆幫忙，他也必須 6 點(diǎn)準(zhǔn)時(shí)下班回家照顧他，晚點(diǎn)兒還得去商店給兒女們買(mǎi)襪子。

一種從未設(shè)想的單身爸爸生活，把辛頓幾十年的幻覺(jué)擊碎：

過(guò)去，“活著”對(duì)他來(lái)說(shuō)意味著實(shí)現(xiàn)與超越，意味著家族的榮耀。

現(xiàn)在，“活著”意味著存在，意味著要把今天的自己拖拽到明天。

曾經(jīng)，在超市里看到收銀員算不對(duì)簡(jiǎn)單的數(shù)字，他非常惱火，心想：他們就不能雇一個(gè)會(huì)算數(shù)的人嗎？

現(xiàn)在，他會(huì)想：有超市能雇傭他，真的挺好的。

從那時(shí)起，我不再急切地成為一個(gè)更“好”的人了。

辛頓回憶。

他從心里最隱秘的角落找到那顆“家族樹(shù)”，坦然扔進(jìn)了垃圾堆。

也正是從那時(shí)起，辛頓安住在多倫多大學(xué)計(jì)算機(jī)科學(xué)教授的位置上，在神經(jīng)網(wǎng)絡(luò)逐漸從迷宮變成荒原的歲月中，在他人的態(tài)度從不解變成遺忘中，不疾不徐地向前行走。

歲月悠長(zhǎng)，足夠辛頓澆灌出不少學(xué)生。

但在世紀(jì)之交，互聯(lián)網(wǎng)開(kāi)始繁榮，人心開(kāi)始躁動(dòng)。

自覺(jué)有商業(yè)頭腦的學(xué)生們，紛紛“被棄師門(mén)”，放棄永無(wú)出頭之日的人工智能，殺進(jìn)了創(chuàng)業(yè)的大潮，事實(shí)也證明他們選擇正確，大多斬獲頗豐。

最冷清的時(shí)候，全世界滿打滿算只剩下辛頓和他的幾個(gè)學(xué)生走在這條路上——《最后的晚餐》里那個(gè)長(zhǎng)桌，能坐下所有“神經(jīng)網(wǎng)絡(luò)”的門(mén)徒。

辛頓也不確定這些學(xué)生仍然留在這個(gè)領(lǐng)域究竟是出于何等目的。

但和自己的老師經(jīng)常給自己潑冷水不同，辛頓愿意給學(xué)生一些哪怕微薄的照耀。

他總說(shuō)：“神經(jīng)網(wǎng)絡(luò)并非死路一條?！?/p>

但同時(shí)也不忘補(bǔ)充一句：“這件事情也許在一個(gè)世紀(jì)以后才能成，恐怕我和你們都無(wú)法親眼見(jiàn)證了?！?/p>

人是機(jī)器并不奇怪。

真正奇怪的是，一架機(jī)器，竟然可以坦然地為某件自己化為齏粉之后才能到來(lái)的事情而等待。

辛頓已經(jīng)為平淡度過(guò)自己的一生做好了準(zhǔn)備。

但世界似乎不想給他這個(gè)機(jī)會(huì)。

（六）春

互聯(lián)網(wǎng)的蓬勃發(fā)展，讓全世界陷入了前所未有的算力饑渴。

商業(yè)是宇宙中最猛的春藥。摩爾定律開(kāi)足馬力，不僅用于科學(xué)計(jì)算的 CPU 算力打著滾往上翻，用于圖形計(jì)算的 GPU 計(jì)算力也在蓬勃發(fā)展。

如果用 1985 年最先進(jìn)的計(jì)算機(jī)運(yùn)行一個(gè)計(jì)算，不停不息直到此時(shí)此刻。換做當(dāng)下最好的計(jì)算機(jī)來(lái)做同樣多的計(jì)算，只需要 1 秒。

最好的預(yù)言家也沒(méi)敢想象：幾十年的時(shí)光呼嘯，算力的燭火真的變成了耀眼的太陽(yáng)。

離離原上草，只待星星火。

一位出生于北京的女性引燃了火焰。

斯坦福大學(xué)教授李飛飛，帶領(lǐng)團(tuán)隊(duì)用了 800 個(gè)日夜，手工標(biāo)注了 1400 萬(wàn)張圖片，分成了 2 萬(wàn)個(gè)類(lèi)別，在 2010 年創(chuàng)立了 ImageNet 圖像識(shí)別挑戰(zhàn)賽，鼓勵(lì)全世界研究者用 AI 分類(lèi)出更多的圖片。

這項(xiàng)比賽付不出那么多獎(jiǎng)金。

獎(jiǎng)品是——榮譽(yù)。

2012 年冬天，當(dāng)年的獎(jiǎng)項(xiàng)揭曉，冠軍歸屬于一個(gè)叫做 AlexNet 的系統(tǒng)。

它對(duì)圖片識(shí)別的錯(cuò)誤率低到了 15.3%，比第二名的錯(cuò)誤率彪悍地低了 10.8 個(gè)百分點(diǎn)。

大賽成績(jī)

AlexNet 的結(jié)構(gòu)擁有 65 萬(wàn)個(gè)神經(jīng)元， 6000 萬(wàn)個(gè)參數(shù)，8 層神經(jīng)網(wǎng)絡(luò)。最特別的是，它使用了 4 顆GPU來(lái)做計(jì)算，而第二名谷歌則使用了 16000 顆 CPU。

人們很快明白：AlexNet 和競(jìng)爭(zhēng)對(duì)手并不是一個(gè)物種。

AlexNet 的結(jié)構(gòu)

這個(gè)系統(tǒng)的作者是一個(gè)“三人組”：

亞歷克斯·克里澤夫斯基、伊利亞·蘇茨克韋爾，以及他們兩人共同的導(dǎo)師——已經(jīng) 65 歲的杰弗里·辛頓。

辛頓，用這種方式緩緩走回聚光燈下。

他謙遜地站在兩位關(guān)門(mén)弟子身后，白發(fā)滿頭，皺紋橫亙，眼神一如從前。

現(xiàn)在的學(xué)界追認(rèn)那一時(shí)刻為：“AI 第一次平視人類(lèi)”。

兩個(gè)月后，三人在世界計(jì)算機(jī)視覺(jué)大會(huì)上介紹了他們使用 GPU 做 AI 的算法，其中滿溢著他們自己都還沒(méi)完全意識(shí)到的商業(yè)價(jià)值——以當(dāng)時(shí)巨頭公司手握的計(jì)算力，已經(jīng)足夠用神經(jīng)網(wǎng)絡(luò)做出實(shí)用的 AI 了！

來(lái)自世界各地的收購(gòu)邀約如雪片般襲來(lái)：你們公司報(bào)價(jià)多少錢(qián)？我買(mǎi)！

師徒三人這才意識(shí)到——自己應(yīng)該成立一家公司。

2012 年末，草草成立的 DNNresearch 公司面對(duì)四個(gè)終極買(mǎi)家：谷歌、微軟、DeepMind、 百度。

他們決定搞一次拍賣(mài)。

瘦骨嶙峋的辛頓躺在出租車(chē)后座上前往拍賣(mài)地點(diǎn)。他 19 歲的時(shí)候幫媽媽搬暖氣傷到了脊椎，幾十年病情逐漸惡化，此時(shí)他已經(jīng)沒(méi)辦法坐下，只能站立或躺著。

DeepMind 是創(chuàng)業(yè)公司，只能用自己手里的股份報(bào)價(jià)，很快退出了競(jìng)爭(zhēng)，微軟出到 2200 萬(wàn)美元，也退出競(jìng)爭(zhēng)。只有谷歌和百度不停地加價(jià)，從清晨到午夜，報(bào)價(jià)還在陡峭攀升，仿佛如果不買(mǎi)到辛頓三人，就要面對(duì)世界末日一般。

由于是遠(yuǎn)程拍賣(mài)，辛頓是在酒店里躺在床上和兩位學(xué)生商量。

第二天早晨，新一輪報(bào)價(jià)爭(zhēng)奪繼續(xù)，谷歌已經(jīng)出到了 4400 萬(wàn)美元。辛頓決定叫停拍賣(mài)，65 歲的年紀(jì)和脆弱的脊椎實(shí)在沒(méi)辦法支持他到地球另一端的中國(guó)工作。

他決定把公司賣(mài)給谷歌。

谷歌花 4400 萬(wàn)買(mǎi)到的，像是個(gè)“空殼”，只有辛頓三人手中的知識(shí)產(chǎn)權(quán)和他們未來(lái)幾年在谷歌工作的承諾。

但正如達(dá)爾文、哥白尼、加繆、愛(ài)因斯坦一樣，三人手中所握的，不僅僅是知識(shí)產(chǎn)權(quán)，更是某種真相。

真相是這個(gè)世界上最有尊嚴(yán)的東西，它重若千鈞，也理應(yīng)價(jià)值千金。

辛頓建議三人平分股份，各拿 33%。兩位學(xué)生不肯，執(zhí)意讓辛頓收下 40%。

這是三人組最著名的一張照片，他們臉上罕見(jiàn)地同時(shí)掛著微笑。

辛頓得到了未有過(guò)的金錢(qián)，和來(lái)自全世界的贊譽(yù)與注目，那似乎是一種對(duì)漫長(zhǎng)人生中默默等待的獎(jiǎng)賞，或者說(shuō)，“償還”。

站在歷史的河岸，他卻再一次感覺(jué)荒誕。

霍華德·辛頓，他那位預(yù)言自己終究只能有他一半成績(jī)的刻薄父親已去世 35 年。辛頓甚至不確定，父親如果活著，是會(huì)感到榮耀、鄙夷，還是嫉妒。

羅莎琳德，那位陪自己走過(guò)盛年歲月的妻子，終究無(wú)法見(jiàn)證自己的榮光。她如果活著，會(huì)說(shuō)什么呢？她會(huì)擁抱我，親吻我嗎？她會(huì)流淚嗎？

辛頓無(wú)法設(shè)想，甚至不敢設(shè)想。

因?yàn)榱_莎琳德帶著年輕的樣子永遠(yuǎn)地停在原地，而他卻必須拖著自己無(wú)比真實(shí)的軀體和兩個(gè)孩子，一點(diǎn)點(diǎn)走遠(yuǎn)，和另一個(gè)女人再婚。

杰奎琳·福特，是辛頓的第三任妻子，是一位藝術(shù)史學(xué)家，也是在兩個(gè)孩子眼里，真正陪伴自己長(zhǎng)大的媽媽。

辛頓買(mǎi)下了一座島，送給杰奎琳。

“那是我一生中唯一真正的放縱?！毙令D說(shuō)。

島上有蛇，有鳥(niǎo)，有昆蟲(chóng)，有辛頓做木工活需要的各種樹(shù)木，有日月與星辰的翻滾，有平靜的浪濤，有時(shí)間靜靜流淌不疾不徐的聲響。

島上的春天，如詩(shī)一樣。

只是在辛頓和杰奎琳·福特搬到島上之后的兩年，杰奎琳再一次被確診了癌癥。

這個(gè)“再一次”，是對(duì)辛頓而言的。

休倫湖的喬治亞灣

（七）圓環(huán)

杰奎琳對(duì)辛頓說(shuō)：

“我感到很難過(guò)。但我知道，必須用剩下的時(shí)間好好享受生活，也盡量把你和其他人的一切安排好。”

他們?cè)趰u上散步時(shí)，偶然發(fā)現(xiàn)了一只小船的殘骸。杰奎琳找來(lái)一些女工，把船整飭一新，成了一只酒紅色的獨(dú)木舟。

“她進(jìn)行了首航，”辛頓回憶，“然后，就再也沒(méi)人用過(guò)它?！?/p>

2017 年，已行至生命尾聲的杰奎琳見(jiàn)證了辛頓獲得了計(jì)算機(jī)界的最高獎(jiǎng)項(xiàng)：圖靈獎(jiǎng)。

名望大振的辛頓，試圖用自己剛擁有的一切從死神手里搶人。

在加拿大政府的支持下，他火速成立了“向量研究所”（Vector Institute），聚集了全世界頂尖的人工智能人才，第一個(gè)項(xiàng)目就是：把 AI 用于醫(yī)療診斷。

但幾個(gè)月后，杰奎琳離開(kāi)了世界。

辛頓想起多年以前，那個(gè)無(wú)法分辨積木的機(jī)器人。 狂怒的一拳，崩塌的渴望。

他小心翼翼地把照片存在電腦上。

其中一張是他和杰奎琳的婚禮，在鄰居家的客廳里交換誓言。那天辛頓榮光煥發(fā)，杰奎琳雙手握住他的一只手。

還有一張照片，杰奎琳在酒紅色的獨(dú)木舟上凝望著鏡頭，水面斑駁，微風(fēng)拂過(guò)。

“我想讓你了解羅茲和杰基，因?yàn)樗齻兪俏疑兄匾囊徊糠帧！? 2023 年，辛頓對(duì)紐約客記者約書(shū)亞·羅斯曼 說(shuō)。

但實(shí)際上，這與人工智能也有很大關(guān)系。 對(duì)于人工智能有兩種態(tài)度。一種是否認(rèn)，一種是堅(jiān)忍。 每個(gè)人對(duì)人工智能的第一反應(yīng)都是“我們必須阻止它”，就像每個(gè)人對(duì)癌癥的第一反應(yīng)都是“我們要如何把它切除”。

他接著說(shuō)。

但切除可能只是一種幻想。

辛頓之所以說(shuō)這番話，是因?yàn)椤癆lexNet 三人組”后來(lái)發(fā)生的故事：

伊利亞·蘇茨克韋爾在 2015 年就離開(kāi)了谷歌， 在馬斯克的牽線之下，作為首席科學(xué)家與山姆·奧特曼聯(lián)合創(chuàng)立了一家公司，名為 OpenAI。

Ilya Sutskever & Sam Altman

從這里開(kāi)始，辛頓的人生才與大多數(shù)人了解的追光下的戲劇串接在一起。

在 OpenAI，蘇茨克維爾把玻爾茲曼機(jī)發(fā)揮到了極致，成為了深度神經(jīng)網(wǎng)絡(luò)“大模型”，大模型成為了 ChatGPT 的基礎(chǔ)，也成為了如今一切擁有對(duì)話和理解能力的 AI 的魂靈。

人類(lèi)第一次制造出能通過(guò)圖靈測(cè)試的 AI。

一萬(wàn)年來(lái)，人與機(jī)器之間的界限，從未如此模糊。

1950 年，圖靈發(fā)表論文，提出了“模仿游戲”，也就是圖靈測(cè)試。

就在普通人開(kāi)始擔(dān)心 AI 接管世界時(shí)，很多 AI 從業(yè)者卻異常冷靜——他們覺(jué)得自己對(duì)親手制造的大模型了如指掌。

理由之一是：它的本質(zhì)基于概率計(jì)算，說(shuō)白了只是“預(yù)測(cè)下一個(gè)詞”。

但辛頓不同意。

他認(rèn)為在徹底了解大腦是如何工作之前，貶低這種“預(yù)測(cè)能力”是危險(xiǎn)的。

讓我們分析一下。如果你的工作是預(yù)測(cè)下一個(gè)詞，你想做到非常擅長(zhǎng)， 你必須理解正在說(shuō)的內(nèi)容 。 這是唯一的方法。

他說(shuō)。

理由之二是：它會(huì)產(chǎn)生“幻覺(jué)”，也就是在輸出的時(shí)候編造事實(shí)，難堪大用。

辛頓也不同意。

他認(rèn)為這是一種基于“人類(lèi)例外論”的傲慢推論。因?yàn)槿艘矔?huì)（基于同樣的原理）產(chǎn)生幻覺(jué)。

辛頓提到了水門(mén)事件。白宮顧問(wèn)約翰·迪恩在接受采訪時(shí)虛構(gòu)了很多內(nèi)容，細(xì)節(jié)也錯(cuò)漏百出，混淆了不同人的話。

但他說(shuō)的要點(diǎn)是對(duì)的。在我們的腦海中，編造和說(shuō)實(shí)話之間沒(méi)有界限。 說(shuō)實(shí)話只是正確的編造 。

他說(shuō)。

這么看，ChatGPT 編造事實(shí)既是一個(gè)缺陷，又是一個(gè)它類(lèi)似人腦的令人鼓舞的證據(jù)。

1973 年，約翰·迪恩接受調(diào)查委員會(huì)質(zhì)證。

從 ChatGPT 開(kāi)始，人工智能研究突飛猛進(jìn)，但研究者一直避免使用一些看上去不科學(xué)的詞匯，例如“直覺(jué)”。

他們?cè)囍酶鞣N理論拆解這種整體的直覺(jué)，例如“推理”、“計(jì)劃”、“注意力”之類(lèi)。但辛頓在很多場(chǎng)合都在高呼：“AI 比我們承認(rèn)的更具有直覺(jué)性。”

一旦試圖把直覺(jué)拆解成細(xì)碎的零件，就會(huì)走上“還原論”的近路。

符號(hào)主義總說(shuō)我們的本質(zhì)是推理機(jī)器，那完全是胡說(shuō)八道。我們本質(zhì)是類(lèi)比機(jī)器。 可能在上面加一點(diǎn)點(diǎn)推理，以便在類(lèi)比出錯(cuò)誤答案的時(shí)候注意到并且糾正它們。

辛頓說(shuō)。

承認(rèn)自己是直覺(jué)機(jī)器，代價(jià)是高昂的。

這意味著你必須接受自以為對(duì)世界的理解本質(zhì)上只是概率預(yù)測(cè)；

意味著你必須承認(rèn)自以為堅(jiān)實(shí)的記憶本質(zhì)上只是拼湊出的幻覺(jué)；

意味著你必須全然放下自己的傲慢，在荒謬的世界里前行，然后接受命運(yùn)給你的一切。

不是每個(gè)人都付得起這個(gè)代價(jià)。

起初，人只是想了解這個(gè)世界； 為了了解世界，我們不得不了解自己； 而為了了解自己，我們創(chuàng)造了另一個(gè)自己； 我們創(chuàng)造出另一個(gè)自己，證明了我們永遠(yuǎn)無(wú)法了解這個(gè)世界。

辛頓一生所做的事情，就是站在這個(gè)荒謬的圓環(huán)中，指給世人看。

15 歲的阿蘭·圖靈

而在這個(gè)圓環(huán)之外，還有一個(gè)更大的圓環(huán)。

那可以叫做歷史的宿命——真正改變世界的技術(shù)，不可避免地會(huì)被用于戰(zhàn)爭(zhēng)。

此時(shí)此刻，全世界的軍方都在研發(fā) AI 驅(qū)動(dòng)的戰(zhàn)爭(zhēng)機(jī)器人，他們低調(diào)地稱(chēng)之為“自主武器”。

當(dāng)年愛(ài)因斯坦的相對(duì)論最終引爆了原子彈，世界進(jìn)入了核威懾紀(jì)元，在那以后出生的人類(lèi)，本質(zhì)上都只是一代人。

真正有望突破核威懾的技術(shù)，似乎只有更強(qiáng)大的AI 所控制的反導(dǎo)系統(tǒng)，以及成千上萬(wàn)“不怕死亡”、“可批量化制造的”、“擁有極強(qiáng)直覺(jué)”的AI 軍隊(duì)。

而當(dāng) AI 軍團(tuán)壯大后，他們是否會(huì)像十字軍一樣，要求相應(yīng)的尊嚴(yán)、權(quán)利、資源？

別忘了，如果機(jī)器和人并無(wú)區(qū)別。意味著它們也能體會(huì)“渴望而得不到”的痛苦。這種痛苦可能激發(fā)的行動(dòng)，完全無(wú)法預(yù)料。

或者說(shuō)，完全可以預(yù)料。

你見(jiàn)過(guò)多少例子，是智能的東西是被不那么智能的東西控制的？而且 AI 不必須使用武力，只要它能說(shuō)話，就完全有辦法控制人類(lèi)。

辛頓說(shuō)。

愛(ài)因斯坦肩頭沉重的十字架，正緩緩地轉(zhuǎn)移到自辛頓以降的無(wú)數(shù)人工智能科學(xué)家身上。

1963 年，古巴導(dǎo)彈危機(jī)之后的卡斯特羅和赫魯曉夫。

2023 年，伊利亞·蘇茨克維爾認(rèn)為 OpenAI 的 CEO 山姆·奧特曼漠視人工智能的安全建設(shè)，掀起了一場(chǎng)宮斗。

失敗后，他離開(kāi)了親手創(chuàng)建的 OpenAI，建立了安全超級(jí)智能公司（Safe Superintelligence)。

辛頓公開(kāi)表達(dá)了對(duì)弟子的贊許，但他卻不確定蘇茨克維爾是否能成功。

做出原子彈只需要讓它爆炸，但確保某個(gè)東西不爆炸，要難得多。

辛頓說(shuō)。

2023 年，辛頓從谷歌辭職，是三人組中最晚的一個(gè)，他給出的辭職理由是：這樣可以更中立地批評(píng)人工智能的危險(xiǎn)。

如核威懾紀(jì)元一樣，新紀(jì)元恐怕也會(huì)建立在新的威懾平衡之上。

由此我們可以理解辛頓那個(gè)奇怪的比喻：把 AI 視為腫瘤。

如果所有的腫瘤都能切除了事，辛頓的人生為何還要承擔(dān)那么多悲傷？

與其徒勞幻想切除，不如研究一種更積極的、與之共存的策略。

但這種策略是什么？

“沒(méi)有人知道答案?！?/p>

辛頓嘆息。

（八）解脫

2024 年，辛頓獲得了諾貝爾物理學(xué)獎(jiǎng)。

他和霍普菲爾德分享了這個(gè)榮譽(yù)。

公眾在看到一個(gè)人工智能專(zhuān)家獲得諾貝爾物理學(xué)獎(jiǎng)的時(shí)候，覺(jué)得不可思議。但是了解霍普菲爾德和辛頓的工作，就會(huì)知道他們的理論確實(shí)脫胎于物理學(xué)。

或者說(shuō)，脫胎于這個(gè)世界本身的運(yùn)行規(guī)律。

人們?cè)敢庀嘈胚@樣一個(gè)故事：一位執(zhí)著的科學(xué)家，幾十年如一日在苦難中前行，而他所相信的東西，終于化作獎(jiǎng)賞，如《肖申克的救贖》中的大雨傾盆。

但這似乎并不是事實(shí)。

辛頓的人生所承受的荒謬，和你我一樣。而世界上的絕大多數(shù)普通人，只能在歲月里前行，承擔(dān)命運(yùn)所給予的一切。

沒(méi)有獎(jiǎng)賞。

沒(méi)有獎(jiǎng)賞，直到他們撐到對(duì)岸，或沒(méi)能撐到對(duì)岸。

一個(gè)諾貝爾獎(jiǎng)，掛在辛頓的家族樹(shù)上，似乎夠格，甚至過(guò)于夠格。

我常常想，我喜歡木工活，去做一名建筑師會(huì)不會(huì)更快樂(lè)？因?yàn)槲也槐貜?qiáng)迫自己去做什么。 然而，對(duì)于科學(xué)，我不得不一直強(qiáng)迫自己，而且因?yàn)榧易宓脑?，我必須在科學(xué)上取得成功。這些年的科學(xué)研究其中當(dāng)然有快樂(lè)，但主要是焦慮。 現(xiàn)在我成功了， 這是一種巨大的解脫。

辛頓說(shuō)。

“解脫”，花了一個(gè)人 77 年的生命長(zhǎng)度。

但即便這樣，辛頓也許都是幸運(yùn)的。

我們不妨回首看看來(lái)路上的那些人。

玻爾茲曼，那個(gè)最初搭建起宏觀和微觀世界橋梁的人。

他在一生中都被視為異端。在學(xué)術(shù)對(duì)手猛烈的抨擊下，由于無(wú)法自證，最后連他自己都失去了信心。

晚年他越來(lái)越暴躁，患上嚴(yán)重的雙向情感障礙，62 歲那年，終于在旅館里用一根繩子結(jié)束了自己的生命。

這，是他的“解脫”。

還有亞歷克斯（Alex），AlexNet 的第一作者，這個(gè)傳奇的時(shí)代以他的名字開(kāi)端。

亞歷克斯生于前蘇聯(lián)時(shí)代的烏克蘭，兒時(shí)移居加拿大。他是個(gè)沉默并且有韌性的孩子，用蘇茨克維爾的話說(shuō)就是“他有能力一直鉆研一個(gè)問(wèn)題，直到問(wèn)題得到解決”。

2017 年，因?yàn)殡y以忍受大公司作派，亞歷克斯也離開(kāi)了谷歌加入了一家創(chuàng)業(yè)公司，隨后默默無(wú)聞，遠(yuǎn)離公眾視野，安靜地生活。

但在學(xué)術(shù)網(wǎng)站上，還能看到他每年發(fā)表一些前沿論文，合作者幾乎都是蘇茨克維爾和辛頓。

有好事者發(fā)文章討論：亞歷克斯在人工智能歷史上到底是什么地位？

他的結(jié)論是：

亞歷克斯就像煙火一樣在歷史的關(guān)鍵時(shí)刻閃耀，卻沒(méi)有在這個(gè)領(lǐng)域站穩(wěn)腳跟，消失在人潮。 但也許，他自己從未想要成為什么“領(lǐng)軍人物”。他是個(gè)有遠(yuǎn)見(jiàn)的人，這就夠了。

公眾不知道亞歷克斯在哪，好友說(shuō)，他現(xiàn)在喜歡上了徒步。

這，是他的“解脫”。

最近幾年，辛頓一直和退休的社會(huì)學(xué)家羅斯瑪麗·加特納生活在一起。

“我覺(jué)得他是那種隨時(shí)需要人陪的人?！绷_斯瑪麗溫柔地說(shuō)。

羅斯瑪麗給這位“木工老男友”辛頓定了規(guī)矩：一個(gè)人在島上時(shí)絕對(duì)不許砍樹(shù)，以防把自己胳膊砍掉了沒(méi)人救他。

在紐約客記者羅斯曼的記錄中，有那么一幕：

那天辛頓駕船上岸，等待羅斯瑪麗給島上帶來(lái)補(bǔ)給。

他去商店里買(mǎi)了個(gè)燈泡，出來(lái)時(shí)，卻一閃身扎進(jìn)了商店門(mén)口的綠植中，很快他站起來(lái)，手里舉著一條黑黃相間的蛇。

它扭動(dòng)著身子，大概有一米長(zhǎng)。

“給你的禮物！”他豪爽地舉到羅斯瑪麗面前，“我在灌木叢里發(fā)現(xiàn)的?！?/p>

羅斯瑪麗笑了。

他把蛇從左手倒到右手，兩只手都黏糊糊的。讓羅斯瑪麗聞一聞，充滿了一種奇特的礦物味道，那是這種蛇所特有的。

“你的襯衫都臟了?！绷_斯瑪麗說(shuō)。

“因?yàn)槲冶仨氉プ∷！毙令D解釋。

隨后，辛頓把蛇放下，滿意地看它鉆回草叢。

“今天天氣真好，讓我們遠(yuǎn)航吧！”他說(shuō)。

辛頓又戀愛(ài)了。

此時(shí)此刻，在島上的小屋里，那個(gè)酒紅色的獨(dú)木舟被透過(guò)窗欞撒下的陽(yáng)光照耀得閃閃發(fā)亮。幾把椅子擺在它周?chē)?，?duì)著遠(yuǎn)處波光瀲滟的湖面，一些雜志散落在一旁的桌子上。

那是一座美麗的小屋。

人的思維終究不只是推理，我們思索著時(shí)光，思索著生死，思索著我們?cè)愤^(guò)的一切，像引力一樣聚集著意義，試著給出最終的回答。

人工智能，也會(huì)需要這樣一個(gè)小屋嗎？

駕船穿過(guò)迷霧的辛頓，總有一天會(huì)和那個(gè)終極詰問(wèn)重逢：如果人的生命布滿苦難和離別，制造出更多像人一樣的 AI，意義是什么？

他也許仍然沒(méi)有答案。

但至少，在苦難和苦難之間，還有一些其他的東西。

就像在冬天和冬天之間，有春天。

“人是機(jī)器。但人是特殊的、美妙的機(jī)器?！毙令D說(shuō)。

辛頓的 77 歲，錯(cuò)愕地迎來(lái)了前所未有的明亮追光，迎來(lái)了全世界認(rèn)識(shí)自己、傾聽(tīng)自己的渴望。他任人從身上摘下各種意義，像一顆秋天的樹(shù)灑落金輝。

但那些意義，終究不是喜愛(ài)或無(wú)視他的人的自我投射嗎？

辛頓只是如此生活了 77 年，冬天過(guò)去，春天到來(lái)，春天過(guò)去，冬天到來(lái)。

為了在殘忍的時(shí)光里行進(jìn)，他必須和苦痛作戰(zhàn)，而為了和苦痛作戰(zhàn)，他變得光輝閃耀。

他和你我一樣是一臺(tái)機(jī)器，也和你我一樣，懷揣著謎一樣的夢(mèng)想。不知是幸運(yùn)還是不幸，他的夢(mèng)想一半走進(jìn)了春天，一半埋葬在寒冬。

但那也許不重要。

因?yàn)樗心燮饋?lái)的東西都會(huì)被時(shí)間的洪流再次沖散，一如橫行的巨獸變成沉默的化石，一如奔涌的淚水消失在雨中。

重要的是，那些曾和他對(duì)望的人們，也許有一瞬間會(huì)輕輕慨嘆：

“吶，是個(gè)溫柔的人呀?！?/p>

冬天之間

還有春天

再自我介紹一下吧。我叫史中，是一個(gè)傾心故事的科技記者。我的日常是和各路大神聊天。如果想和我做朋友，可以搜索微信：shizhongmax。

哦對(duì)了，如果喜歡文章，請(qǐng)別吝惜你的“在看”或“分享”。讓有趣的靈魂有機(jī)會(huì)相遇，會(huì)是一件很美好的事情。

Thx with in Beijing