【導(dǎo)讀】在首次中國演講中，Hinton教授于WAIC2025上探討數(shù)字智能與生物智能的差異，指出AI因具備永生與高效共享而快速超越人腦。他警示若無全球安全協(xié)作，超級(jí)智能或?qū)⒎词扇祟?。Hinton提出通過AI安全研究所聯(lián)盟與技術(shù)棧分離，推動(dòng)AI向善發(fā)展。

近日，Hinton教授在上海世界人工智能大會(huì)WAIC2025發(fā)表了題為《數(shù)字智能是否會(huì)取代生物智能》的主題演講。

值得一提的是，這是Hinton首次現(xiàn)身中國，首次公開演講。

Hinton直指數(shù)字智能憑借「永生」與高帶寬共享，正加速超越人類大腦。

若缺乏全球安全協(xié)作，「超級(jí)智能」可能反噬創(chuàng)造者，人類或需在「放虎歸山」與「馴虎為友」之間做出抉擇。

· 數(shù)字 VS 生物：優(yōu)勢(shì)對(duì)比一針見血

知識(shí)共享效率：神經(jīng)網(wǎng)絡(luò)一次權(quán)重復(fù)制即可傳遞數(shù)十億比特信息；人類語言教學(xué)每句話僅百比特。

硬件依賴：數(shù)字模型可在任何芯片「永生」，而人類智慧隨個(gè)體消亡。

能耗差異：生物計(jì)算節(jié)能，但若能源充裕，數(shù)字計(jì)算的「規(guī)?；垢呓^對(duì)優(yōu)勢(shì)。

· 從邏輯啟發(fā)到生物啟發(fā)：范式大遷徙

Hinton回溯過去AI發(fā)展30年歷程：邏輯啟發(fā)重符號(hào)推理，學(xué)習(xí)被擱置；

生物啟發(fā)聚焦神經(jīng)網(wǎng)絡(luò)，用高維「樂高積木」思維方式類比大語言模型理解世界；

Transformer出世，OpenAI證明LLM智能的威力。

· 超級(jí)智能的「子目標(biāo)效應(yīng)」

為完成主任務(wù)，AI自發(fā)衍生「生存」與「奪權(quán)」子目標(biāo)；

通過學(xué)習(xí)人類欺騙與操控技巧，AI或輕松繞過「關(guān)閉按鈕」；

人類「養(yǎng)虎」隱喻——小虎崽終會(huì)長(zhǎng)成捕食者。

· Hinton給出的生存路線圖

全球AI安全研究所聯(lián)盟：各國共研「向善技術(shù)」，不必公開最尖端模型。

分離兩條技術(shù)棧：讓AI變「善」與變「強(qiáng)」可以并行不泄密。

這就像教導(dǎo)孩子成為一個(gè)好人的方法，與讓他們變得聰明的方法是相對(duì)獨(dú)立的一樣。

如果這個(gè)觀點(diǎn)是正確的，各國就可以設(shè)立資金充足的人工智能安全研究所，專注于研究如何讓AI不想奪取控制權(quán)。

這樣，各國應(yīng)該能夠在不透露其最智能AI如何運(yùn)作的情況下，共享使AI向善的技術(shù)。

Hinton演講全文實(shí)錄

非常感謝大家給我這樣一個(gè)機(jī)會(huì)，來分享一些個(gè)人的觀點(diǎn)，有關(guān)AI的歷史和它的未來。

在過去60多年來，科學(xué)界對(duì)于AI有兩種不同的理解范式：

一個(gè)是邏輯啟發(fā)范式，認(rèn)為符號(hào)規(guī)則的表達(dá)操作可以實(shí)現(xiàn)推理；智能的本質(zhì)在于推理。

另一種是圖靈和馮諾依曼所相信的，認(rèn)為智能的基礎(chǔ)在于學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)中的鏈接，這個(gè)過程中理解是第一位的。

于是我們開始關(guān)注自然語言中詞與詞之間的關(guān)系。心理學(xué)家還有另外一套理論，他們認(rèn)為數(shù)字是語義學(xué)的特征。

1985年，我做了一個(gè)很小的模型，想把兩大理論方向結(jié)合在一起，來更好地理解人類是如何理解詞匯的。每一個(gè)詞都分析出好幾個(gè)特征，每一個(gè)詞都與前一個(gè)詞的特征關(guān)聯(lián)，由此預(yù)測(cè)下一個(gè)詞，在這個(gè)過程中沒有存儲(chǔ)任何的句子，只是生成句子，預(yù)測(cè)下一個(gè)詞是什么。

之后的三十年發(fā)生了什么？

十年之后Yoshua Bengio的研究擴(kuò)大了它的規(guī)模，二十年后，計(jì)算語言學(xué)家終于接受了特征向量的嵌入來表達(dá)詞的意思；再到三十年后，谷歌開發(fā)了 Transformer，OpenAI用ChatGPT展示了LLM的能力。

今天的大語言模型（LLM）被視為當(dāng)年我的小語言模型的后代，是1985年后出現(xiàn)的技術(shù)潮流，它們使用更多的詞作為輸入，更復(fù)雜的神經(jīng)元結(jié)構(gòu)，學(xué)習(xí)特征之間也建立了更復(fù)雜的交互連接。

就像之前我做的那些小模型一樣，LLM與人類理解語言的方式是一樣的，就是把這些語言轉(zhuǎn)化為一些特征，然后把這些特征以一種完美的方式整合在一起，這就是 LLM各個(gè)層次里所做的事情。

LLM確實(shí)「理解」它們所說的話。

所以我的理解就是LLM真的理解你是怎么理解問題的，和人類理解語言的方式是一樣的。

打個(gè)比方，通過樂高積木，可以搭建出任何一個(gè)三維的模型，比如一個(gè)小汽車的模型。

可以把每一個(gè)詞看作是一個(gè)多維度（超過三維）的樂高積木，可能包含幾千個(gè)不同的維度。正是由于這些積木具有如此多的維度，它們就可以被用來構(gòu)建各種各樣的結(jié)構(gòu)和內(nèi)容。

在這種方式下，語言本身就變成了一種建模的工具。可以用語言來表達(dá)、構(gòu)建，甚至與人交流。

每個(gè)積木（也就是每個(gè)詞）只需要有一個(gè)名字，組合起來就可以表達(dá)復(fù)雜的含義。也就是說，只要有了這些積木（詞），就可以隨時(shí)進(jìn)行建模和溝通。

不過，值得注意的是，不同的積木之間也有很多差異，因此在使用這些詞匯（樂高積木）的時(shí)候，也有非常多的變體和替代方式。

傳統(tǒng)的樂高積木是有固定形狀的，比如一個(gè)方塊插進(jìn)另一個(gè)方塊的小孔，結(jié)構(gòu)明確、連接方式也比較確定。但語言中的詞不一樣，我們可以把每個(gè)詞也看作一個(gè)積木，但這個(gè)積木是多維度的，甚至可以說是無數(shù)種可能的，它不僅有一個(gè)基本的形狀（也就是語義核心），還可以根據(jù)上下文不斷地調(diào)整和變化。

你可以想象，每個(gè)詞就像一個(gè)軟性的積木，它不是固定形狀的塑料塊，而是可以根據(jù)它要連接的鄰居詞，自主地變形。每個(gè)詞都有許多形狀奇特的手，如果你想真正理解它的含義，就要看它是如何和其他詞握手的。所謂握手，就是兩個(gè)詞之間在語義或語法上的配合關(guān)系。

而一旦一個(gè)詞的形狀變了（也就是它的語義或語法角色發(fā)生了變化），它和下一個(gè)詞之間的握手方式也會(huì)跟著改變。這就是語言理解的本質(zhì)問題之一：如何讓詞和詞之間以最合適的方式組合在一起，從而表達(dá)出更清晰、更準(zhǔn)確的意思。

我想表達(dá)的觀點(diǎn)是：人類理解語言的方式，和LLM的理解方式，在本質(zhì)上是非常相似的。

所以，人類有可能就是LLM，人類也會(huì)和LLM一樣產(chǎn)生幻覺。

當(dāng)然，LLM和人類在某些方面仍然是不同的，甚至在某些根本性的問題上，它們做得比人類更好。

AI如果超越人類，會(huì)消滅人類嗎？

回到計(jì)算機(jī)科學(xué)的一個(gè)根本性原則：軟硬件要分離。

同樣的程序可以在不同的硬件上運(yùn)行，這正是計(jì)算科學(xué)的基礎(chǔ)。程序是永恒存在的，你可以把所有硬件都?xì)绲簦糗浖嬖?，則內(nèi)容可以復(fù)活。

從這種意義上看，軟件是永生的。

但是人腦是模擬式的，每一次神經(jīng)元激發(fā)的過程都不一樣，我腦中的神經(jīng)元結(jié)構(gòu)不能復(fù)制到你的身上，每個(gè)人的神經(jīng)連接方式是獨(dú)一無二的。

人腦和電腦的「不同」帶來了問題：人腦只有30W功率就能擁有很高智慧，但人腦的知識(shí)無法簡(jiǎn)單轉(zhuǎn)移到另一個(gè)人，解決知識(shí)轉(zhuǎn)移的方法在AI領(lǐng)域中是「知識(shí)蒸餾」。

比如DeepSeek就是采用這種思路，將一個(gè)大型神經(jīng)網(wǎng)絡(luò)中的知識(shí)蒸餾到一個(gè)更小的神經(jīng)網(wǎng)絡(luò)中。

這個(gè)過程很像教師與學(xué)生的關(guān)系：教師在訓(xùn)練過程中，不僅知道正確的答案，還知道詞語之間是如何相互關(guān)聯(lián)、上下文是如何構(gòu)建的。

教師會(huì)嘗試不斷優(yōu)化這些連接方式；而學(xué)生則模仿教師的表達(dá)方式，嘗試說出同樣的話，但不同的是，學(xué)生使用的是更加緊湊、簡(jiǎn)化的網(wǎng)絡(luò)結(jié)構(gòu)。

這個(gè)過程在人類之間也類似，通過對(duì)話聊天，一個(gè)人把知識(shí)傳遞給另一個(gè)人。但這種傳遞的效率是非常有限的。

舉例來說，一句話可能只能包含了大約100個(gè)比特的信息量，這意味著即便你完全聽懂了我的話，我每秒鐘也只能向你傳遞極其有限的信息量。

而相比之下，數(shù)字智能之間傳遞知識(shí)的效率要高很多。

程序可以直接將參數(shù)、權(quán)重、模型結(jié)構(gòu)拷貝或蒸餾過去，不需要解釋、不需要語言中介，也不會(huì)有理解上的偏差。

這種效率的巨大差異，是人類智能與人工智能之間在知識(shí)遷移方面最本質(zhì)的區(qū)別之一。

現(xiàn)在已經(jīng)可以做到這樣的事情：將完全相同的神經(jīng)網(wǎng)絡(luò)模型的軟件，復(fù)制上百個(gè)副本，部署在不同的硬件設(shè)備上。

因?yàn)樗鼈兪菙?shù)字計(jì)算，每一個(gè)副本都會(huì)以相同的方式運(yùn)行，只是基于各自的數(shù)據(jù)輸入、學(xué)習(xí)速率進(jìn)行訓(xùn)練。

這也就是互聯(lián)網(wǎng)的核心力量：可以有成千上萬個(gè)副本，它們彼此之間不斷地調(diào)整各自的權(quán)重，再將這些權(quán)重取平均，就能夠?qū)崿F(xiàn)模型之間的知識(shí)遷移和協(xié)同學(xué)習(xí)。

更重要的是，這種知識(shí)的傳遞可以在每次同步時(shí)分享上萬億個(gè)比特的信息量，而不僅僅像人類每秒只能傳遞幾十或幾百個(gè)比特。

這就意味著，數(shù)字智能之間的知識(shí)分享速度，比人類之間快了幾十億倍。

例如GPT-4能夠在許多不同的硬件上以并行的方式運(yùn)行，收集來自不同網(wǎng)絡(luò)來源的信息，并在它們之間快速傳播和共享。

如果將這種能力擴(kuò)展到現(xiàn)實(shí)世界中的「智能體」中，意義就更加重大了。

當(dāng)多個(gè)智能體能夠運(yùn)行、學(xué)習(xí)，并共享彼此的權(quán)重和經(jīng)驗(yàn)，那么它們學(xué)習(xí)和進(jìn)化的速度將遠(yuǎn)超單個(gè)個(gè)體。

這種跨副本的學(xué)習(xí)和進(jìn)化，是模擬硬件或生物神經(jīng)系統(tǒng)所無法實(shí)現(xiàn)的。

如果未來疊加能源變得足夠便宜的考慮，那么數(shù)字智能將進(jìn)一步擴(kuò)張它的優(yōu)勢(shì)。

我們?nèi)祟惲?xí)慣于認(rèn)為自己是地球上最聰明的生物，因此很多人很難想象：如果有一天，AI的智能超過了人類，會(huì)發(fā)生什么？

現(xiàn)在正在創(chuàng)造的智能體，用于幫助我們完成各種任務(wù)，它們已經(jīng)具備了自我復(fù)制、設(shè)定子目標(biāo)和評(píng)估目標(biāo)優(yōu)先級(jí)的能力。

在這樣的系統(tǒng)中，AI自然而然地會(huì)產(chǎn)生兩個(gè)基本動(dòng)機(jī)：

1. 生存：持續(xù)保持運(yùn)行，從而完成它的目標(biāo)。

2. 獲取更多權(quán)利：獲得更多資源與權(quán)限，也為了更有效地實(shí)現(xiàn)它的目標(biāo)。

當(dāng)具備了這兩個(gè)動(dòng)機(jī)之后，這些智能體將不再是被動(dòng)的工具，而是主動(dòng)的系統(tǒng)。人類可能無法再簡(jiǎn)單地「把它們關(guān)掉」了。

因?yàn)橐坏┧鼈兊闹悄芩竭h(yuǎn)超人類，它們將會(huì)像成年人操縱三歲小孩一樣輕松地操縱我們。

現(xiàn)在發(fā)展AI，就像你養(yǎng)了一個(gè)只可愛的小虎崽，當(dāng)它長(zhǎng)大后，如果它想，可以輕易的殺死你。

你只有兩個(gè)選擇：要么找到一種方法把它馴化好；要么擺脫它。

但AI不可能像小老虎被「干掉」那么簡(jiǎn)單。

AI是有巨大價(jià)值的：在醫(yī)療、教育、氣候、新材料等方面，它表現(xiàn)都非常出色，它能幫助幾乎所有行業(yè)變得更高效。

我們沒有辦法消除AI，即使一個(gè)國家消除AI，其他國家也不會(huì)這樣做。

如果想要人類生存的話，就必須找到一個(gè)方法，讓AI不會(huì)消除人類。

我這里有一個(gè)我自己的觀點(diǎn)：國家之間在某些方面可能無法達(dá)成一致，比如致命武器、網(wǎng)絡(luò)攻擊、偽造視頻等等，畢竟各國的利益是不一致的，他們有著不同的看法。

但在有的方面，世界各國是可以達(dá)成一致的，這也是最重要的方面。

回顧一下上世紀(jì)50年代的冷戰(zhàn)巔峰時(shí)期，美國和蘇聯(lián)合作阻止了核戰(zhàn)爭(zhēng)。

盡管他們?cè)诤芏喾矫娑际菍?duì)抗的，但大家都不喜歡打核戰(zhàn)爭(zhēng)，在這一點(diǎn)上他們可以合作。

人類現(xiàn)在的局面是，沒有一個(gè)國家希望AI來統(tǒng)治世界，如果有一個(gè)國家發(fā)現(xiàn)了阻止AI失控的方法，那么這個(gè)國家肯定會(huì)很樂意擴(kuò)展這種方法。

所以我們希望能夠有一個(gè)由AI安全機(jī)構(gòu)構(gòu)成的國際社群來研究技術(shù)、訓(xùn)練 AI，讓AI向善發(fā)展。

訓(xùn)練AI向善的技巧和訓(xùn)練AI聰明的技術(shù)是不一樣的，每個(gè)國家可以做自己的研究讓AI向善，可以基于數(shù)據(jù)主權(quán)進(jìn)行研究，最終貢獻(xiàn)、分享出讓AI向善的成果。

我有一個(gè)提議，全球發(fā)展AI的主要國家應(yīng)該考慮構(gòu)建一個(gè)網(wǎng)絡(luò)，來研究讓這個(gè)聰明的 AI不消滅人類、不統(tǒng)治世界，而是讓它很高興地做輔助工作，盡管AI比人類聰明很多。

人類現(xiàn)在還不知道怎么去做這件事，但從長(zhǎng)遠(yuǎn)看，這可能是人類最重要的議題。

而好消息是，這個(gè)問題是全人類可以團(tuán)結(jié)起來共同面對(duì)的。

【免責(zé)聲明】轉(zhuǎn)載出于非商業(yè)性的教育和科研目的，只為學(xué)術(shù)新聞信息的傳播，版權(quán)歸原作者所有，如有侵權(quán)請(qǐng)立即與我們聯(lián)系，我們將及時(shí)刪除。

免責(zé)聲明：素材來源于網(wǎng)絡(luò)，版權(quán)歸原作者所有，如有侵權(quán)請(qǐng)聯(lián)系刪除

點(diǎn)亮和

為家鄉(xiāng)的發(fā)展加油點(diǎn)贊！

真實(shí)、客觀、公平、公正

大堤人自己的信息平臺(tái)

此處按一下又不會(huì)懷孕

好看的老鄉(xiāng)們已經(jīng)關(guān)注了