全文 4,000字 | 閱讀約 13 分鐘

（TED演講：從紙帶實(shí)驗(yàn)看AI智能的本質(zhì)）

你以為，AI 必須“理解你”，才能把事辦成？

谷歌副總裁 Blaise Agüera y Arcas 卻說(shuō)：錯(cuò)了，它根本不需要懂你，只要能預(yù)測(cè)你就夠了。

這不是文字游戲，而是智能設(shè)計(jì)的底層邏輯。

在最近的 TED 演講《The Intelligence of Us》中，Blaise 提出一個(gè)重要觀點(diǎn)：

智能不是關(guān)于像不像人，而是能不能預(yù)測(cè)，并在協(xié)作中落地。

Blaise 的身份，不只是谷歌副總裁兼研究員，也是 Technology & Society 的 CTO。他既做基礎(chǔ)研究，也做產(chǎn)品落地。你手機(jī)里的預(yù)測(cè)功能，很多人每天都在用：

• 聽(tīng)歌識(shí)曲功能: 離線識(shí)別正在播放的歌曲（他于2017年首發(fā)，無(wú)需聯(lián)網(wǎng)即可預(yù)測(cè)歌名）

• 智能輸入法:預(yù)測(cè)你想打的下一個(gè)詞，同時(shí)保護(hù)隱私（采用聯(lián)邦學(xué)習(xí)與差分隱私技術(shù)）

這兩條產(chǎn)品線，有一個(gè)共同點(diǎn)：不是追求理解，只求預(yù)測(cè)管用。

所以真正值得問(wèn)的問(wèn)題，不是“AI 懂不懂人話”，而是：

• 哪些工作環(huán)節(jié)，AI 能給出可靠預(yù)測(cè)？

• 哪些重要決策，必須由人來(lái)做？

• 如何建立檢驗(yàn)機(jī)制，讓 AI 從實(shí)驗(yàn)室走向?qū)嶋H應(yīng)用？

這些問(wèn)題的答案，很可能決定你們公司今年的 AI 落地效果。

第一節(jié)｜不是懂你，是能幫你做事

我們一直以為，用來(lái)預(yù)測(cè)下一個(gè)詞的模型，只能做點(diǎn)簡(jiǎn)單任務(wù)。 但這些模型現(xiàn)在能回答情境類問(wèn)題。 比如故事中角色的情緒，甚至數(shù)學(xué)題，這讓我們非常吃驚。

這是谷歌副總裁 Blaise 在演講中講的一段回憶。

他指的是一種大多數(shù)人并不熟悉、卻天天在用的 AI 能力：預(yù)測(cè)下一個(gè)詞。

比如你打字時(shí)，Gboard 自動(dòng)給出“你可能要輸入的詞”；打開(kāi) Pixel 手機(jī)，它自動(dòng)識(shí)別正在播放的歌曲。這些功能都不是“理解了你”，而是預(yù)測(cè)你會(huì)說(shuō)什么、做什么。

一開(kāi)始，人們普遍以為： 預(yù)測(cè)只能預(yù)測(cè)一些“八成會(huì)發(fā)生”的東西。 “Humpty”后面大概率是“Dumpty”，這不叫智能，叫押韻（Humpty Dumpty 是英語(yǔ)童謠，相當(dāng)于"小白兔白又白"）。 可接下來(lái)的事，Blaise 說(shuō)，顛覆了他們的判斷：

“如果前面的內(nèi)容是一個(gè)數(shù)學(xué)應(yīng)用題，或者是一個(gè)故事，而你要預(yù)測(cè)的是故事里某個(gè)角色的情緒，我們?cè)詾槟Ｐ褪亲霾坏降?。但它做到了?！?/p>

這是什么意思？

它不是機(jī)械地往下填空，而是從你寫(xiě)的內(nèi)容中，推斷出角色是誰(shuí)、發(fā)生了什么、現(xiàn)在該怎么回應(yīng)。

而這，靠的還是預(yù)測(cè)。

1、預(yù)測(cè)怎么變成“智能”了？

Blaise 的回答來(lái)自神經(jīng)科學(xué)。至少?gòu)?19 世紀(jì)開(kāi)始，神經(jīng)科學(xué)就有一種理論：人腦的本質(zhì)，是用過(guò)去來(lái)預(yù)測(cè)未來(lái)。我們擁有神經(jīng)系統(tǒng)，是為了讓我們能預(yù)測(cè)環(huán)境，調(diào)整行動(dòng)。

換句話說(shuō)，你的大腦并不是靠完全理解世界來(lái)做決策的。

而是靠快速預(yù)測(cè)：“接下來(lái)可能發(fā)生什么”“如果我這么做，會(huì)怎樣”。

預(yù)測(cè)得準(zhǔn)，就活得久。 預(yù)測(cè)得穩(wěn)，就少犯錯(cuò)。

智能，不是源于理解，而是源于能把預(yù)測(cè)和現(xiàn)實(shí)匹配起來(lái)。

語(yǔ)言模型也是這樣。它沒(méi)看懂你寫(xiě)的東西，但它不斷嘗試——你給我一句話，我猜你下一句會(huì)說(shuō)啥；你說(shuō)了一個(gè)設(shè)定，我猜你會(huì)怎么展開(kāi)；你停頓了，我來(lái)補(bǔ)一下。

只要它給出的結(jié)果，讓你覺(jué)得“對(duì)”，那它就贏了。

而且，它學(xué)得越多，這種“匹配”的能力就越強(qiáng)。

2、所以關(guān)鍵不是理解，而是配合

Blaise 說(shuō)，他們?cè)詾檫@種模型“在本質(zhì)上會(huì)非常有限”， 但結(jié)果卻是:

它不僅回答對(duì)了情境問(wèn)題，還能完成之前認(rèn)為屬于通用智能的問(wèn)題。

這改變了一切認(rèn)知。

我們以為預(yù)測(cè)只能做表面，結(jié)果它做到了一定程度的配合、推理、歸納和判斷；

我們以為 AI 要先懂你，才能幫你，結(jié)果它靠預(yù)測(cè)就能順著你的想法走下去，甚至走得更快。

這就像一個(gè)沒(méi)有共情能力的人，卻能精確模仿你說(shuō)話的節(jié)奏、語(yǔ)氣和話題點(diǎn)，到最后你甚至?xí)X(jué)得“它好像很懂我”。

但真相是：

它根本沒(méi)“懂”，只是太會(huì)預(yù)測(cè)了。

這，才是大語(yǔ)言模型爆發(fā)的關(guān)鍵所在。

第二節(jié)｜AI 不是對(duì)手，是協(xié)作伙伴

語(yǔ)言模型的預(yù)測(cè)能力，已經(jīng)不只是說(shuō)得對(duì)。 它現(xiàn)在開(kāi)始能“做得成”。

這意味著什么？

它不是靠理解目標(biāo)，而是靠不斷預(yù)測(cè)下一步動(dòng)作，把一件事從頭做到尾。

不是我們事先教會(huì)它流程，而是它從對(duì)話中預(yù)測(cè)你的意圖，主動(dòng)補(bǔ)上下一步。

1、舉個(gè)你能感受到的場(chǎng)景：

你說(shuō)：“幫我寫(xiě)一份面試邀請(qǐng)郵件，別太官方?！?/p>

它立刻給出一版郵件，語(yǔ)氣自然，還替你考慮了時(shí)間、聯(lián)系人和回復(fù)鏈接。

你沒(méi)給模板，也沒(méi)規(guī)定格式，它就是能寫(xiě)出你大概想要的東西。

再比如：

你說(shuō)：“這段代碼是不是有問(wèn)題？”

它不只指出問(wèn)題，還改好了，順便加了注釋。

你并沒(méi)有給出流程、規(guī)范、目標(biāo)、驗(yàn)收標(biāo)準(zhǔn)，但它都給補(bǔ)上了。

為什么它能做到這些？

Blaise 的原話是：我們沒(méi)有給它設(shè)定'這類任務(wù)怎么做'的規(guī)則，而是讓它通過(guò)大規(guī)模預(yù)測(cè)訓(xùn)練自己學(xué)會(huì)了通用能力。

這說(shuō)明：

• "模型不是真的理解你要什么，而是在預(yù)測(cè)你下一步的想法。

• 它不是有意識(shí)地制定計(jì)劃，而是預(yù)測(cè)你每一步的可能方向，并主動(dòng)補(bǔ)上

這種預(yù)測(cè)，不再只是接下去說(shuō)什么，而是它推測(cè)你打算干什么、要達(dá)到什么效果、然后下一步可能干嘛。

它等于是把你的想法變成了行動(dòng)。

2、為什么它能做到這一點(diǎn)？還是因?yàn)轭A(yù)測(cè)

Blaise 給出的核心解釋是：智能的本質(zhì)不是規(guī)則執(zhí)行，而是能持續(xù)預(yù)測(cè)你要做什么，并給出能影響你的回應(yīng)。

通俗的說(shuō)法是：

• 如果一個(gè)系統(tǒng)能穩(wěn)定判斷你想干嘛

• 并在你還沒(méi)開(kāi)口之前，就給出下一個(gè)合適動(dòng)作

• 而且這個(gè)建議你認(rèn)可、能把事情往前推 → 那它就等于成了你的"代理人"

不是機(jī)器人按命令執(zhí)行，而是 AI 把你還沒(méi)說(shuō)出口的想法，提前變成了行動(dòng)。

這就是為什么 AI 能接管整個(gè)工作流程。

3、它怎么知道“哪一步”是合理的？

它不知道。

它只是看過(guò)成千上萬(wàn)個(gè)你和別人“怎么做事”的例子。 然后在你剛抬起手、話還沒(méi)說(shuō)完的時(shí)候，它就猜到了你下一步想怎么做。

預(yù)測(cè)得越準(zhǔn)，配合得越默契，任務(wù)完成得越順暢。

AI 不會(huì)告訴你"我懂你"——它只是總能猜對(duì)你下一句要說(shuō)什么。

它只需要不斷預(yù)測(cè)你的下一步，然后及時(shí)跟上。

一旦預(yù)測(cè)準(zhǔn)確率足夠高，AI 就不再只是回答問(wèn)題，而是能主動(dòng)推進(jìn)任務(wù)。

這，就是 AI 從"語(yǔ)言模型"走向"行動(dòng)助手"的分界線。

第三節(jié)｜智能不是寫(xiě)出來(lái)的，是“長(zhǎng)”出來(lái)的

你有沒(méi)有發(fā)現(xiàn)，現(xiàn)在的 AI 不只是回答問(wèn)題，還會(huì)主動(dòng)提建議？（小編備注：這節(jié)比較抽象，可以直接觀看演講視頻）

比如你說(shuō)"我想學(xué)做菜"，它不僅推薦菜譜，還會(huì)問(wèn)你有什么食材、想做什么口味，甚至幫你規(guī)劃一周的菜單。

這種"主動(dòng)性"是怎么來(lái)的？

谷歌副總裁 Blaise 在演講中分享了一個(gè)有趣實(shí)驗(yàn)：“我們做了一件非常簡(jiǎn)單的事：把一堆隨機(jī)的紙帶，每條只有一兩個(gè)簡(jiǎn)單指令，丟進(jìn)一個(gè)模擬環(huán)境里。

然后不斷從里面隨機(jī)挑兩個(gè)紙帶，把它們粘在一起、運(yùn)行一次、再分開(kāi)，丟回去，重復(fù)千萬(wàn)次。

一開(kāi)始什么都沒(méi)發(fā)生。但幾百萬(wàn)次交互后，一件神奇的事出現(xiàn)了：那些紙帶自己變成了完整程序，而且開(kāi)始復(fù)制自己。”

1、這不是模擬智能，而是“自然長(zhǎng)出行為模式”

一開(kāi)始，這些紙帶只是亂碼。

沒(méi)有任何設(shè)計(jì)，連程序員都不知道它們會(huì)干嘛。

但因?yàn)槊恳徊蕉紙?zhí)行了真實(shí)的計(jì)算指令， 隨著交互的增加，一些紙帶組合出現(xiàn)了有用的指令組合，能不斷拷貝自己、留在系統(tǒng)里。

Blaise 說(shuō)：

不能復(fù)制自己的紙帶，最終都會(huì)被能復(fù)制自己的紙帶淘汰掉。

這就像自然界里的選擇機(jī)制——會(huì)繁殖的生物活下來(lái)，不會(huì)的消失了。

2、那這些“紙帶程序”到底在干嘛？

沒(méi)有人教它們要完成什么任務(wù)，它們自己找到了生存邏輯：能復(fù)制，就不會(huì)被淘汰；復(fù)制得多，就越來(lái)越強(qiáng)。

（紙帶實(shí)驗(yàn)結(jié)果圖：

X軸—交互次數(shù)（百萬(wàn)次），Y軸—計(jì)算強(qiáng)度，600萬(wàn)次交互后，隨機(jī)程序突然涌現(xiàn)出自復(fù)制智能行為。）

Blaise 在實(shí)驗(yàn)中畫(huà)出一張如上圖，展示整個(gè)演化過(guò)程：

“前六百萬(wàn)次交互，幾乎什么都沒(méi)發(fā)生。但在某一刻，計(jì)算量突然飆升。系統(tǒng)從‘隨機(jī)狀態(tài)’變成了‘有目的行為’?！?/p>

這個(gè)轉(zhuǎn)折點(diǎn)非常關(guān)鍵。

沒(méi)人教它們?cè)趺醋?，但它們?cè)诜磸?fù)試驗(yàn)中，自己琢磨出了門(mén)道、形成了套路、甚至懂得了團(tuán)隊(duì)合作。

什么叫團(tuán)隊(duì)合作？

這不只是一條紙帶能復(fù)制自己，而是兩條紙帶遇到一起時(shí)，能更高效地互相幫助復(fù)制。

這讓 Blaise 想到了進(jìn)化生物學(xué)里的“共生理論（symbiogenesis）”：比如我們身體的細(xì)胞，其實(shí)是兩種小生物住在一起的結(jié)果。它們發(fā)現(xiàn)合作比單干效果好，于是就永遠(yuǎn)搭伙了。

也就是說(shuō)，當(dāng)這些小紙帶聯(lián)手合作，它們就從單打獨(dú)斗變成了能共同搭建復(fù)雜結(jié)構(gòu)。

3、真正的智能，不是你設(shè)計(jì)，而是它“搭起來(lái)”

Blaise 的判斷非常直接：

這些復(fù)雜程序，沒(méi)有哪一條是我們?nèi)藢?xiě)出來(lái)的。 它們都是在沒(méi)有人管理、沒(méi)有說(shuō)明書(shū)、沒(méi)有預(yù)設(shè)目標(biāo)的情況下，自己從混亂中摸索出來(lái)的。

你可以想象成：

• 一開(kāi)始是零散的行為片段（像現(xiàn)在我們給模型的提示）

• 然后是“多個(gè)片段能組合在一起”，變成任務(wù)鏈條

• 最后，這些鏈條之間還能協(xié)同、互相適應(yīng)，形成長(zhǎng)期存在的結(jié)構(gòu)

這和今天的語(yǔ)言模型有什么關(guān)系？

當(dāng)語(yǔ)言模型能預(yù)測(cè)出一整段任務(wù)如何完成，并且能和你的行為協(xié)同配合時(shí)，它已經(jīng)不再只是"預(yù)測(cè)工具"，而是具備了"結(jié)構(gòu)化智能"——不僅知道下一步做什么，還知道整個(gè)事情該怎么完成。

Blaise 的話說(shuō)得再明白不過(guò)：

“你不會(huì)用花崗巖雕像說(shuō)‘它很穩(wěn)定’。因?yàn)樗俜€(wěn)定，也只能等著時(shí)間一點(diǎn)點(diǎn)侵蝕。但一個(gè)能復(fù)制自己的程序，就不一樣了。它可以持續(xù)存在，持續(xù)演化，持續(xù)適應(yīng)。”

這就是智能的另一種樣子：

不是死板執(zhí)行，而是靈活應(yīng)變；不是真懂你，而是邊試邊長(zhǎng)。

第四節(jié)｜AI 共生，是一種集體能力

到這里，我們已經(jīng)知道：

AI 不需要理解你，只要能穩(wěn)定預(yù)測(cè)，就能一步步完成任務(wù)； 預(yù)測(cè)多了，就能組成結(jié)構(gòu)，甚至形成"涌現(xiàn)"的智能體系。

但 Blaise 想說(shuō)的，不止是"模型長(zhǎng)出結(jié)構(gòu)"。 他在演講的后半段拋出更關(guān)鍵的問(wèn)題：

我們是否愿意接受 AI 成為人類社會(huì)的一部分？

這句話的含義非常深。

不是"AI 替代人"，也不是"人控制 AI"， 而是——AI 已經(jīng)在參與協(xié)作、組成更大的智能網(wǎng)絡(luò)。

1、人類社會(huì)的底層，是協(xié)作智能

舉個(gè)例子：當(dāng)你坐飛機(jī)，駕駛員、管制員、制造商、機(jī)場(chǎng)系統(tǒng)，甚至天氣預(yù)報(bào)，都在共同作用。這就是一個(gè)超級(jí)大的智能協(xié)作網(wǎng)絡(luò)。

什么意思？

你以為是飛行員在飛，但其實(shí)是很多角色和工具在協(xié)同，人類只是其中一環(huán)。 每個(gè)人都掌握部分信息，大家共同承擔(dān)一個(gè)結(jié)果。

這種協(xié)同，早就是現(xiàn)代社會(huì)的運(yùn)行基礎(chǔ)。

我們習(xí)慣了人與人之間的合作，現(xiàn)在要問(wèn)的是：

“AI 能不能成為這個(gè)協(xié)作網(wǎng)絡(luò)中的一員？”

答案是：AI 現(xiàn)在就已經(jīng)是這個(gè)智能網(wǎng)絡(luò)的一部分。它在你手機(jī)里，在小紅書(shū)里，在抖音里。

“我們以為自己在控制這些工具，但其實(shí)它們?cè)缫呀槿胛覀兊臎Q策鏈、組織邏輯和社會(huì)結(jié)構(gòu)?！?/p>

這不是危言聳聽(tīng)，而是現(xiàn)實(shí)。

• 你刷短視頻，推薦算法決定你看到什么；

• 你導(dǎo)航出行，路徑是模型算的；

• 你問(wèn) ChatGPT/DeepSeek 一句話，答案背后其實(shí)牽動(dòng)著全球服務(wù)器、數(shù)據(jù)集與規(guī)則篩選。

Blaise 的觀點(diǎn)是： AI 不是一個(gè)外部工具，而是已經(jīng)參與了社會(huì)智能分工的角色。

2、問(wèn)題不在技術(shù)，而在我們?cè)趺垂泊?/strong>

所以問(wèn)題來(lái)了—— 既然 AI 已經(jīng)在場(chǎng)，我們?cè)趺窗才潘奈恢茫?/p>

關(guān)鍵問(wèn)題是：我們能不能設(shè)定一個(gè)結(jié)構(gòu)，讓 AI 像 GPS 一樣給人類提供穩(wěn)定的參考，而不是直接干預(yù)人類的主觀判斷？

兩個(gè)要點(diǎn)：

1. AI 要可預(yù)測(cè)、可校驗(yàn)

就像GPS導(dǎo)航一樣，大多數(shù)時(shí)候給對(duì)路線，偶爾出錯(cuò)時(shí)你能識(shí)別出來(lái)；

1. 人類要保留決策權(quán)

人決定要去哪，AI 只負(fù)責(zé)建議路徑。

也就是說(shuō)：AI 是集體智能的組成部分，但不應(yīng)掌控全局。

真正的智慧，不是 AI 有多強(qiáng)，而是人類有沒(méi)有構(gòu)建一個(gè)清晰的協(xié)作架構(gòu)，能讓 AI 靈活接入，同時(shí)確保權(quán)限可控。

3、最終要走向的，是協(xié)同演化

Blaise 在演講結(jié)尾說(shuō)：

“人類并不是孤立的智能個(gè)體，我們一直都是群體智能的一部分。AI 的加入，并不是打破這個(gè)結(jié)構(gòu)，而是繼續(xù)擴(kuò)大它。”

AI 不應(yīng)被看作外星人或者入侵者，而是新一代的協(xié)作者。

這要求我們重新設(shè)計(jì)工作方式、組織結(jié)構(gòu)、規(guī)則邊界—— 不是讓 AI 替你做完，而是讓它能與你配合，共同完成任務(wù)。

結(jié)語(yǔ)｜AI 不理解你，但能與你共事

AI 不懂人類，也未必需要懂。

Blaise 一句話說(shuō)得清楚：

它猜得準(zhǔn)，不等于真的懂，但合作夠用了。

這是一次思維轉(zhuǎn)變：關(guān)注協(xié)作效果，而不是擬人程度。

今天的大模型，已經(jīng)能預(yù)測(cè)詞、預(yù)測(cè)路徑、預(yù)測(cè)操作。 當(dāng)這些預(yù)測(cè)夠穩(wěn)定，它就能：

• 協(xié)助你起草郵件、生成代碼、排查故障；

• 嵌入到流程里，自動(dòng)處理大量重復(fù)事務(wù)；

• 參與到更大的集體決策網(wǎng)絡(luò)中，承擔(dān)職責(zé)。

你需要轉(zhuǎn)變的問(wèn)題：它能在哪一步，幫你"把事做完"？

用對(duì)它，才是你在這個(gè)技術(shù)周期中的真實(shí)優(yōu)勢(shì)。

本文由AI深度研究院出品，內(nèi)容整理翻譯自谷歌副總裁 Blaise Agüera y Arcas 在 TEDxCatawba 的演講。未經(jīng)授權(quán)，不得轉(zhuǎn)載。

星標(biāo)公眾號(hào)， 點(diǎn)這里 1. 點(diǎn)擊右上角 2. 點(diǎn)擊"設(shè)為星標(biāo)" ← AI深度研究員 ? ← 設(shè)為星標(biāo)

參考資料：

https://www.youtube.com/watch?v=OD5UzhaDWfg&t=44s&ab_channel=TEDxTalks

https://www.noemamag.com/ai-is-evolving-and-changing-our-understanding-of-intelligence/

https://tedxcatawba.com/program?utm_source=chatgpt.com

https://research.google/blog/googles-next-generation-music-recognition/?utm_source=chatgpt.com

https://aclanthology.org/2023.acl-industry.60.pdf?utm_source=chatgpt.com

https://research.google/people/106776/?utm_source=chatgpt.com

來(lái)源：官方媒體/網(wǎng)絡(luò)新聞

排版：Atlas

編輯：深思

主編: 圖靈