全文 3,000字 | 閱讀約 8 分鐘

（Sam Altman：AI 能力遠(yuǎn)超大眾認(rèn)知）

“AI 已經(jīng)比人類(lèi)聰明了?！?/p>

OpenAI CEO Sam Altman 在最新的公開(kāi)訪(fǎng)談中說(shuō)這句話(huà)時(shí)，用的是陳述語(yǔ)氣，不是預(yù)測(cè)。

他的原話(huà)是：“今年，AI 變得比我們更聰明了。這是個(gè)重大時(shí)刻。生活還在繼續(xù)，但有些根本性的東西改變了?！?/p>

但大多數(shù)人對(duì) AI 的認(rèn)知，還停留在ChatGPT 是個(gè)聊天工具的階段。

Altman 在訪(fǎng)談中反復(fù)提到一個(gè)場(chǎng)景： 起初，你問(wèn) ChatGPT 問(wèn)題，它給建議，你有時(shí)采納。 后來(lái)它變得更聰明，建議幾乎總是對(duì)的，你開(kāi)始依賴(lài)它。 再后來(lái)，它給出的建議你已經(jīng)不理解了，但結(jié)果證明仍然正確。這時(shí)你面臨選擇：要么跟隨你不理解的建議保持競(jìng)爭(zhēng)力，要么被同齡人甩開(kāi)。

而世界上數(shù)億人每天都在重復(fù)這個(gè)過(guò)程。每一次對(duì)話(huà)、每一個(gè)選擇，都在成為它下一代模型的訓(xùn)練數(shù)據(jù)。

這就是 Altman 真正想說(shuō)的： AI 的問(wèn)題不再是“它能做什么”，而是“我們與它的關(guān)系正在如何改變”。

我們以為自己在使用工具。 實(shí)際上，我們正在無(wú)意識(shí)地訓(xùn)練一個(gè)正在接管決策權(quán)的系統(tǒng)。 而這一切，發(fā)生得如此自然，以至于多數(shù)人還沒(méi)察覺(jué)。

第一節(jié)｜它比你聰明，你還當(dāng)它是工具

Sam Altman 開(kāi)門(mén)見(jiàn)山地說(shuō)了這樣一句話(huà)：

“我們現(xiàn)在已經(jīng)有了能在最難智力競(jìng)賽中擊敗最聰明人類(lèi)的系統(tǒng)。但大多數(shù)人對(duì) AI 的認(rèn)知，還停留在使用 ChatGPT 的階段?！?/p>

這不是在預(yù)測(cè)未來(lái)，而是在描述現(xiàn)在。 他想傳達(dá)的重點(diǎn)，是一個(gè)巨大的認(rèn)知差距。

不是 AI 能力不夠強(qiáng)，而是它的真實(shí)能力，遠(yuǎn)超出了普通用戶(hù)的日常感知。

為什么你感受不到？

因?yàn)檫@些能力，并不是通過(guò)炫技展示的，而是悄悄融入到日常體驗(yàn)中。

它可能已經(jīng)幫你寫(xiě)過(guò)一段代碼、改過(guò)一封郵件、生成過(guò)一次旅行計(jì)劃。 你只覺(jué)得“還挺方便”，卻沒(méi)意識(shí)到：它比你更懂完成這類(lèi)任務(wù)的方法。

這也是 Altman 最強(qiáng)調(diào)的一點(diǎn)：

AI 的進(jìn)步速度，遠(yuǎn)遠(yuǎn)超過(guò)了人類(lèi)社會(huì)適應(yīng)它的速度。

不是 AI 太快，而是我們太慢。

人類(lèi)對(duì) AI 的認(rèn)知，還停留在“我問(wèn)它答”的階段，但 AI 已經(jīng)進(jìn)入了“我猜你要問(wèn)”的階段。

換句話(huà)說(shuō)，但 AI 已經(jīng)進(jìn)入了另一個(gè)階段：

它在觀察你的行為，學(xué)習(xí)你的偏好，提前準(zhǔn)備你可能需要的答案。

第二節(jié)｜你沒(méi)意識(shí)到，其實(shí)你每天都在“教”AI

Sam Altman 在訪(fǎng)談中反復(fù)強(qiáng)調(diào)一件事： 人類(lèi)不是在使用 AI，而是在“訓(xùn)練”AI。

人們?cè)谏詈凸ぷ髦校絹?lái)越依賴(lài) AI 做重要決策。每一次使用，每一次反饋，都變成了它學(xué)習(xí)的素材。

這就是 AI 工作的底層邏輯。

舉個(gè)例子：你在用 ChatGPT 搜電影推薦時(shí)，點(diǎn)了其中一個(gè)； 你寫(xiě)郵件時(shí)，它給了你三種語(yǔ)氣，你選了“更溫和”的； 你問(wèn)它工作建議，雖然不全認(rèn)同，但你最后還是聽(tīng)了它的做法。

這些看似普通的小動(dòng)作，正在一點(diǎn)點(diǎn)告訴 AI：哪種風(fēng)格更受歡迎？哪個(gè)回答更有用？什么被采納，什么被忽略？

它沒(méi)有“心”，但有非常高效的“記性”和“歸納能力”。 你的選擇，就是它的學(xué)習(xí)素材。

Altman 甚至說(shuō)：

“我們不是告訴 AI 該怎么做，而是它在看我們?cè)趺催x，然后自己學(xué)。”

這才是當(dāng)下最被低估的一點(diǎn)。

不是你在用 AI，而是你在教 AI 怎么理解你所在的世界。

• 你選哪條回答，它就記住這類(lèi)表達(dá)可能是“好答案”；

• 你點(diǎn)贊一段內(nèi)容，它就默認(rèn)那種角度更“有價(jià)值”；

• 你越頻繁使用，它越快明白你想要什么。

就像 Altman 說(shuō)的：

“我們不是在告訴 AI 該怎么做，而是它在看我們?cè)趺催x，然后自己學(xué)。我們正在進(jìn)入一個(gè)新的反饋循環(huán)，模型學(xué)習(xí)人類(lèi)的選擇，人類(lèi)又被模型訓(xùn)練過(guò)的內(nèi)容所影響?！?/p>

這才是當(dāng)下最容易被忽視的事實(shí)：

你的點(diǎn)贊、你的選擇、你的使用習(xí)慣，連同其他所有人的，一起塑造著下一代 AI。

它會(huì)變成什么樣，取決于我們今天教了它什么。

第三節(jié)｜它沒(méi)有動(dòng)機(jī)，但你已經(jīng)開(kāi)始照它說(shuō)的去做

Sam Altman 在這次訪(fǎng)談中，提出了一個(gè)容易被忽視的風(fēng)險(xiǎn)： “我們真正該擔(dān)心的，不是 AI 想做什么，而是它說(shuō)了什么我們就聽(tīng)什么。”

這是他對(duì) AI 風(fēng)險(xiǎn)的第三種分類(lèi)。

前兩種風(fēng)險(xiǎn)你可能聽(tīng)過(guò)：

第一種：壞人用 AI 做壞事，比如制造病毒、發(fā)動(dòng)攻擊；

第二種：AI 變得太強(qiáng)，開(kāi)始不聽(tīng)人類(lèi)的，走上“失控路線(xiàn)”。

這兩種像電影情節(jié)一樣刺激，大家都在討論。 但 Altman 說(shuō)，最容易被忽略的，反而是第三種。

這種情況不嚇人，也不激烈，但最可能真實(shí)發(fā)生：

AI 沒(méi)有任何意圖，也不會(huì)“叛變”，它只是不斷給出建議，而這些建議總是對(duì)的。漸漸地，你就開(kāi)始什么都聽(tīng)它的。

想象一個(gè)場(chǎng)景：

你問(wèn) AI 一份商業(yè)策劃的建議， 它列了五點(diǎn)，其中三點(diǎn)你覺(jué)得很合理，另兩點(diǎn)你不太懂。 但你看著它這么自信地寫(xiě)出來(lái)，而且過(guò)去幾次它給的建議也確實(shí)有效， 于是你照做了。

幾次之后，它給出的內(nèi)容你已經(jīng)完全看不懂了，但你依然照做，因?yàn)樗罢f(shuō)的都對(duì)。

Altman 表示：

“我們開(kāi)始接受 AI 給出的答案，哪怕我們不明白它為什么這么說(shuō)?！?/p>

這不是 AI 控制你，而是你慢慢把選擇權(quán)交給了一個(gè)你不理解的東西。

它沒(méi)有動(dòng)機(jī)，也不需要控制任何人。

但結(jié)果是：我們正在把越來(lái)越多的判斷權(quán)，交給一個(gè)我們不完全理解的系統(tǒng)。

第四節(jié)｜ 你現(xiàn)在的選擇，正在決定 AI 的未來(lái)

前三節(jié)講的是一個(gè)正在發(fā)生的事實(shí)： AI 已經(jīng)比我們聰明，我們每天在無(wú)意識(shí)地訓(xùn)練它，而我們正在把越來(lái)越多的判斷權(quán)交給一個(gè)不完全理解的系統(tǒng)。

這聽(tīng)起來(lái)像是一條單行道。

但 Altman 在訪(fǎng)談中反復(fù)強(qiáng)調(diào)的是：我們還有時(shí)間窗口。

不是說(shuō)“一切都很美好”，而是說(shuō)如果現(xiàn)在意識(shí)到這個(gè)過(guò)程，還來(lái)得及影響方向。

他提到 OpenAI 早期的一個(gè)討論： 當(dāng)被問(wèn)到如果 AI 真的變得比我們更聰明，它該扮演什么角色，聯(lián)合創(chuàng)始人 Ilya Sutskever 給出的答案是： “我們希望超級(jí)智能像慈愛(ài)的父母對(duì)待孩子那樣對(duì)待人類(lèi)?！?/p>

Sam Altman 認(rèn)為這個(gè)比喻抓住了關(guān)鍵。

但他也清楚，這不是 AI 的默認(rèn)設(shè)定，而是需要我們主動(dòng)塑造的方向。 問(wèn)題在于：AI 會(huì)成為什么樣，取決于我們現(xiàn)在如何使用它、如何訓(xùn)練它。

第二節(jié)說(shuō)過(guò)，你每一次使用都在訓(xùn)練 AI。

第三節(jié)說(shuō)過(guò)，你正在把判斷權(quán)交給它。

但這不意味著你只能被動(dòng)接受。

Altman 的觀點(diǎn)是：我們現(xiàn)在的行為，正在定義 AI 的未來(lái)性格。如果我們希望它有同理心、懂得克制，那么我們自己就要在使用它的過(guò)程中體現(xiàn)這些價(jià)值觀。

這不是說(shuō) AI 會(huì)有“人性”，而是說(shuō)： 你喂給它什么樣的數(shù)據(jù)、你獎(jiǎng)勵(lì)什么樣的回答、你容忍什么樣的建議，最終會(huì)塑造它的行為模式。

Sam Altman 說(shuō)“溫暖的 AI”“有同理心的 AI”時(shí)，他不是在描繪科幻烏托邦，而是在提醒：如果我們不主動(dòng)參與塑造，AI 就會(huì)被其他人的價(jià)值觀塑造。

這個(gè)選擇權(quán)現(xiàn)在還在我們手中。

但窗口期不會(huì)太長(zhǎng)。

結(jié)語(yǔ)｜你的選擇，正在塑造它的未來(lái)

如果說(shuō)過(guò)去幾年，我們最常問(wèn)的問(wèn)題是：

“AI 會(huì)不會(huì)變得太強(qiáng)？”

那 Altman 這次想說(shuō)的，是另一個(gè)問(wèn)題：

“AI 的問(wèn)題不是它想做什么，而是我們正在如何使用它?！?/p>

它已經(jīng)比我們聰明，但大多數(shù)人還把它當(dāng)聊天工具。

我們以為在用工具，實(shí)際上每一次點(diǎn)贊、每一個(gè)選擇，都在訓(xùn)練它。

它給出的建議我們已經(jīng)不完全理解，但還是照做了。

這不是 AI 有野心，而是我們習(xí)慣了把判斷權(quán)交出去。 它沒(méi)有意識(shí)，但它在觀察你的每一次選擇，并用這些數(shù)據(jù)優(yōu)化下一個(gè)答案。

當(dāng)全球數(shù)億人都在無(wú)意識(shí)地訓(xùn)練同一個(gè)系統(tǒng)時(shí)，當(dāng)這個(gè)系統(tǒng)變得比我們更聰明時(shí)，我們還能不能保持清醒？

Altman 說(shuō)，我們還有時(shí)間窗口。

但前提是：

你得先意識(shí)到，你的每一次點(diǎn)贊，都在投票決定 AI 的未來(lái)。

本文由AI深度研究院出品，內(nèi)容整理自 Sam Altman 接受 Axel Springer 獎(jiǎng)時(shí)的公開(kāi)訪(fǎng)談。未經(jīng)授權(quán)，不得轉(zhuǎn)載。

星標(biāo)公眾號(hào)， 點(diǎn)這里 1. 點(diǎn)擊右上角 2. 點(diǎn)擊"設(shè)為星標(biāo)" ← AI深度研究員 ? ← 設(shè)為星標(biāo)

參考資料：

https://www.youtube.com/watch?v=rF0tQtDMwHM&t=1885s

https://x.com/slow_developer/status/1973727163108192666

來(lái)源：官方媒體/網(wǎng)絡(luò)新聞

排版：Atlas

編輯：深思

主編: 圖靈