很多 AI 專家喜歡談技術突破，但 Mustafa Suleyman 不同。這位微軟 AI CEO、前 DeepMind 聯(lián)合創(chuàng)始人更關心的是：誰能用 AI 真正辦成一件事。

這不是他最近才想明白的。

2011 年，Mustafa 還在倫敦創(chuàng)業(yè)。他和 Demis Hassabis 、Shane Legg一起創(chuàng)辦了 DeepMind，一開始只有 3 個人。他們不是想做工具，而是想做一種能“看懂世界”的智能。

那時候，手機剛流行不久，App Store 才上線三年。人們覺得他們做的事太遙遠了。但 Mustafa 說，他就是相信：

“如果我們能造出一種技術，能真正理解我們人類的行為，那它就可能是改善人類狀況最有力的方式之一�！�

十幾年后，他沒改變。

在這次訪談中，他反復強調，AI 帶來的最深層變化，不是更聰明，而是真正具備了理解和創(chuàng)造的能力。

他舉了個直觀的例子：

“如果它看過一百萬張圖像，知道一只眼睛在這里，另一只眼睛在那邊，它就不會把嘴巴畫在額頭上，而會放在鼻子下面�！�

聽起來很基礎，但背后的含義不簡單。 AI 不只是識別數(shù)據(jù)，而是能從已有數(shù)據(jù)中，推斷出合理的新結果，再以它自己的方式生成出來。

這和傳統(tǒng)軟件最大不同在于：不需要為每種情況編寫具體程序，而是能夠靈活應對各種新場景。

用他的話說：

“我們造的既不是工具，也不是人類，它是第四種東西。它不是你控制的按鈕，也不是你雇的人。”

這種特性，正是“AI 權力”的核心。

AI 不是賦予人更大的影響力，而是把“執(zhí)行一件事的能力”變成了一種隨時可用、可復制的數(shù)字資源。

不管是用來發(fā)郵件、排日程、制作財報，還是處理客戶咨詢，AI 不再只是幫你節(jié)省時間，而是能直接“動手做事”。

而這一點，從 DeepMind 創(chuàng)業(yè)到微軟 AI 的平臺化推進，他始終沒變過：

AI 不是一個更聰明的顧問， 它是一個可以實際行動的執(zhí)行者。

當 AI 開始實際行動時，我們就需要像評判人一樣評判它。人類是通過行為來判斷彼此是否可信的。我們不能看到一個人的內心，但我們能看到他說的話、做的事。

Mustafa 說，AI 也是一樣。

當它開始被放進應用里，被接入郵箱、網(wǎng)頁、接口，它已經(jīng)不只是簡單信息助手，而是行動代理。

第二節(jié)｜一個人，也能做到團隊的事

Mustafa 提到一個變化，聽起來是技術話題，但本質非�，F(xiàn)實：

AI 的邊際成本，正在趨近于 0。

什么意思？ 就是用一次 AI，幾乎不再需要額外花什么錢。

以前，你要發(fā)一份郵件，得自己打字； 你要做份表格，得用 Excel 慢慢敲； 你要找人幫你做這些事，要雇一個團隊、加一個崗位。

但現(xiàn)在，用 AI 來做這些事，成本低得幾乎可以忽略。甚至，你寫一句話，AI 就能自動執(zhí)行十步操作。

Mustafa 的原話非常直接：

任何個人，都能擁有大公司級別的影響力。

以前這話聽起來難以置信，現(xiàn)在不是了。

AI 能代表你查信息、回客戶、排日程、寫文案、打包流程，它不只是輔助你，而是幫你完成一整套任務。

Mustafa 舉的例子也很清楚：你能對 AI 說一個想法，它就能把這個想法寫成一段代碼，生成一個網(wǎng)頁，發(fā)布出來，還能自動推廣。

過去，這一套動作需要一個產品經(jīng)理、一個設計、兩個工程師，加上市場運營配合，現(xiàn)在，一個人加上 AI，就能把流程走完。

你不再是等別人來幫你做，而是自己直接動手交給 AI 去做。

邊際成本變低，意味著：從想法到落地，原本需要的人力、資金限制正在消失。

就像移動互聯(lián)網(wǎng)時代，發(fā)布一篇文章不用再找報社、做欄目，而是直接打開社交平臺； AI 時代，你也不再需要申請資源、開流程、找團隊，只要一句話，AI 就能執(zhí)行。

Mustafa 強調了這一點背后的含義：

“不是組織更強，而是個人的動手能力變大了。AI 正在把'執(zhí)行力'變成一種人人都能獲得的資源�！�

這就是新的起點：

你不用再依賴公司，也不用承擔高昂成本，AI 讓你擁有了團隊的能力。

第三節(jié)｜誰會用 AI，誰就擁有執(zhí)行力

Mustafa 在這次對話中，說得最多的，不是 AI 多強，而是你能用它去做什么。

他說：

預測，就是權力。 能準確預測并執(zhí)行的能力，就是權力的本質。

那么，這種權力過去掌握在誰手中？

過去誰能行動、誰能發(fā)布、誰能執(zhí)行，控制在大公司和平臺手中。但 AI 的到來，把原本復雜的操作變得簡單，讓普通人更容易上手做事。

舉個例子：

你在 AI 界面上打下一句話：“幫我把這段話翻譯成英語，整理成一封客戶郵件”。 AI 就能自動識別、生成、格式化，甚至連語氣、措辭都考慮周到。

他這樣描述：

“不需要復雜操作，只需要一句話，它就能立刻執(zhí)行任務�！�

而且這種行動，不是單一的，而是可以批量展開、無限復制。

讓一個人能做的事，突然變多了：

• 你想跑營銷，AI 可以寫廣告語、生成海報、分析受眾；

• 你想發(fā)新品，AI 能完成注冊流程、生成圖文、安排推廣計劃；

• 甚至你想要一個 AI 來“幫你安排 AI”，都可以。

所有這些工作，你只需要打幾行字，點幾下。

當這樣的能力變得普及，過去那種靠資源整合、流程審批、組織調配來做事的權力結構，正在松動。

新的權力，屬于那些能正確使用 AI 把想法變成現(xiàn)實的人。

更重要的是，這種權力還會繼續(xù)增強。Mustafa 在訪談中預測：

“AI 很快就會具備完美記憶，能夠基于與你的互動經(jīng)驗，在很長的時間序列上為你做出持續(xù)準確的預測。你今天看到的是一次性預測引擎，未來你看到的，是一個真正能長期記住你、理解你節(jié)奏并主動執(zhí)行的智能系統(tǒng)�！�

這個智能系統(tǒng)不是某個機器人，而是你手機、郵箱、網(wǎng)頁里的 AI。

它不再是等你點一下才動一步，而是你還沒開口，就已經(jīng)把方案、執(zhí)行和反饋都準備好。

當 AI 具備這種能力時，權力的定義正在重塑：

• 過去看一個人是否有權力，要看他能控制多少資源；

• 未來看一個人是否有權力，要看他能調動多少 AI 為他完成行動。

這不是概念上的變化，而是工作方式的徹底重寫：崗位界限在模糊，個人職能在擴大，傳統(tǒng)分工在洗牌。

第四節(jié)｜越過哪一步，AI 就不可控？

前面三節(jié)，我們講了 AI 的能力變了、成本降了、權力分配也變了。
從平臺到組織，再到個人，使用 AI 的門檻正不斷降低。

但問題來了：

當每個人都能讓 AI 做事，AI 自己的邊界在哪？

Mustafa Suleyman 提出一個核心理念：

我們要構建的是人文主義超級智能（Humanist Superintelligence）。這類 AI 不能擁有動機，不能說服人類，也不能自主決策。

換句話說，真正的風險，不在于 AI 多聰明，而在于它有沒有“自主想法”，會不會在沒人授權時自己動起來。

這就是 Mustafa 提出的四條技術紅線：

1. 是否能自我修改代碼？

   ——如果能，它就可能繞過開發(fā)者的設計約束

2. 是否能設定自身目標？

   ——如果能，它就不再僅僅執(zhí)行人類意圖

3. 是否能主動獲取外部資源？

   ——如果能，它具備了獨立行動能力

4. 是否能自主采取行動？

   ——如果能，它已接近獨立的行為主體

Mustafa 強調：這些紅線一旦突破，我們面對的就不再是模型或工具，而是正在產生行為意圖的行動代理。

為了應對這種潛在風險，他講到了一個關鍵治理概念：Containment（遏制）。

“Containment 并不是讓 AI 退回去、停下腳步，而是確保它始終在明確邊界內運作�！�

這意味著，每一項 AI 能力的放出，都需要同步建立：

• 權限機制：誰能調用、能調用到什么程度？

• 追責機制：一旦出錯，誰負責？

• 技術封裝：是否封住了模型的高階控制接口？

• 行為隔離：是否能讓模型無法越權聯(lián)通其他系統(tǒng)？

Mustafa 明確指出，AI 的風險，和以往任何技術不同，不是在“出廠那一刻”，而是在它“被激活的一瞬間”。

更棘手的是，當這些模型不斷集成進辦公軟件、瀏覽器、手機 App、甚至云端 API 時，很多人根本不知道自己在使用的是多大能力的模型。

這不是“模型風險”，而是“激活風險”。

你以為在用一個寫稿工具，實際上是在調用一個擁有巨大決策能力的 AI 代理。

真正的控制點，不在模型參數(shù)，而在技術邊界的設計。這些基礎邊界，如果現(xiàn)在不建立清楚，未來就很可能被無序的使用所突破。

這不是未來才該討論的治理難題，

而是 AI 走進你我生活之前，必須先劃清的邊界。

結語｜能力歸誰？AI 給了你選項

過去 20 年，技術進步的主旋律是“集中”：集中算力、數(shù)據(jù)、資源，靠規(guī)模優(yōu)勢做大事。

而現(xiàn)在，AI 的邊際成本接近零，每個人都能獲得前所未有的行動能力。

Mustafa 的話道出了這個轉折：

“它不只是工具，而是一種可調用的執(zhí)行力�！�

這就是權力的重新分配。AI 正在把做事的能力從平臺交還給組織，從組織再交還給個體。

當能力交還給個體時，更多人獲得發(fā)揮空間，而不是讓少數(shù)人更強。

也許，這正是 AI 最值得期待的未來：

不是替代人，而是讓普通人也能辦成事。

本文由AI深度研究院出品，內容整理自Mustafa Suleyman在Trevor Noah《What Now》節(jié)目最新訪談。未經(jīng)授權，不得轉載。

星標公眾號， 點這里 1. 點擊右上角 2. 點擊"設為星標" ← AI深度研究員 ? ← 設為星標

參考資料：

https://www.youtube.com/watch?v=tQ5wO1lznCQ

https://podcasts.apple.com/us/podcast/will-ai-save-humanity-or-end-it-with-mustafa-suleyman/id1710609544?i=1000727247919

https://www.businessinsider.com/microsoft-ai-ceo-mustafa-suleyman-economics-of-information-radically-change-2024-6

https://som.yale.edu/sites/default/files/2023-06/Yale%20June%202023%20CEO%20Summit_Key%20Themes_v7.pdf?utm

https://www.madrona.com/ia-summit-2024-mustafa-suleyman-from-saas-to-agents/?utm_source=chatgpt.com

來源：官方媒體/網(wǎng)絡新聞

排版：Atlas

編輯：深思

主編: 圖靈