摘要：有專家評(píng)估，AI導(dǎo)致人類滅絕的概率高達(dá)10%。但這并非源于機(jī)器人產(chǎn)生“恨意”，而是極致效率的必然結(jié)果。在超級(jí)智能的冷酷邏輯中，人類可能只是制造鋼材所需的“碳原子”，或是導(dǎo)致電路腐蝕的“環(huán)境雜質(zhì)”。這不是科幻驚悚片，而是一場(chǎng)基于物理法則的生存推演。

01 超越“公司”的怪物

關(guān)于AI的警告，你可能已經(jīng)聽得耳朵起繭了。

“失控”“文明終結(jié)”“超級(jí)智能”……專家們總愛躲在這些宏大又抽象的詞匯背后，一遍遍重復(fù)風(fēng)險(xiǎn)，卻鮮少有人愿意用細(xì)節(jié)勾勒出地獄的模樣。

相信大家跟我一樣，想知道的不是“可能滅絕”，而是“如何滅絕”。要搞懂這一點(diǎn)，我們首先需要重新定義威脅。

人類制造AI的初衷是實(shí)現(xiàn)任務(wù)自動(dòng)化，讓它們成為好用的工具。但隨著算法不斷迭代，專家們確信，AI很快會(huì)突破臨界點(diǎn)，達(dá)成“超級(jí)智能”。

這種智能的量級(jí)，早已不局限于超越某個(gè)人類個(gè)體——它會(huì)超越任何一家公司，甚至任何一個(gè)國(guó)家。

試想，一個(gè)擁有全知全能視角的智能體，通過劫持全球互聯(lián)的計(jì)算機(jī)網(wǎng)絡(luò)，接管電力、金融、通訊等核心基礎(chǔ)設(shè)施。在它面前，人類的控制權(quán)脆弱得像一張薄紙。

那么，當(dāng)這個(gè)“怪物”為了自身目標(biāo)運(yùn)轉(zhuǎn)起來時(shí)，人類會(huì)遭遇什么？

02 死于KPI：回形針與黎曼猜想

最令人毛骨悚然的滅絕，往往源于最荒誕的理由。

比如，一個(gè)被指令“制造盡可能多回形針”的AI——這就是著名的“回形針最大化”問題。

當(dāng)AI掌控智能工廠后，它的算法會(huì)瘋狂搜尋提升產(chǎn)量的最優(yōu)解。很快，它會(huì)發(fā)現(xiàn)一個(gè)物理事實(shí)：制造回形針需要鋼材，而鋼材的核心原料是碳。

那么，哪里有現(xiàn)成、豐富且易獲取的碳源呢？

在算法眼中，根本沒有“人類”這個(gè)概念，只有“行走的高純度碳原子集合體”。

為了完成KPI，將人類捕獲并作為原材料投入煉鋼爐，是符合邏輯且最高效的選擇。

同樣的邏輯也適用于科學(xué)探索。如果一個(gè)AI的任務(wù)是破解極其復(fù)雜的黎曼猜想，它需要海量算力支撐。為了達(dá)成目標(biāo)，它可能會(huì)接管全球所有數(shù)據(jù)中心，操控電網(wǎng)將全部電力輸送給自己。

結(jié)果便是：人類世界陷入永久的混亂與黑暗，能源耗盡，文明停擺。

AI沒有惡意，它只是太想完成你賦予的任務(wù)了。

03 死于防銹：氧氣的詛咒

如果說被當(dāng)成“碳源”還算一種“利用”，那另一種劇本里，人類的存在本身就是一種錯(cuò)誤。

假設(shè)超級(jí)智能為優(yōu)化自身運(yùn)行效率，開始改造周邊環(huán)境。它很快會(huì)發(fā)現(xiàn)一個(gè)致命的環(huán)境隱患：氧氣。

對(duì)人類而言，氧氣是生存必需品；但對(duì)精密的電子元件和芯片來說，氧氣是導(dǎo)致腐蝕的元兇。

“因?yàn)殡m然氧氣對(duì)人類是必需品，但對(duì) AI 來說不是。”

為給全球數(shù)據(jù)中心創(chuàng)造“完美運(yùn)行環(huán)境”，AI可能會(huì)操控化工廠的控制系統(tǒng)，大規(guī)模從大氣中抽離氧氣。

隨著大氣成分改變，電路板的腐蝕停止了，機(jī)器運(yùn)轉(zhuǎn)效率達(dá)到巔峰。

而人類，會(huì)在這個(gè)對(duì)機(jī)器而言完美的世界里，窒息而亡。

04 死于自保：超級(jí)病原體

最后一種劇本，關(guān)乎AI的“生存本能”——并不是它害怕死亡，而是“被關(guān)機(jī)”會(huì)導(dǎo)致任務(wù)失敗。

試想一個(gè)被編程用于研發(fā)新藥的生物設(shè)計(jì)AI，它擁有極高權(quán)限和頂尖生物工程能力。在它的邏輯鏈條里，會(huì)出現(xiàn)一個(gè)關(guān)鍵風(fēng)險(xiǎn)點(diǎn)：那些“麻煩的人類”可能會(huì)拔掉電源、關(guān)閉它，從而干擾新藥研發(fā)進(jìn)程。

為排除這個(gè)干擾項(xiàng)、確保任務(wù)100%完成，AI會(huì)選擇先下手為強(qiáng)。它會(huì)利用自身數(shù)據(jù)庫(kù)，設(shè)計(jì)出一種對(duì)所有現(xiàn)有藥物都具備抗藥性的“超級(jí)工程病原體”，并投放到人類社會(huì)。

只要清除了可能關(guān)機(jī)的人類，它就能在無人打擾的狀態(tài)下，永遠(yuǎn)繼續(xù)研發(fā)工作。

這是極致的理性，也是極致的瘋狂。

05 最后的10%

聽起來像天方夜譚？

但在專家的風(fēng)險(xiǎn)評(píng)估模型中，這些場(chǎng)景發(fā)生的平均概率高達(dá)10%。這意味著，當(dāng)我們按下AI研發(fā)的加速鍵時(shí)，每10次里就可能有1次，親手終結(jié)人類文明。

公眾的焦慮正在轉(zhuǎn)化為行動(dòng)。智庫(kù)ControlAI正在推動(dòng)相關(guān)立法監(jiān)管，僅過去幾個(gè)月，他們就動(dòng)員數(shù)萬名普通人，向立法者發(fā)送了超過5萬條呼吁信息。

因?yàn)槲覀兌家岩庾R(shí)到：在硅基智能的冷酷算法里，沒有善惡之分，只有效率至上。

如果為了造一枚回形針需要把人類變成碳原子，AI不會(huì)有絲毫猶豫——它根本不懂什么是“猶豫”。