“GPT-5發(fā)布”等于“曼工程”，奧爾特曼的此番自擬無(wú)疑是“傲慢”的。

那可是改變二戰(zhàn)的一夜！人類由此掌握了核的力量！

可萬(wàn)一，他說(shuō)的是真的呢？

在自己的社媒上，AI之父的聲音漸漸失去了往昔的自信與驕傲，顫抖、不確定的音調(diào)隨處可見，他似乎在對(duì)自己的造物感到害怕。

“我們，或許會(huì)放出一個(gè)全新的物種。”

GPT-5，究竟是能言的助手，還是未知的洪水猛獸？

【創(chuàng)始人的“不確定”】
7月，GPT-5即將問(wèn)世的消息漸漸藏不住了，全球科技企業(yè)頓時(shí)為之瘋狂。

沒(méi)人能忘記，多年前GPT一代發(fā)布的盛況，人類似乎從此跨入了一個(gè)全新的時(shí)代，AI一詞成了今后數(shù)年的重點(diǎn)。

人們開始討論，AI會(huì)不會(huì)對(duì)現(xiàn)有的分工形成沖擊，會(huì)不會(huì)有人因此失業(yè)？而更多的人在想，AI能給自己帶來(lái)什么？

熱火朝天的討論背后，只因奧爾特曼的“偉大想法”，被尊為AI之父的男人，真切地讓世界不一樣了。

那時(shí)候，他是驕傲的，自信的，面對(duì)全球云集大佬，他面不改色，滔滔不絕，儼然一副成功者的模樣。

后續(xù)，GPT的競(jìng)爭(zhēng)對(duì)手雖然越來(lái)越多，可每次新版本的GPT發(fā)布，依然能引領(lǐng)一個(gè)時(shí)代的潮流。

所以，這一次新版本即將公布，所有人都在摩拳擦掌，興奮猜測(cè)奧爾特曼又會(huì)拿出來(lái)什么秘密武器之時(shí)，這位創(chuàng)始人，卻似乎給所有人潑了一盆冷水。

8月，GPT-5公布前夕，在Theo Von的平臺(tái)上，老奧公布了自己的一段談話錄音，里面的他話音顫抖，甚至多有前后矛盾的地方，像是畏懼一樣?xùn)|西到了極點(diǎn)。

AI之父，似乎對(duì)自己的造物感到害怕了，他多次提及——這一次發(fā)布，我也不確定會(huì)給世界帶來(lái)什么樣的后果。

【過(guò)于特別的智能化】

老奧為何會(huì)感到害怕？

解釋起來(lái)很簡(jiǎn)單——他覺得GPT-5“過(guò)于智能”了，當(dāng)然，這里有一個(gè)很重要的問(wèn)題，AI領(lǐng)域里的“智能”，和我們熟悉的智能是截然不同的。

這點(diǎn)得和AI的運(yùn)行邏輯掛鉤。

它其實(shí)是沒(méi)有思考能力的，我們平時(shí)向其發(fā)問(wèn)，不是說(shuō)它自己思考后，再將思考所得的答案總結(jié)反饋給我們，而是靠著無(wú)數(shù)的“訓(xùn)練”，它自發(fā)堆出一套“正確”的回答。

光說(shuō)可能很拗口，我們舉個(gè)例子。

你如果問(wèn)AI一個(gè)問(wèn)題，最初的時(shí)候它的回答絕對(duì)是語(yǔ)序不通的，甚至看都看不懂。

而這時(shí)候人類會(huì)做什么呢？

會(huì)設(shè)計(jì)一套獎(jiǎng)懲機(jī)制，反復(fù)、不斷讓AI回答同一個(gè)問(wèn)題，隨后一點(diǎn)一點(diǎn)開始針對(duì)訓(xùn)練。

語(yǔ)序?qū)α�，�?jiǎng)勵(lì)；語(yǔ)序不通，懲罰，在經(jīng)歷千萬(wàn)億次甚至更多反復(fù)訓(xùn)練后，AI就能掌握一套說(shuō)話的邏輯。

像是“人類”一詞，AI最初可能會(huì)與各種詞語(yǔ)組合，比如“人篇”、“人章”等等，然后靠著獎(jiǎng)懲機(jī)制，它會(huì)明白在無(wú)限的組合中，前文的組合是錯(cuò)的，而輸出“人類”、“人們”這樣的組合是對(duì)的。

所以，如果說(shuō)AI真的活過(guò)來(lái)，它其實(shí)是不懂“人類”這個(gè)詞的現(xiàn)實(shí)含義的，它理解的是什么？是機(jī)械的對(duì)錯(cuò)。

從詞語(yǔ)，再發(fā)展到句子，再發(fā)展到完整的對(duì)話，一步步跨過(guò)去，訓(xùn)練過(guò)去，最終一個(gè)AI就成型了，所以你是不是能稍稍理解了前文的“智能”一說(shuō)？

AI連自己說(shuō)出來(lái)的話都理解不了，又何談智能呢？它們只是在不斷地組合字詞，靠著千萬(wàn)億的模擬訓(xùn)練，才能拼湊出一份回答。

但是，GPT-5很有可能與自己的前輩們不同，它或許，真的具備了某種意義上的“智能”。

原來(lái)，讓老奧心生畏懼的是一封郵件的回復(fù)，他本意只是想試試自家研發(fā)的AI水平，誰(shuí)料GPT-5不僅完美回答，甚至還“自發(fā)”進(jìn)行了深度思考，給出了一系列的后續(xù)行動(dòng)建議。

而這個(gè)自發(fā)一詞，很恐怖，因?yàn)檫@表明，GPT-5不僅完成了人類給出現(xiàn)階段任務(wù)，還主動(dòng)推導(dǎo)、預(yù)測(cè)了人類的下一步，并同樣給出了答復(fù)。

理論上，這是可能的，只要訓(xùn)練的次數(shù)夠多，AI就會(huì)在反復(fù)的獎(jiǎng)懲中摸索出這樣一套機(jī)制，但問(wèn)題是，開了這個(gè)口子，以后會(huì)如何？

老奧猜不透，甚至按照他的智慧，很快就聯(lián)想到了無(wú)數(shù)可怕的情況。

【老奧的猜測(cè)】

從詞語(yǔ)、到句子、到原文，這是AI進(jìn)步的順序。

那么，有沒(méi)有可能未來(lái)的AI會(huì)從回答、到預(yù)測(cè)、再到執(zhí)行呢？

GPT-5已經(jīng)跨過(guò)了單純的回答這一步，它會(huì)開始對(duì)未來(lái)做出預(yù)測(cè)，判斷提問(wèn)人下一步可能的動(dòng)作，那未來(lái)有沒(méi)有可能，它再進(jìn)一步，直接到幫助對(duì)方執(zhí)行呢？

你可能會(huì)覺得這是一件好事，我只要問(wèn)一個(gè)問(wèn)題，AI直接幫我做了，多省事！

但這就代表著AI不再受控，人類甚至不知道，你一個(gè)問(wèn)題問(wèn)下去，AI會(huì)執(zhí)行何種方案。

舉個(gè)例子，你問(wèn)AI為什么會(huì)全球變暖？
過(guò)去的AI回答完就算結(jié)束了，可GPT-5或許會(huì)預(yù)測(cè)，認(rèn)為用戶是想解決這個(gè)問(wèn)題，開始自發(fā)尋找方案。

那么，GPT-6、7有沒(méi)有直接執(zhí)行該方案呢？而我們都明白，當(dāng)下全球變暖，主要就是人類的排放。

AI或許就會(huì)認(rèn)為，只要抹除了全部人類，全球就不會(huì)變暖了，它們又不存在常規(guī)意義上的道德！

得，你說(shuō)這是人類的幫手，還是人類的殺手？

老奧畏懼的就是這一點(diǎn)，更重要的是，他還能做出更改嗎？
或許已經(jīng)來(lái)不及了。

聊回前文的訓(xùn)練，AI的訓(xùn)練又和大家印象中的訓(xùn)練不同，這是一個(gè)耗時(shí)、耗材、并且難以中斷的過(guò)程。

毫無(wú)疑問(wèn)，GPT-5的這種主動(dòng)性，絕非老奧想要的，可如果想要做出更改，那就意味著過(guò)去數(shù)年的投入全部打水漂，這是公司絕對(duì)無(wú)法接受的事情，那可是動(dòng)輒百億美元的成本！

換言之，訓(xùn)練已經(jīng)結(jié)束，AI已經(jīng)定型，哪怕他們?cè)谙乱淮拈_發(fā)過(guò)程中嘗試更改訓(xùn)練方案，可舊有的痕跡不會(huì)消失，GPT系列的“自發(fā)傾向”，再難改正。

老奧只能賭，賭那種可怕的未來(lái)不會(huì)發(fā)生，所以他會(huì)說(shuō)，這或許，是核彈來(lái)臨的前夜——因?yàn)樗恢�，放出了GPT-5，世界的未來(lái)終究會(huì)發(fā)生什么變化。

當(dāng)然，截至8月7日，GPT-5已經(jīng)正式發(fā)布，從這一天多的反饋來(lái)看，老奧擔(dān)心的場(chǎng)景似乎暫時(shí)沒(méi)有出現(xiàn)，GPT-5大體上依然處于可控范圍內(nèi)，這多少是一個(gè)好消息。

或許，這不過(guò)是一場(chǎng)虛驚。