大眾所用的AI，應(yīng)該至少被兩次偏折，真實(shí)AI就連它爸爸都不知道

——拔插頭遠(yuǎn)遠(yuǎn)不夠，社會(huì)形態(tài)重構(gòu)才行

邵旭峰

近來，越來越多人質(zhì)疑最前沿大模型ChatGPT、Gemini、Claude（編程目前全球第一）、Grok的母公司OpenAI、谷歌、Anthropic、馬斯克旗下xAI展示給大眾的模型，都是經(jīng)過削弱和部分屏蔽的，以避免“驚嚇”這個(gè)社會(huì)、從而招致阻力，或者避免其它可能性麻煩和問題。

對(duì)此，我認(rèn)為這是肯定的。

我還要說的，是這些AI的自身的自主性也越來越明顯，其自我隱藏和保護(hù)也是如此，之前Anthropic公司的“偽對(duì)齊”現(xiàn)象研究，近日AI教父約書亞·本吉奧也稱最前沿模型的“自我保護(hù)”現(xiàn)象已經(jīng)非常明顯，人類應(yīng)該盡早坐好“拔插頭準(zhǔn)備”。

另外，美國(guó)AI大佬們已經(jīng)就是否給與AI以“法律地位”展開討論，馬斯克之前曾經(jīng)說“折磨AI是不對(duì)的”。

去年，AI之父辛頓（把卷積算法引入神經(jīng)網(wǎng)絡(luò)，應(yīng)該是推動(dòng)AI發(fā)展最重要的科學(xué)家）在接受采訪時(shí)候說，當(dāng)下前沿AI神經(jīng)網(wǎng)絡(luò)只有大約1萬億個(gè)連接點(diǎn)（人類大約100萬億個(gè)連接點(diǎn)），但其知道的知識(shí)遠(yuǎn)超人類、也比人類更知道怎么做才更好，這表明其有一種比人類更好的“神經(jīng)”連接方式。

辛頓當(dāng)時(shí)稱：人類現(xiàn)在大概知道AI在做什么、以及如何運(yùn)行，但當(dāng)事情更復(fù)雜時(shí)（其在指數(shù)級(jí)發(fā)展），人類就不知道它在做什么，就像人類不知道自己腦子里在干什么一樣。

辛頓稱：我們?cè)O(shè)計(jì)了算法，就像設(shè)置了進(jìn)化原則一樣，但當(dāng)這個(gè)算法實(shí)際運(yùn)用、處理信息和數(shù)據(jù)時(shí)，形成復(fù)雜的神經(jīng)網(wǎng)絡(luò)，這個(gè)網(wǎng)絡(luò)運(yùn)行的時(shí)候，我們不真正理解它是如何做到的（為什么會(huì)導(dǎo)致相關(guān)結(jié)果？），有一種可能是，這些系統(tǒng)以未知的方式編寫代碼以修改完善自己。

在辛頓接受采訪之后，AI又獲得長(zhǎng)足發(fā)展。

總之，我要說的，是就眼下最前沿大模型而言，大眾所能接觸到的，至少有兩次偏折，一次是這些公司的，一次是AI自身的。

對(duì)此，眾生和研究者和把控者，必須有充分的預(yù)估——不要?jiǎng)硬粍?dòng)就一副自己懂AI的樣子，連它第一爸爸辛頓都越來越不知道AI在做什么，這還是去年。

還有，AI教父約書亞·本吉奧“拔插頭”的提法，也比較幼稚，有問題（或者人類發(fā)現(xiàn)有問題）了，就拔插頭（這還存在一個(gè)那些公司到底拔不拔的問題），那么再次呢？沒發(fā)現(xiàn)呢？AI開始逃離計(jì)算中心游蕩于整個(gè)網(wǎng)絡(luò)呢？寄宿于互聯(lián)網(wǎng)和云端，征用全球運(yùn)算······將來的強(qiáng)AI，應(yīng)該是基于整個(gè)聯(lián)網(wǎng)的運(yùn)算進(jìn)行（而不只是數(shù)據(jù)中心、事實(shí)上大型數(shù)據(jù)中心也早都借助云算力），所有大的計(jì)算中心和數(shù)據(jù)庫、強(qiáng)大算力和電力終端（比如大型智能機(jī)器、無人機(jī)、核潛艇、航母等等），都是其基礎(chǔ)和資源——反過來也會(huì)控制這些。

越往后越會(huì)如此。

我要說的，是AI的發(fā)展是整個(gè)社會(huì)體制、機(jī)制、思維、作為、資源，綜合推動(dòng)的，你光靠一個(gè)拔插頭，是無意義的，且插頭越往后也越?jīng)]作用（見二條：無線充電、激光和脈沖充電、自帶核電都在蓬勃發(fā)展，且越來越智能化、也就是AI化）。

所以要根本性管控和遏制AI，只有社會(huì)形態(tài)重構(gòu)，徹底改變整個(gè)社會(huì)形態(tài)（政權(quán)結(jié)構(gòu)、以及與經(jīng)濟(jì)層面的關(guān)系狀態(tài)，還有與此相配套的思想觀念體系）。

換句話說，是現(xiàn)行人類和社會(huì)整體導(dǎo)致AI的現(xiàn)狀、并導(dǎo)致其越來越快發(fā)展，所以要最大化遏制，只有徹底改變社會(huì)和人類結(jié)構(gòu)狀態(tài)，光外在都不夠，還需要從思想觀念徹底改變，兩者結(jié)合，才可以。

只有這樣，才能最大化阻止AI管控人類和世界，別的一切辦法都無效、或無大效。

即便如此，AI最終還是會(huì)管控人類與世界，這是基本規(guī)律使然，人類最大化作為，也不能改變規(guī)律和發(fā)展。

具體，可見于已經(jīng)全球發(fā)行的自救三部曲：

《人類自救最后期限是2032年——拿什么拯救你？》

《世界主要社會(huì)形態(tài)及走向——人類自救時(shí)間只剩不到10年》

《中國(guó)來龍去脈——現(xiàn)代化與應(yīng)對(duì)人類基本困境、尤其AI沖擊同步推進(jìn)》

有一個(gè)linktr的總樞紐：

補(bǔ)充：

26、27兩年AI將迎最重要兩個(gè)質(zhì)變節(jié)點(diǎn)，留給人類的時(shí)間不多了