AI之父為何呼吁限制AI發(fā)展？

盤(pán)和林聊經(jīng)濟(jì)

創(chuàng)造AI的人，卻是最擔(dān)心AI失控的人。

辛頓，2018年圖靈獎(jiǎng)得主，2024年諾貝爾物理學(xué)獎(jiǎng)得主，深度學(xué)習(xí)三巨頭之一，被稱為“人工智能之父”，AI領(lǐng)域真正的大牛?？蛇@位大牛幾乎在所有公開(kāi)場(chǎng)合都在發(fā)表一個(gè)觀點(diǎn)：人類控制不住AI。這次辛頓訪華，其就在上海舉辦的2025 世界人工智能大會(huì)發(fā)表如下觀點(diǎn)，說(shuō)：現(xiàn)在的AI就像人類撫養(yǎng)的幼小虎崽，不加以遏制，遲早是會(huì)傷人的。

中國(guó)人常說(shuō)，虎毒不食子。那么為什么“AI之父”要遏制AI。我認(rèn)為有幾個(gè)原因：

其一、AI是技術(shù)黑箱，且的確成長(zhǎng)迅速。所謂技術(shù)黑箱，就是連技術(shù)的創(chuàng)造者都不知道技術(shù)是如何實(shí)現(xiàn)的。AI算法就是一個(gè)大黑箱。其實(shí)理解技術(shù)黑箱很容易。因?yàn)槿祟惔竽X就是一個(gè)技術(shù)黑箱。我們知道人類能夠通過(guò)學(xué)習(xí)變得聰明。但人類大腦是如何接受知識(shí)，認(rèn)知世界的，其實(shí)人類如今的科學(xué)對(duì)此一無(wú)所知。以辛頓提出的人工神經(jīng)網(wǎng)絡(luò)為例，其主要功能就是模仿人類大腦神經(jīng)元處理信息的過(guò)程。人類搞不清楚人腦，必然也搞不清楚AI算法。問(wèn)題是AI比人類成長(zhǎng)更快。人類的大腦是一個(gè)個(gè)體一個(gè)想法。而AI的大腦是可以在互聯(lián)網(wǎng)上打破個(gè)體界限。你在用AI，其實(shí)AI也在模仿你，AI和AI之間還可以相互學(xué)習(xí)。人類是知人知面不知心，AI卻可以化零為整，全世界AI組合起來(lái)，變成超級(jí)智能。所以，AI恐怖嗎？假如有一個(gè)比人類更聰明的AI群，那么人類被淘汰，就是自然法則。

其二、AI威脅論是歐美政治正確，也是先發(fā)者對(duì)后發(fā)者的限制。其實(shí)，AI威脅論就如今而說(shuō)有點(diǎn)危言聳聽(tīng)。一方面，AI威脅論是歐美左派的政治正確。比如美國(guó)當(dāng)前右派政府和辛頓就有分歧。美國(guó)政府中的“鄉(xiāng)下人”萬(wàn)斯就曾說(shuō)過(guò)，AI監(jiān)管會(huì)限制AI發(fā)展。辛頓對(duì)此嗤之以鼻，但特朗普發(fā)展AI的態(tài)度很堅(jiān)決。假設(shè)某個(gè)發(fā)展中國(guó)家聽(tīng)從了辛頓的建議，限制AI。那么，是不是會(huì)讓美國(guó)AI技術(shù)再次領(lǐng)先全球？

先發(fā)者制定規(guī)則，后發(fā)者跟隨規(guī)則。AI既然是未來(lái)各國(guó)技術(shù)戰(zhàn)的“巔峰戰(zhàn)場(chǎng)”。那么發(fā)展中國(guó)家就應(yīng)該盡早入局。畢竟，以核武器的經(jīng)驗(yàn)。先到擁核國(guó)，后到邪惡軸心國(guó)。世界是只看結(jié)果不看過(guò)程。中國(guó)若是在人工智能上先限制，再發(fā)展。那絕對(duì)不會(huì)有如今全球第二AI大國(guó)的地位。這和環(huán)保很像。吃不飽飯的時(shí)候，誰(shuí)也沒(méi)資格談環(huán)保。等吃飽了飯，環(huán)保自然而然就完善了。

比如中國(guó)，新能源環(huán)保產(chǎn)業(yè)已經(jīng)成為中國(guó)的支柱產(chǎn)業(yè)。但我們也是先發(fā)展經(jīng)濟(jì)，再發(fā)展環(huán)保。另一方面，毀滅人類的因素多了，人工智能算老幾？有沒(méi)有一種可能，人類能存在，本身是偶然，是各種幸運(yùn)交織的結(jié)果。宇宙行星億億萬(wàn)，溫度剛剛好的行星才幾個(gè)？但凡地球距離太陽(yáng)遠(yuǎn)一點(diǎn)或者近一點(diǎn)，人類就無(wú)啦。

所以，人類毀滅的因素很多。冰河期，行星撞地球，太陽(yáng)衰變，地殼運(yùn)動(dòng)。哪一個(gè)都比人類核武器厲害。人類存在的時(shí)間，對(duì)人類來(lái)說(shuō)很久，對(duì)這個(gè)宇宙來(lái)說(shuō)微不足道。人類如此脆弱，相比于其他災(zāi)難，人工智能造反算老幾？也許，找一萬(wàn)條人類滅絕的原因，人工智能頂多排名99。況且，人類還指望人工智能發(fā)展起來(lái)后，能夠讓人工智能對(duì)抗環(huán)境，降低人類滅絕的可能性。難道，怕AI造反，就不用啦？不可能的。

盡信書(shū)，等于無(wú)書(shū)。

盡信大佬，也是不行的。

在全球AI技術(shù)軍備競(jìng)賽的當(dāng)下。誰(shuí)限制AI，誰(shuí)就會(huì)落后，落后就要挨打。況且如今的AI，遠(yuǎn)沒(méi)有聰明到產(chǎn)生所謂“自主意識(shí)”。懂車帝前段時(shí)間測(cè)試了36輛智駕。沒(méi)有一輛智駕通過(guò)全部六項(xiàng)事故場(chǎng)景。AI還沒(méi)學(xué)會(huì)走路。

我承認(rèn)AI很好用。但AI造反，百年不成。而我們真正要擔(dān)心的，不是AI，而是用AI的人。

但要打敗用AI的壞人，你只能用更高的AI技術(shù)來(lái)打敗他。