*中山大學(xué)哲學(xué)系（珠海）教授潘恩榮首發(fā)于微信公眾號(hào)，保留一切知識(shí)產(chǎn)權(quán)，侵犯必究。

編者按：

《超級(jí)智能：少數(shù)派報(bào)告》引發(fā)的爭(zhēng)論繼續(xù)，見(jiàn)“”“”“”。

潘恩榮教授長(zhǎng)期研究技術(shù)哲學(xué)、工程哲學(xué)和設(shè)計(jì)哲學(xué)，近來(lái)提出“極境人工智能”的新概念。

楊慶峰在其公眾號(hào)文章《我們要如何看待超級(jí)智能？》提到：一個(gè)《超級(jí)智能：少數(shù)派報(bào)告》的三位牽頭人被劃分為三派。楊慶峰教授被劃為激進(jìn)派，劉永謀教授被劃為保守派，“閆宏秀則保持她神秘的沉默態(tài)度”被劃為溫和派。這倒是有點(diǎn)意外。難道真是“少數(shù)派”，所以能分為更少數(shù)派？

作為報(bào)告的參與者之一，我倒并不認(rèn)為我屬于以上三派。相反，我更愿意提供一個(gè)思考方式，希望三派還是一個(gè)“少數(shù)派”。

在技術(shù)哲學(xué)研究領(lǐng)域，我自認(rèn)為是“謹(jǐn)慎的樂(lè)觀派”。一方面是我的工科男和程序員背景，我天然更傾向于技術(shù)樂(lè)觀。（參見(jiàn)《無(wú)科學(xué) 不哲學(xué)》[1]）當(dāng)然，也容易被看作是“技術(shù)決定論”一派。其實(shí)，我不是決定論派。就我的技術(shù)哲學(xué)研究領(lǐng)域而言，我發(fā)現(xiàn)，許多先進(jìn)性的科學(xué)和技術(shù)引領(lǐng)了潮流而解釋世界，但并沒(méi)有改變世界而讓解釋成為社會(huì)文化傳承下來(lái)。但是，“工業(yè)”，足夠廉價(jià)且夠用的科學(xué)技術(shù)經(jīng)過(guò)規(guī)模化使用制造“產(chǎn)品”（技術(shù)人工物），能夠改變世界且讓新的“解釋”成為社會(huì)文化傳承下來(lái)。所以，如果超級(jí)智能不進(jìn)入工業(yè)化體系，我對(duì)超級(jí)智能的看法就是樂(lè)觀的；如果超級(jí)智能能夠進(jìn)入工業(yè)化體系，我的看法就是“謹(jǐn)慎的樂(lè)觀派”。

另一方面是我對(duì)“工業(yè)革命”的理解，“技術(shù)+資本”模式真當(dāng)令人糾結(jié)。西方經(jīng)濟(jì)學(xué)工業(yè)革命研究是總體傾向是樂(lè)觀派，馬克思恩格斯關(guān)于工業(yè)革命的研究，包括1844手稿、共產(chǎn)黨宣言和資本論，總體傾向是悲觀派。前幾年我在看文本的時(shí)候，察覺(jué)到馬恩經(jīng)典論述中有一股“絕望”的氣息。原來(lái)的工業(yè)革命發(fā)明和使用機(jī)器是讓人更輕松，誰(shuí)想到工業(yè)革命后機(jī)器不僅異化而且“增強(qiáng)”了剝削。更要命的是，這種改變“不可逆”，所以，科技倫理在當(dāng)時(shí)已經(jīng)無(wú)用，唯有“革命”打碎現(xiàn)有體系一部分或者全部，人類才能獲得喘息機(jī)會(huì)。

當(dāng)前，人工智能發(fā)展已經(jīng)是“技術(shù)+資本”模式，如果不是現(xiàn)在尚處于新工業(yè)革命初始階段，科技倫理尚大有可為之時(shí)，我估計(jì)也會(huì)站在革AI命的立場(chǎng)上。因?yàn)�，如�?8、19世紀(jì)工業(yè)革命的結(jié)果在21世界人工智能新工業(yè)革命中重現(xiàn)，機(jī)器人很可能是下一任資本的人格化代表（參見(jiàn)《人工智能“以人為本”倫理準(zhǔn)則反思》[2]），人類都沒(méi)資格與之競(jìng)爭(zhēng)成為資本家，強(qiáng)化學(xué)習(xí)將成為新的資本邏輯（參見(jiàn)《造化論》[3]）。

關(guān)于面對(duì)超級(jí)智能的立場(chǎng)，確切的說(shuō)，我不知道我到底屬于以上三派那一方。可能是被劃為左中右變換不定的一方。

我的觀點(diǎn)是：超級(jí)智能=極境人工智能+人工智能發(fā)展模式（公式1）

關(guān)于面對(duì)超級(jí)智能的立場(chǎng)，是一種“意向”或“評(píng)估”。根據(jù)現(xiàn)代技術(shù)哲學(xué)經(jīng)驗(yàn)轉(zhuǎn)向綱領(lǐng)的精神：任何關(guān)于技術(shù)的反思應(yīng)該基于可靠的充分的關(guān)于技術(shù)的經(jīng)驗(yàn)研究和使用的效果。我對(duì)超級(jí)智能的立場(chǎng)會(huì)因?yàn)殛P(guān)于超級(jí)智能的“經(jīng)驗(yàn)”而改變。這些“經(jīng)驗(yàn)”包括“極境人工智能”和“人工智能發(fā)展模式”兩部分。

“極境人工智能”是指通過(guò)數(shù)據(jù)、算法和算力三方的共同作用，使人工智能技術(shù)結(jié)構(gòu)性能達(dá)到極高水平，進(jìn)而在應(yīng)用場(chǎng)景中的效果達(dá)到或突破使用者現(xiàn)有認(rèn)知的邊界。（參見(jiàn)《造化論》2025）通俗來(lái)講就是，人工智能已發(fā)展出“極境”（Peak）——超級(jí)厲害的——能力，智能水平達(dá)到甚至超越人類智能的程度，已突破人類以往認(rèn)知的邊界。

“極境人工智能”已多次達(dá)到或突破人類認(rèn)知邊界。例如，2012年，辛頓帶領(lǐng)伊利亞·蘇茨克弗（Ilya Sutskever）等使用基于深度學(xué)習(xí)技術(shù)的AlexNet算法在ImageNet大型視覺(jué)識(shí)別挑戰(zhàn)（ImageNet Large Scale Visual Recognition Challenge, ILSVRC）中奪冠，首次將人工智能圖像識(shí)別的準(zhǔn)確率提高到人類平均水平85%以上，此后深度學(xué)習(xí)技術(shù)成為人工智能算法的底座；2016年，AlphaGo戰(zhàn)勝人類圍棋冠軍，此后人工智能成為各國(guó)競(jìng)爭(zhēng)的關(guān)鍵領(lǐng)域之一；2022年，ChatGPT成為現(xiàn)象級(jí)應(yīng)用軟件，此后人機(jī)交互從代碼輸入走向?qū)υ捊涣鳎?024年，研發(fā)AlphaFold的科學(xué)家因其在蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)領(lǐng)域的革命性貢獻(xiàn)獲得諾貝爾化學(xué)獎(jiǎng)，人工智能驅(qū)動(dòng)科學(xué)（AI For Science, AI4S）成為人類科學(xué)研究的新范式。（參見(jiàn)《造化論》[3]）如果把超級(jí)智能看作是一個(gè)遠(yuǎn)處有點(diǎn)模糊的影像，那么，極境人工智能就是在幾個(gè)認(rèn)知邊界點(diǎn)上做標(biāo)記，勾勒超級(jí)智能的輪廓。

在討論我的立場(chǎng)的時(shí)候，上述“超級(jí)智能”公式1需要變成以下形態(tài)：

超級(jí)智能=極境人工智能/人工智能發(fā)展模式（公式2）

從公式2來(lái)看，超級(jí)智能是否有風(fēng)險(xiǎn)以及有多大程度的風(fēng)險(xiǎn)，來(lái)自極境人工智能與人工智能發(fā)展模式之間錯(cuò)位產(chǎn)生的張力。如果極境人工智能能力遠(yuǎn)遠(yuǎn)高于人工智能發(fā)展模式對(duì)人工智能的控制力。這就像小孩（人類）耍大刀（人工智能）。刀（人工智能）會(huì)殺人的事實(shí)，人工智能研發(fā)專家肯定看到了。所以，許多人工智能大牛簽署公開(kāi)信“暫停GPT六個(gè)月”（參見(jiàn)《暫停公開(kāi)信：人工智能全球治理的關(guān)鍵時(shí)刻來(lái)了》[4]）。我認(rèn)為，他們希望能加快對(duì)人工智能的理解，以便于發(fā)展出與人工智能新能力匹配的發(fā)展模式。

人工智能發(fā)展模式控制力差才是超級(jí)智能風(fēng)險(xiǎn)的源頭。關(guān)于人工智能滅絕或衰退，與其說(shuō)是對(duì)人工智能本身極境能力的害怕，不如說(shuō)是對(duì)人類自身發(fā)展人工智能模式的害怕。在超級(jí)智能增強(qiáng)下，如果18、19世紀(jì)工業(yè)革命的結(jié)果再次出現(xiàn)，人工智能運(yùn)氣社會(huì)或者人工智能宗教社會(huì)邏輯上是可能的。（參見(jiàn)《超級(jí)智能增強(qiáng)與求真社會(huì)建構(gòu)》[5]）所以，我認(rèn)為，減少極境人工智能與人工智能發(fā)展模式之間的張力是首要治理任務(wù)，這就是“極境人工智能的性能與倫理相統(tǒng)一”的理念——造化論。（參見(jiàn)《造化論》[3]）

當(dāng)下，我認(rèn)為，倫理及價(jià)值觀已經(jīng)跟不上極境人工智能能力的提升，那么，改變當(dāng)下“倫理”“價(jià)值觀”及其背后的人工智能發(fā)展模式，匹配超級(jí)智能或極境人工智能的能力是當(dāng)務(wù)之急。這比人工智能對(duì)齊當(dāng)前人類價(jià)值觀更正當(dāng)。人工智能應(yīng)該對(duì)齊新的人類價(jià)值觀。

關(guān)于辛頓的表態(tài)，許多人認(rèn)為當(dāng)代人工智能“教父”老爺子立場(chǎng)不堅(jiān)定，變來(lái)又變?nèi)ァＮ业故怯X(jué)得，老爺子也是工科男，他對(duì)超級(jí)智能的看法方式和我類似，根據(jù)人工智能發(fā)展的實(shí)際情況而定。辛頓從Google離職后開(kāi)始表達(dá)人工智能安全的看法，我認(rèn)為，他有古典的“騎士”風(fēng)范。相比于其他沾染商業(yè)和資本的人工智能專家，辛頓的看法，盡管變來(lái)又變?nèi)�，但更能�?zhǔn)確體現(xiàn)人工智能當(dāng)下極境能力（性能）與發(fā)展模式（倫理）之間的張力程度。沾染商業(yè)和資本的人工智能專家，他們經(jīng)常立牌坊表達(dá)倫理態(tài)度，做的事情卻處于“技術(shù)+資本”模式中難以看清。真當(dāng)令人糾結(jié)。

辛頓“人工智能是母親，人類是嬰兒”的觀點(diǎn)，我支持。辛頓更重“母性”，我偏重“分工”，人工智能可以看家護(hù)院，另有能力也可以擔(dān)當(dāng)“育兒”角色。例如，“通俗地講，即便ChatGPT及其他生成式人工智能是機(jī)器不是人，我們也可以‘家庭成員’方式對(duì)待人工智能，例如，狗可能帶有致命的狂犬病毒，但它也能看家護(hù)院、近人情通人性。阿爾法狗可能引發(fā)失業(yè)和更多混亂，但它也能進(jìn)化到ChatGPT那樣看家護(hù)院、近人情通人性�！保ǜ鄥⒁�(jiàn)《ChatGPT不講武德，教育界學(xué)術(shù)界率先跳出喊“封殺”！》[6]）

注釋：

https://news.sciencenet.cn/sbhtmlnews/2018/12/342121.shtm

潘恩榮、孫宗嶺：《人工智能“以人為本”倫理準(zhǔn)則反思——一種馬克思主義哲學(xué)的分析思路》，《云南社會(huì)科學(xué)》，

2022

(6)

30-39.

https://news.sciencenet.cn/htmlnews/2023/4/498026.shtm

[5]

潘恩榮、江家祥：《超級(jí)智能增強(qiáng)與求真社會(huì)建構(gòu)》，《理論探索》，

2025

4

13-19.

[6]

https://news.sciencenet.cn/htmlnews/2023/2/493639.shtm