*中國人民大學(xué)吳玉章 講席教授劉永謀首發(fā)于微信公眾號，保留一切知識產(chǎn)權(quán)，侵犯必究。

繼續(xù)推進超級AI的研究，它是下半年我研究的一個重點。為此，我在《閱江學(xué)刊》組織名為“超級智能與未來人類的跨學(xué)科審度”專欄筆談，并在11月9日組織在人大召開“超級智能與未來人類”學(xué)術(shù)研討會。

筆談主要情形如下：

——筆談主持人：

劉永謀（中國人民大學(xué)吳玉章講席教授）

——筆談參與人：

劉永謀（中國人民大學(xué)哲學(xué)院教授）

龔新奇（中國人民大學(xué)數(shù)學(xué)學(xué)院教授）

邱德鈞（蘭州大學(xué)哲學(xué)社會學(xué)院教授）

段偉文（中國社會科學(xué)院人工智能文化促進中心研究員）

楊慶峰（復(fù)旦大學(xué)科技倫理與人類未來研究院教授）

閆宏秀（上海交通大學(xué)馬克思主義學(xué)院教授）

劉 偉（北京郵電大學(xué)人工智能學(xué)院特聘研究員）

車 琳（中國傳媒大學(xué)戲劇影視學(xué)院副教授）

顧 超（北京大學(xué)政府管理學(xué)院助理教授）

筆談內(nèi)容：

AI

研究（

AI studies

）領(lǐng)域，

超級智能

近來成為熱議話題。

7

25

2025

世界人工智能大會（

WAIC

）上，諾貝爾獎物理學(xué)獎得主辛頓（

Geoffrey Hinton

）認(rèn)為超級智能很快會出現(xiàn)，呼吁關(guān)注超級智能的全球治理問題。何為超級智能？超級智能與人類智能是什么關(guān)系？超級智能出現(xiàn)，將會對當(dāng)代社會產(chǎn)生何種沖擊，導(dǎo)致何種技術(shù)風(fēng)險和技術(shù)倫理問題，又應(yīng)該如何應(yīng)對？本次筆談聚焦

超級智能與未來人類的跨學(xué)科審度

，從哲學(xué)、馬克思主義理論、人工智能、藝術(shù)和國際關(guān)系等視角對超級智能進行研究，拋磚引玉，以期推動該領(lǐng)域研究的進一步發(fā)展。

感謝諸位大佬的支持！

對于超級AI（我認(rèn)為超級智能與之等同）的態(tài)度，可以分為保守、激進和溫和三種，我應(yīng)該是典型的保守派，因為我堅持有限AI的基本立場。慶峰屬于激進派，由此他說超級AI可能已經(jīng)實現(xiàn)了，只是沒有被發(fā)現(xiàn)。

我多次說過，我的基本困惑是：我們?yōu)槭裁匆愠堿I呢？常見理由如下：第一，很多人很懵懂、糊里糊涂，根本沒有想這個問題，就是跟著“AI宣傳術(shù)”走的。按照宣傳，專業(yè)AI、通用AI、強AI到超級AI的發(fā)展順理成章，很“絲滑”，為什么不搞呢？第二，超級AI可以解決現(xiàn)在大家解決無望的復(fù)雜性全球問題，如氣候變化、核大戰(zhàn)陰影。這里邏輯是：之所以它們解決不了，因為人類太蠢。第三，我稱之為“超級智能恐怖”，即敵國搞成超級智能，咱們就完犢子了，所以不僅要搞，還要大干快上。最近，蘭德公司幾個“二百五”提出一個MAIM的想法，簡單意思就是估計敵國可能搞出超級智能就直接不惜代價打擊。我感覺這是嗑藥之后的想法。還有一些其他的支持理由，對此，艾志強與我合作的新論文中將一一駁斥，以維護我的有限AI理論。

不過，“超級智能恐怖”的想法倒是啟發(fā)我想分析一下，也許就是在此次筆談中，超級智能威懾與核威懾之間的類比問題。眾所周知，核威懾是大家有核武器，但大家都不敢用，誰用大家都完蛋。超級智能可以起到類似威懾效果嗎？其實，當(dāng)年愛因斯坦要是知道結(jié)果是啥，就不會建議搞原子彈了。如果超級智能無敵，我覺得我們應(yīng)該避免當(dāng)年愛因斯坦的遺憾，即反對超級智能研發(fā)路徑——這就是我的立場，雖然我覺得超級AI完全沒有影子。

很多人已經(jīng)開始覺得，此次大模型激發(fā)的“AI熱”已經(jīng)開始黔驢技窮了。我以為，基本原理沒有什么突破，大模型在應(yīng)用上有些作用，但絕不似AI宣傳術(shù)說得多么夸張。人文社科研究說的夸張，我說過，主要是作為一種批判法。包括AI4S、AI4SS在內(nèi)，目前AI的革新力量非常有限。

為此，我問過不少人，大家普遍覺得熱十年沒問題。我沒有這么樂觀，見過互聯(lián)網(wǎng)泡沫、物聯(lián)網(wǎng)熱、元宇宙熱，估計兩三年AI還行，再往后難說了。不過，火個三年就很不錯了，我差不多也要準(zhǔn)備退休了。當(dāng)AI+被高舉出來的時候，AI發(fā)展這一波就差不多這樣了，下面的工作主要是“+”。

我已經(jīng)批評過AI發(fā)展的娛樂化，最近這一點表現(xiàn)非常明顯。各種大會、上春晚，還有機器人馬拉松、拳擊，再玩就是AI上綜藝、吐槽大會了。一窩蜂式的運動式發(fā)展有多大作用？肯定還是有的，但想根本性顛覆式發(fā)展很難。

還有一個很熱的詞：AI智能體（AI agent），明年我會組織大家研究一下。我的疑問是：有幻覺的東西，你怎么能讓它代理呢？有人提出與agentic AI相對的scientist AI的概念，我非常贊同，與我說的有限AI相契合。科學(xué)家AI與代理者AI不同，它的目標(biāo)不是執(zhí)行或行動，而是如科學(xué)家一般研究世界。遇到問題，科學(xué)家AI會給你分析你可以如何，以及你如何會如何，但是它不會做你的代理幫你做事，真正做事還得靠你來決定。

總之，在超級智能熱議中，我發(fā)現(xiàn)太多的無意識和非理性。接下來，還要繼續(xù)深入研究。