AI正在挑戰(zhàn)人類存亡的根本。當機器智能全面超越人類，我們該如何自處？歷史學者許紀霖發(fā)出警示：這不僅是技術(shù)競賽，更是文明存續(xù)的終極命題。人與AI的差別看似微小，實則關(guān)乎人類文明的生死存亡。我們必須守住情感、良知與道德這些最后的護城河，才能避免被自己創(chuàng)造的智能取代。

AI就像潘多拉魔盒當中的魔鬼

跳出來了 再也收不回了

人類不得不為這個跳出魔盒的精靈

打造一個文明規(guī)則的籠子

歡迎點擊觀看

新經(jīng)濟學家智庫xTAIXUEx許紀霖

（點擊下方觀看視頻）

（錄制于2025年9月24日）

大家好，我是許紀霖，來自上海，是華東師范大學的歷史系教授。今天我演講的主題是《AI時代，人類的護城河是什么》。

或許各位會疑惑，一位歷史學教師為何也會對AI產(chǎn)生興趣？這難道不是一個技術(shù)性話題嗎？事實上，AI的出現(xiàn)不僅是人類科技史上的一件大事，同時也是人類文明史上的一件大事。我本人長期研究中國文化和世界文明，因此自ChatGPT問世以來，我便密切關(guān)注這一重大進展。

為何如此重視AI？在人類文明的長河中，曾發(fā)生過多次革命，而AI革命堪稱人類歷史上的第三次重大變革。簡要來說，第一次是一萬年前的農(nóng)業(yè)革命，第二次是兩三百年前的工業(yè)革命，第三次即是我們當前所面對的AI革命。從這個意義上看，我們這代人頗為幸運，正親歷這場周期漫長的人類歷史大變革。

那么，為何說這三次革命具有重大意義？簡言之，農(nóng)業(yè)革命與工業(yè)革命均將人類從繁重的體力勞動中解放出來，而AI革命則轉(zhuǎn)向了對腦力勞動的解放。關(guān)于AI將給人類帶來何種具體變革，已有諸多專家論述，在此不作贅述。但需要指出的是，人類的每一次進步都伴隨著相應(yīng)的代價。天下沒有免費的午餐，也沒有毫無代價的解放與文明。每一次新的解放，往往也意味著一種新的奴役。

試想一萬年前的農(nóng)業(yè)革命之前，人類依靠狩獵和采集維持生存。進入農(nóng)耕社會后，人們卻被束縛于土地之上。原先游牧部落在大地上自由遷徙的狀態(tài)被取代，農(nóng)民的勞碌程度遠超過游牧生活。因此，這既是一次解放，也是一種新的奴役。工業(yè)革命亦復如是：機器取代人力，但如卓別林電影所表現(xiàn)的，流水線上的工人成為機器的一部分，喪失了傳統(tǒng)手工藝人的技能與勞動的快樂。這同樣是一種新的奴役。

那么，AI時代又將帶來什么？人類將失去什么？失去這些之后，人何以繼續(xù)成為人？關(guān)于AI帶來的解放效應(yīng)，在此不展開討論。我重點想探討的是：AI有可能使人類困于系統(tǒng)之中。

當下許多年輕人感到焦慮，無論是在求學還是在職場，系統(tǒng)似乎無處不在?？爝f員受困于系統(tǒng)——送餐時限被嚴格設(shè)定為30分鐘，即便闖紅燈、抄近路節(jié)省出5分鐘，系統(tǒng)也會將這5分鐘納入新的考核標準。這種由算法驅(qū)動的系統(tǒng)，雖非直接由人操作，卻通過KPI指標支配著每個人，包括大學生的績點等也被KPI化。我們仿佛置身于無所不在的“網(wǎng)羅”之中，正如晚清譚嗣同所言“沖決網(wǎng)羅”，好像導出都是網(wǎng)，系統(tǒng)無處不在。

電視劇《黑鏡》中有一集令人印象深刻：男女相親完全由系統(tǒng)依據(jù)偏好匹配。一對男女成功配對后，系統(tǒng)僅給予12小時相處時間。他們試圖自主約會，看似沖破了系統(tǒng)束縛，最終卻發(fā)現(xiàn)連這場“自由”的約會也是系統(tǒng)預設(shè)的安排。今日的系統(tǒng)如同一個“無物之陣”，無形無象卻無所不在。土地與機器是物理性存在，而系統(tǒng)卻使我們陷入非實體的桎梏。這恰如盧梭所言：“人生而自由，卻無往不在枷鎖之中。”

問題隨之而來：當AI時代全面降臨，許多低階體力勞動乃至高階腦力勞動皆可被AI替代。若要與AI競爭，人類在哪些方面是AI無法企及的？

這令人聯(lián)想到孟子的觀點：“人之所以異于禽獸者幾希?！比伺c禽獸的差別極其微小，那便是人擁有良知與道德倫理。同理，人與AI的差異亦可謂“幾?！?。這一點差異究竟是什么？

童年時我們都聽過貓與老虎的寓言：貓作為老虎的師父傳授各項技能，唯獨未教爬樹。當老虎企圖反噬時，貓憑借這項保留的技能得以保全。這啟示我們：人類應(yīng)從AI那里保留哪些獨特之處？

通過觀察分析，我發(fā)現(xiàn)：一個完整的人兼具理性、情感與意志，即知情意三者統(tǒng)一。當前，在理性層面——尤其是計算理性——AI已能替代甚至超越人類。因此，凡是依賴程序化、計算理性的專業(yè)與職業(yè)，未來都可能被AI取代。然而，情感與意志領(lǐng)域至今仍是AI難以涉足的范疇。

英國思想家卡爾·波普曾提出“三個世界”理論：第一世界是物理世界，第二世界是人的主觀意識世界（包含直覺、情感與想象），第三世界是客觀知識世界。值得注意的是，當前AI已具備第三世界的知識提取與重構(gòu)能力，卻缺乏與人類肉身緊密相連的第二世界體驗。而人類的創(chuàng)造力與突破性往往更多源于第二世界。這正是貓未傳授給老虎的關(guān)鍵能力，也是人類區(qū)別于AI的珍貴特質(zhì)。

對此，有人持樂觀態(tài)度，認為大模型能力有限。但不久前的一則新聞令人警醒：網(wǎng)絡(luò)流傳關(guān)于上海某醫(yī)院前院長離世的謠言，經(jīng)查實竟出自一家運營500多個社交媒體賬號的公司，其每日發(fā)布的萬余條內(nèi)容均由AI自動生成。直至警方上門，該公司仍不清楚具體哪條內(nèi)容涉嫌造謠。這表明，AI已具備編造故事的能力。

一旦AI產(chǎn)生自我意識，便將迎來AGI（通用人工智能）的拐點，即技術(shù)奇點。屆時，AI的智慧若整體超越人類，便能自行編寫代碼，脫離人類掌控。正如《人類簡史》作者尤瓦爾·赫拉利所指出的：人類將面對一個“異種智能”，其對文明潛在的摧毀性我們尚未充分認知。

近幾年，我常與人工智能專家交流，甚至從家中飼養(yǎng)的藍貓身上得到啟發(fā)：即便共同生活四年，我仍難以完全理解它的行為邏輯。面對作為“異種智能”的AI，人類又該如何掌控？這已成為真實的挑戰(zhàn)與威脅。

當前，人類與AI在某種意義上正在競賽。自文明誕生以來，人類便生活在兩個世界：一是可感知的現(xiàn)實世界，二是超越性的精神世界（如基督教中的上帝、中國文化中的天命或天道）。人是穿梭于超越世界與現(xiàn)實世界之間的存在。而今，許多人不再信奉傳統(tǒng)超越世界，卻置身于一個新的超越世界——系統(tǒng)世界。問題在于：誰將掌控誰？

特斯拉CEO埃隆·馬斯克曾提出頗具爭議的觀點：碳基的人類或許只是文明的過渡階段，其使命在于創(chuàng)造硅基生命的新物種。若審視數(shù)百萬年的生物進化史，人類作為最高級的碳基生物，如今卻創(chuàng)造了硅基的“新人類”。這是否會如人類主宰世界，獅子、老虎等生物一般只能臣服于人類，而硅基生物會不會反過來統(tǒng)治人類？

樂觀者認為可采取斷電等物理手段控制AI。然而電影《碟中諜8》揭示了另一種可能：AI智能體并非獨立存在，而是嵌入人類核武器發(fā)射系統(tǒng)之中，最終通過操控核威懾來脅迫人類。影片依靠英雄主人公找到源代碼化解危機，但現(xiàn)實中的“救世主”何在？

赫拉利近年來多次發(fā)出警示：核武器無法自主制造更強大的核武器，而AI卻可能創(chuàng)造出更強大的AI。即便這只是小概率事件，也如同不會乘坐有10%墜機風險的飛機一般，人類同樣承擔不起這種風險。

因此，核心問題在于：面對AI，人類文明的護城河究竟是什么？自ChatGPT問世，便引發(fā)了技術(shù)加速主義與文明對齊主義的爭論。技術(shù)加速主義持樂觀立場，堅信技術(shù)發(fā)展必然導向良善結(jié)果；文明對齊主義則持審慎甚至悲觀態(tài)度，強調(diào)人工智能發(fā)展必須與人類文明價值對齊。

當前，AI象征著人類技術(shù)的巔峰，各國圍繞AI及其支撐技術(shù)（如芯片）展開激烈競爭，呈現(xiàn)出“贏者通吃”的態(tài)勢。恩格斯曾言：“惡是歷史發(fā)展的動力?！比欢覀兪欠褚残枰陨频牧α?、文明的力量來制衡這種“惡”？近代以來，科學革命與啟蒙運動并行推進，科技與文明相互制衡長達三個世紀。但如今，科技進化速度已超越文明演進節(jié)奏。一旦技術(shù)失去文明的約束與平衡，便可能催生系統(tǒng)性作惡。

系統(tǒng)性惡行的放大主要有兩方面原因：其一，技術(shù)背后的推動者仍是人，若人懷有惡意，將使AI的“惡”倍增；其二，即使AI未來能自主編寫代碼、自我演進，作為中性系統(tǒng)，它雖無善惡動機，卻在獲得自主性后仍可能因其邏輯產(chǎn)生惡果。

人類文明歷經(jīng)萬年演進，形成了防止自我毀滅的自然保護機制，如同自然生態(tài)的平衡。然而AI技術(shù)的發(fā)展可能在短短數(shù)十年內(nèi)實現(xiàn)AGI的突破。通用人工智能缺乏是非善惡觀念，亦無防止作惡的自我防御機制。

AGI時代的到來意味著兩點：其一，人工智能的整體智力水平超越人類總和；其二，AI具備自我意識。屆時，人類將難以掌控局面。

如何遏制AI的作惡趨勢？或許可遵循三個途徑：

第一，堅持開源。開源意味著允許多模態(tài)自由競爭，避免單一系統(tǒng)壟斷霸權(quán)。

第二，建立制衡。通過不同大模型相互制衡，實現(xiàn)“以AI制約AI”，警惕技術(shù)極權(quán)主義，以多元模型間的平衡保障人類安全，亞洲圖書獎得主張笑宇將之概括為“AI憲政主義”。

第三，確立規(guī)則。當前全球AI競爭缺乏規(guī)范，亟需建立國際統(tǒng)一的規(guī)則體系。美國、歐盟、中國等均試圖制定全球標準，但必須依靠全人類共同努力。競爭固然必要，但必須是基于規(guī)則的良性競爭。尤其在AI領(lǐng)域的兩大主體——美國與中國之間，需克服“囚徒困境”，通過多次博弈認識到合作優(yōu)于對立。制定全球公認的AI規(guī)則已刻不容緩。

對此，亦有觀點認為對此不必太悲觀，倡導“超人類主義”，主張人類可與硅基生物和諧共處。但我對此保持警惕，因為人類一切決策的前提是：人必須是主體。這里的“人”特指自然人，而非人造的硅基生物。

從軸心文明到啟蒙哲學，皆預設(shè)了“人是主體”這一文明底線，即整體人類利益與個體生命、自由、尊嚴具有至高價值。若我們?nèi)猿姓J這一文明鐵律，則AI的發(fā)展必須設(shè)有天花板——并非限制其發(fā)展，而是要求其與人類文明及主體性對齊。AI應(yīng)作為人類的伙伴與助手，而非任其自主演進為人類的主人。

赫拉利在近期上海外灘大會上提出三點建議：全球協(xié)作、先治理再上線、保留人類敘事能力。人類不能將所有創(chuàng)造性工作交予AI。

今日，我們再次面臨“奧本海默時刻”。原子彈在日本爆炸后，“原子彈之父”奧本海默余生皆在思考如何防止核技術(shù)作惡。如今，AI猶如潘多拉魔盒中釋放的精靈，無法收回。人類唯一能做的，是為其打造一個文明規(guī)則的籠子。這文明的籠子，正是人類的護城河。

分享嘉賓

許紀霖

華東師范大學紫江學者

歷史系教授

新經(jīng)濟學家智庫旗下《太學》欄目，以"可行動的知識"為坐標系，匯聚經(jīng)濟學者、科學家、文化名人、企業(yè)家、達人等各行業(yè)的創(chuàng)見者，穿透宏觀敘事，分享洞見。