文|佘宗明

“AI與所有以往技術的不同之處在于，它觸及了社會的中樞神經(jīng)系統(tǒng)”“真正值得擔心的不是技術本身，而是為了競爭優(yōu)勢不顧安全邊界地部署技術?！?/p>

這兩天，知名歷史學家、《人類簡史》作者尤瓦爾·赫拉利將對AI失控的憂思帶到了2025外灘大會上。在開幕式暨主論壇的演講中，他這樣說道。

在他看來，AI絕非簡單的自動化工具，而是具備“主體性”的異質(zhì)智能體。

有意思的是，2025外灘大會前兩天發(fā)布了“AI十問世界”，40多場論壇、18場創(chuàng)新者舞臺、3場AI科創(chuàng)系列賽事都會圍繞“AI十問世界”展開探討。

這十個問題就牽涉到人機何以共生的命題，其中既有豆包問出的“人類讓AI變得越來越強大是在養(yǎng)虎為患嗎？”，也有Gemini問出的“如果AI做了錯誤決定并造成損害，AI該背鍋嗎？”，還有LLaMA問出的“除了用AI降本增效，哪些崗位是要永遠留給人類來做的？”……可以說，這“十問”跟赫拉利的關切緊密呼應。

如果說赫拉利的憂心直指AI沖擊下的風險，那無論是外灘大會自身的開放、多元、前瞻性，還是外灘大會上智慧大腦間的思想碰撞，都在努力為此提供破解方案。

01

“有人的地方就有左中右”，自AI時代大幕拉開后，“超級對齊（Superalignment）”和“有效加速主義（Effective Accelerationism）”兩個陣營就各執(zhí)左右兩端。

前者時常對AI技術的伴生風險夕惕若厲，如“AI教父”辛頓多次警告超級智能可能帶來災難性后果。

后者則總是認為技術的問題就該在技術發(fā)展中解決，像a16z掌舵者馬克·安德森就認為AI最大的風險是不以最大努力追求它。

在2025外灘大會上，也能看到多元思想、異態(tài)理念的碰撞。

赫拉利在演講中突出強調(diào)了AI的風險。他認為，人們面臨的人工智能危險，“不是一個壞人按一個壞按鈕”，而在于周圍悄然發(fā)生的無形過程?？苹眯≌f里提到過“機器人叛亂”，但真正的危險更安靜且更令人恐懼——數(shù)字官僚體系將決定權(quán)從我們可質(zhì)詢的人類，移交給我們看不見的算法。

但2024圖靈獎得主、“強化學習之父”薩頓則態(tài)度有別，針對外界對AI帶來偏見、失業(yè)乃至人類滅絕的擔憂，他在演講中表示“這種對人工智能的恐懼被夸大了，并且是被某些從中獲利的組織和個人煽動起來的”，呼吁“我們應以勇氣、自豪和冒險精神迎接AI?！?/p>

阿里云創(chuàng)始人、中科院院士王堅在分享中順著“AI和太空資源的融合”，暢想起了星辰大海。他說“太空一直是我們最大的資源，在50年以前是這樣，今天絕對不是只把人工智能用在手機上、電腦上，其實人工智能不應該缺失太空?！闭J定AI和計算是人類探索深空的必需品。

宇樹科技創(chuàng)始人王興興則在官宣宇樹科技IPO后的首次發(fā)聲中，說“真正讓AI落地干活，現(xiàn)在還是在大規(guī)模爆發(fā)性增長的前夜。對我個人而言，這個時代是非常激動人心的?！?/p>

雖然觀點有異，但正視AI可能帶來的風險，推動AI更多地向善，當是共識。而外灘大會上的很多探討，正是聚焦于此。

02

赫拉利在演講中談AI風險時，著重談到了兩點：一是AI觸及了社會的中樞神經(jīng)系統(tǒng)；二是要警惕為了競爭優(yōu)勢不顧安全邊界地部署技術。

這延續(xù)了他在《智人之上》中的主張。而要看懂他的主張，就得先看懂兩個詞：“無機生命”和“硅幕”。

AI的出現(xiàn)也許標志著“無機生命”的起源，是赫拉利的基本看法。

他認為，AI與過去所有技術的不同之處在于，AI是有史以來第一個能夠自行做決策、創(chuàng)造新想法的技術，人類過去的所有發(fā)明，都只是在為人類賦予更強大的力量，使用的決定權(quán)始終掌握在人類手里，但AI不同，它不僅僅是自動化工具，還是“會行動的主體”。

赫拉利總結(jié)，在人類歷史上，從未出現(xiàn)一個智力較低的物種能夠控制一個智力更高的物種的情況，“如果我們創(chuàng)造出比人類更聰明的物種，比如超級智能，世界會發(fā)生什么？”

在《人類簡史》中，赫拉利說，人類之所以能建立復雜的社會網(wǎng)絡，關鍵就在于擁有“講故事”的能力。而今，“講故事”的能力也被AI掌握了。他將AI對語言的掌握程度超過人類平均水平，視作“AI已入侵人類文明的操作系統(tǒng)”。

這極易讓人聯(lián)想到馬斯克的那段預言：“人類只是硅基生命的生物啟動程序……人類社會只是一小段代碼，它的存在是為了啟動超級數(shù)字智能物種的計算機程序?！?/p>

人類最強大腦（瓦特、麥克斯韋、愛因斯坦等）=生物算力的算力奇點=人體智能超算，ChatGPT=“生物+機器”混合算力的算力奇點≈機器智能超算，曾有人列出這道公式。按照該公式，目前人體智能要強于機器智能，但未來就不好說了。這也是赫拉利們的憂心之處。

AI可能構(gòu)筑起隔絕人類連接的“硅幕”，則是赫拉利的前瞻預判。

冷戰(zhàn)時期，鐵幕曾經(jīng)降下，到了AI時代，赫拉利認為世界未來可能被硅幕分隔開來，“由硅基芯片和計算機代碼所組成的‘硅幕’，可能使人類分裂并分屬于不同的數(shù)字帝國?！惫枘粌蓚?cè)的人們在文化價值觀、社會規(guī)范與政治結(jié)構(gòu)的差異會越來越大。

他警示，若人類無法重建信任，AI將成為撕裂社會的“新殖民者”，利用我們的分裂掌控權(quán)力。

03

赫拉利的憂心，并非無謂之慮。而2025外灘大會上，很多來自學界業(yè)界的智慧大腦的分享討論，也在回應如何與AI共處的未來。

AI失控風險不容小覷？以算法透明和倫理筑基確保AI安全可控，很有必要。

在主論壇上，香港大學計算與數(shù)據(jù)科學學院院長馬毅就指出，必須將AI從依賴試錯、不可解釋的“黑箱”系統(tǒng)，轉(zhuǎn)變?yōu)榛跀?shù)學原理與閉環(huán)反饋的“白箱”模型。

而復旦大學人工智能創(chuàng)新與產(chǎn)業(yè)研究院院長漆遠提出，AI的“安全可信”是發(fā)展底線，需通過可解釋AI、檢索增強（RAG）、高質(zhì)量數(shù)據(jù)治理等技術路徑解決模型幻覺、數(shù)據(jù)偏見等問題，也跟馬毅的“可審計算法決策”形成呼應。

事實上，作為頂級金融科技盛會，歷年外灘大會都很重視創(chuàng)新技術的安全性、可靠性：從CSA“AI安全工作組”成立，到“IIFAA分布式可信認證體系”共建，再到涵蓋Agent對齊、智能體零信任防御等功能的“螞蟻蟻天鑒”大模型安全解決方案展出……都凸顯了這點。

今年外灘大會聚焦的5大內(nèi)容主線中，更是包括“負責任創(chuàng)新與普惠未來”。

凱文·凱利說：對于科技帶來的問題，永遠不能靠減少科技解決，而應該發(fā)明出更好的科技。“更好”的內(nèi)涵就該包括更安全、更可信。

赫拉利曾說“我并不反對AI，我不認為我們可以或應該停止AI的發(fā)展。我只是認為我們需要在AI安全方面投入更多，要更加謹慎?！边@次又說“歷史已多次證明，速度和安全可以并存，但前提是我們構(gòu)建自我修正的機制閉環(huán)?！?/p>

而外灘大會上探討、展示的負責任AI技術創(chuàng)新與產(chǎn)業(yè)應用，就是對他期待的“有益的AI”的實景呈現(xiàn)。

04

以開放協(xié)作、增強互信推動AI國際治理合作，勢在必行。

雖然認為“AI恐懼”被夸大，但薩頓在演講里也強調(diào)了協(xié)作的重要性。他說，人工智能和人類繁榮將來自于去中心化協(xié)作?！皡f(xié)作并非總能實現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化。”

王堅指出，在AI時代，開源的含義已經(jīng)從代碼開源（Open Source），演進為資源開放（Open Resource），認為開放資源對AI發(fā)展不可或缺。

開放協(xié)作，是應對AI風險的必由之路，也是實現(xiàn)AI共治的應有之義。外灘峰會搭建起開放多元的科技交流互鑒平臺，亦是著眼于增進AI領域的開放協(xié)作。

外灘大會吸引了包括圖靈獎得主在內(nèi)的世界級學者、國際組織代表、跨國企業(yè)決策者，共同探討數(shù)據(jù)安全、算法公平、平臺責任等全球性議題，就在彰顯了上海已成為全球科技治理規(guī)則與倫理標準探討的東方主場之余，呈現(xiàn)了齊筑AI治理“巴別塔”的努力。

9月12日，亞洲三大金融科技盛會——上海外灘大會、新加坡金融科技節(jié)、香港金融科技周主辦方首次齊聚上海實現(xiàn)“三會聚首”，組織金融科技“全球主題日”，也在體現(xiàn)了上海作為全球引領性金融科技中心的樞紐性地位之外，帶動了多維度交流合作。

而這類國際交流合作，正是打破“硅幕”阻隔的橋梁。

在AI治理上，顯然需要更多這樣的開放協(xié)作。正如麻省理工教授馬克斯·特格馬克所說，“AI的發(fā)展速度比人們預測的更快，無論在世界上哪個角落率先造出失控的AI，都將給人類帶來滅頂之災……當AI在認知、學習、迭代能力上遠超人類時，一切地緣對立都變得愚蠢可笑至極且無足輕重?！?/p>

赫拉利更是曾警醒：我們能真正控制AI、開發(fā)出一種可以與人類共存的AI的唯一機會，就是通過全球合作來實現(xiàn)。

他的那句“人類之所以能夠統(tǒng)治世界，并不是因為有多聰明，而是因為唯有人類懂得運用信息進行聯(lián)結(jié)，從而可以靈活的大規(guī)模的合作”，跟薩頓的“人類最卓越的超能力，就在于比其他任何動物都更擅長協(xié)作。人類最偉大的成功在協(xié)作本身”，異曲同工。

而外灘大會構(gòu)建的聯(lián)結(jié)與協(xié)作網(wǎng)絡，就是在增進交流合作。

05

在發(fā)布饒有趣味的“AI十問世界”后，外灘大會組委會表示，AI記錄學習了人類的反思，ta們的提問也許正是人類思考的鏡像，AI反問人類，本質(zhì)上仍是人類對于“人之為人”的追問。

AI時代的“人之為人”之問，可以內(nèi)縮為“AI浪潮下，人類該充當什么角色”，也可以外延為“人機何以相處”。

赫拉利給出的總結(jié)是：人類的選擇將決定AI是“救世主”還是“終結(jié)者”。悲觀劇本中，若我們沉迷內(nèi)斗，AI將如“外星艦隊”接管世界，用超理性邏輯重塑社會規(guī)則；樂觀愿景里，全球協(xié)作下的AI可成為治愈疾病、應對氣候危機的利器，甚至幫助人類突破認知極限。

2025外灘大會就是在探尋AI向善、加強協(xié)作的有用答案。

都說“未來已來”，但要讓好的未來“已來”，前提是做出好的選擇。

“我們所有人在未來幾年所做的選擇，將決定召喚這種非人類智能究竟是個致命的錯誤，還是會讓生命的演化翻開一個充滿希望的新篇章?！薄吨侨酥稀防飳懙馈?/p>

按鈕就在我們手中。