都說「未來已來」，但要讓好的未來「已來」，先得做出好的選擇。

文 | 佘宗明

AI與所有以往技術(shù)的不同之處在于，它觸及了社會的中樞神經(jīng)系統(tǒng)。 真正值得擔心的不是技術(shù)本身，而是為了競爭優(yōu)勢不顧安全邊界地部署技術(shù)。

這兩天，知名歷史學家、《人類簡史》作者尤瓦爾·赫拉利將對AI失控的憂思帶到了2025外灘大會上，在開幕式暨主論壇的演講中，他如是說道。

在他看來，AI絕非簡單的自動化工具，而是具備「主體性」的異質(zhì)智能體。

有意思的是，2025外灘大會前兩天發(fā)布了「AI十問世界」，40多場論壇、18場創(chuàng)新者舞臺、3場AI科創(chuàng)系列賽事都會圍繞「AI十問世界」展開探討。

▲9月9日，2025外灘大會發(fā)布了「AI十問世界」。

這十個問題就牽涉到人機何以共生的命題，其中既有豆包問出的「人類讓AI變得越來越強大是在養(yǎng)虎為患嗎？」，也有Gemini問出的「如果AI做了錯誤決定并造成損害，AI該背鍋嗎？」，還有LLaMA問出的「除了用AI降本增效，哪些崗位是要永遠留給人類來做的？」……

可以說，這「十問」跟赫拉利的關(guān)切緊密呼應(yīng)。

如果說赫拉利的憂心直指AI沖擊下的多重風險，那無論是外灘大會自身的開放、多元、前瞻性，還是外灘大會上智慧大腦間的思想碰撞，都在努力為此提供破解方案。

01

「有人的地方就有左中右」，自AI時代大幕拉開后，「超級對齊（Superalignment）」和「有效加速主義（Effective Accelerationism）」兩個陣營就各執(zhí)左右兩端。

前者時常對AI技術(shù)的伴生風險夕惕若厲，如「AI教父」辛頓多次警告超級智能可能帶來災(zāi)難性后果。

后者則總是認為技術(shù)的問題就該在技術(shù)發(fā)展中解決，像a16z掌舵者馬克·安德森就認為AI最大的風險是不以最大努力追求它。

在2025外灘大會上，也能看到多元思想、異態(tài)理念的碰撞。

赫拉利在演講中突出強調(diào)了AI的風險。他認為，人們面臨的人工智能危險，「不是一個壞人按一個壞按鈕」，而在于周圍悄然發(fā)生的無形過程。科幻小說里提到過「機器人叛亂」，但真正的危險更安靜且更令人恐懼——數(shù)字官僚體系將決定權(quán)從我們可質(zhì)詢的人類，移交給我們看不見的算法。

但2024圖靈獎得主、「強化學習之父」薩頓則態(tài)度有別，針對外界對AI帶來偏見、失業(yè)乃至人類滅絕的擔憂，他在演講中表示「這種對人工智能的恐懼被夸大了，并且是被某些從中獲利的組織和個人煽動起來的」，呼吁「我們應(yīng)以勇氣、自豪和冒險精神迎接AI。」

▲2024圖靈獎得主薩頓在開幕式上做演講。

阿里云創(chuàng)始人、中科院院士王堅在分享中順著「AI和太空資源的融合」，暢想起了星辰大海。他說「太空一直是我們最大的資源，在50年以前是這樣，今天絕對不是只把人工智能用在手機上、電腦上，其實人工智能不應(yīng)該缺失太空?！?認定AI和計算是人類探索深空的必需品。

宇樹科技創(chuàng)始人王興興則在官宣宇樹科技IPO計劃后的首次發(fā)聲中，說「真正讓AI落地干活，現(xiàn)在還是在大規(guī)模爆發(fā)性增長的前夜。對我個人而言，這個時代是非常激動人心的。」

雖然觀點有異，但正視AI可能帶來的風險，推動AI更多地向善，當是共識。而外灘大會上的很多探討，正是聚焦于此。

02

赫拉利在演講中談AI風險時，著重談到了兩點：一是AI觸及了社會的中樞神經(jīng)系統(tǒng)；二是要警惕為了競爭優(yōu)勢不顧安全邊界地部署技術(shù)。

這延續(xù)了他在《智人之上》中的主張。而要看懂他的主張，就得先看懂兩個詞：「無機生命」和「硅幕」。

▲2025外灘大會，處處都透著「AI」。

AI的出現(xiàn)也許標志著「無機生命」的起源，是赫拉利的基本看法。

他認為，AI與過去所有技術(shù)的不同之處在于，AI是有史以來第一個能夠自行做決策、創(chuàng)造新想法的技術(shù)，人類過去的所有發(fā)明，都只是在為人類賦予更強大的力量，使用的決定權(quán)始終掌握在人類手里，但AI不同，它不僅僅是自動化工具，還是「會行動的主體」。

赫拉利總結(jié)，在人類歷史上，從未出現(xiàn)一個智力較低的物種能夠控制一個智力更高的物種的情況，「如果我們創(chuàng)造出比人類更聰明的物種，比如超級智能，世界會發(fā)生什么？」

在《人類簡史》中，赫拉利說，人類之所以能建立復雜的社會網(wǎng)絡(luò)，關(guān)鍵就在于擁有「講故事」的能力。而今，「講故事」的能力也被AI掌握了。他將AI對語言的掌握程度超過人類平均水平，視作「AI已入侵人類文明的操作系統(tǒng)」。

▲赫拉利不止一次表達對AI失控的擔憂。

這極易讓人聯(lián)想到馬斯克的那段預(yù)言：「人類只是硅基生命的生物啟動程序……人類社會只是一小段代碼，它的存在是為了啟動超級數(shù)字智能物種的計算機程序。」

人類最強大腦（瓦特、麥克斯韋、愛因斯坦等）=生物算力的算力奇點=人體智能超算，ChatGPT=「生物+機器」混合算力的算力奇點≈機器智能超算，曾有人列出這道公式。按照該公式，目前人體智能要強于機器智能，但未來就不好說了。這也是赫拉利們的憂心之處。

AI可能構(gòu)筑起隔絕人類連接的「硅幕」，則是赫拉利的前瞻預(yù)判。

冷戰(zhàn)時期，鐵幕曾經(jīng)降下，到了AI時代，赫拉利認為世界未來可能被硅幕分隔開來，「由硅基芯片和計算機代碼所組成的‘硅幕’，可能使人類分裂并分屬于不同的數(shù)字帝國。」硅幕兩側(cè)的人們在文化價值觀、社會規(guī)范與政治結(jié)構(gòu)的差異會越來越大。

他警示，若人類無法重建信任，AI將成為撕裂社會的「新殖民者」，利用我們的分裂掌控權(quán)力。

03

赫拉利的憂心，并非無謂之慮。而2025外灘大會上，很多來自學界業(yè)界的智慧大腦的分享討論，也在回應(yīng)如何與AI共處的未來。

AI失控風險不容小覷？以算法透明和倫理筑基確保AI安全可控，很有必要。

在主論壇上，香港大學計算與數(shù)據(jù)科學學院院長馬毅就指出，必須將AI從依賴試錯、不可解釋的「黑箱」系統(tǒng)，轉(zhuǎn)變?yōu)榛跀?shù)學原理與閉環(huán)反饋的「白箱」模型。

▲馬毅在演講中提到，AI應(yīng)從「黑箱」走向「白箱」。

而復旦大學人工智能創(chuàng)新與產(chǎn)業(yè)研究院院長漆遠提出，AI的「安全可信」是發(fā)展底線，需通過可解釋AI、檢索增強（RAG）、高質(zhì)量數(shù)據(jù)治理等技術(shù)路徑解決模型幻覺、數(shù)據(jù)偏見等問題，也跟馬毅的「可審計算法決策」形成呼應(yīng)。

事實上，作為亞洲頂級金融科技盛會，歷年外灘大會都很重視創(chuàng)新技術(shù)的安全性、可靠性：從CSA「AI安全工作組」成立，到「IIFAA分布式可信認證體系」共建，再到涵蓋Agent對齊、智能體零信任防御等功能的「螞蟻蟻天鑒」大模型安全解決方案展出……都凸顯了這點。

今年外灘大會聚焦的5大內(nèi)容主線中，更是包括「負責任創(chuàng)新與普惠未來」。

眾多企業(yè)也在呼應(yīng)這點。螞蟻集團9月11日發(fā)布國內(nèi)首份《真實世界通證經(jīng)濟》報告，提出強化安全的「區(qū)塊鏈存證+隱私計算聯(lián)合建模」方案，9月12日發(fā)布全球首個智能眼鏡可信連接技術(shù)框架——gPass，致力于實現(xiàn) AI眼鏡與智能體之間安全、可信、即時信息交互……就緊扣了「可信技術(shù)框架」的題眼。

凱文·凱利說：對于科技帶來的問題，永遠不能靠減少科技解決，而應(yīng)該發(fā)明出更好的科技。「更好」的內(nèi)涵就該包括更安全、更可信。

赫拉利曾說「我并不反對AI，我不認為我們可以或應(yīng)該停止AI的發(fā)展。我只是認為我們需要在AI安全方面投入更多，要更加謹慎?！惯@次又說「歷史已多次證明，速度和安全可以并存，但前提是我們構(gòu)建自我修正的機制閉環(huán)?！?/p>

而外灘大會上探討、展示的負責任AI技術(shù)創(chuàng)新與產(chǎn)業(yè)應(yīng)用，就是對他期待的「有益的AI」的實景呈現(xiàn)。

04

群際阻隔如何避免？以開放協(xié)作、增強互信推動AI國際治理合作，勢在必行。

雖然認為「AI恐懼」被夸大，但薩頓在演講里也強調(diào)了協(xié)作的重要性。他說，人工智能和人類繁榮將來自于去中心化協(xié)作?！竻f(xié)作并非總能實現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化?！?/p>

王堅指出，在AI時代，開源的含義已經(jīng)從代碼開源（Open Source），演進為資源開放（Open Resource），認為開放資源對AI發(fā)展不可或缺。

▲王堅院士認為，開放資源才能推動AI行業(yè)往前走。

開放協(xié)作，是應(yīng)對AI風險的必由之路，也是實現(xiàn)AI共治的應(yīng)有之義。外灘峰會搭建起開放多元的科技交流互鑒平臺，亦是著眼于增進AI領(lǐng)域的開放協(xié)作。

外灘大會吸引了包括圖靈獎得主在內(nèi)的世界級學者、國際組織代表、跨國企業(yè)決策者，共同探討數(shù)據(jù)安全、算法公平、平臺責任等全球性議題，就在彰顯了上海已成為全球科技治理規(guī)則與倫理標準探討的東方主場之余，呈現(xiàn)了齊筑AI治理「巴別塔」的努力。

9月12日，亞洲三大金融科技盛會——上海外灘大會、新加坡金融科技節(jié)、香港金融科技周主辦方首次齊聚上海實現(xiàn)「三會聚首」，組織金融科技「全球主題日」，也在體現(xiàn)了上海作為全球引領(lǐng)性金融科技中心的樞紐性地位之外，帶動了多維度交流合作。

▲亞洲三大金融科技盛會首次「三會聚首」。

而這類國際交流合作，正是打破「硅幕」阻隔的橋梁。

在AI治理上，顯然需要更多這樣的開放協(xié)作。正如麻省理工教授馬克斯·特格馬克所說，「AI的發(fā)展速度比人們預(yù)測的更快，無論在世界上哪個角落率先造出失控的AI，都將給人類帶來滅頂之災(zāi)……當AI在認知、學習、迭代能力上遠超人類時，一切地緣對立都變得愚蠢可笑至極且無足輕重。」

赫拉利更是曾警醒：我們能真正控制AI、開發(fā)出一種可以與人類共存的AI的唯一機會，就是通過全球合作來實現(xiàn)。

他的那句「人類之所以能夠統(tǒng)治世界，并不是因為有多聰明，而是因為唯有人類懂得運用信息進行聯(lián)結(jié)，從而可以靈活的大規(guī)模的合作」，跟薩頓的「人類最卓越的超能力，就在于比其他任何動物都更擅長協(xié)作，人類最偉大的成功在協(xié)作本身」，異曲同工。

而外灘大會構(gòu)建的聯(lián)結(jié)與協(xié)作網(wǎng)絡(luò)，就是在增進交流合作。

05

在發(fā)布饒有趣味的「AI十問世界」后，外灘大會組委會表示，AI記錄學習了人類的反思，ta們的提問也許正是人類思考的鏡像，AI反問人類，本質(zhì)上仍是人類對于「人之為人」的追問。

AI時代的「人之為人」之問，可以內(nèi)縮為「AI浪潮下，人類該充當什么角色」，也可以外延為「人機何以相處」。

赫拉利給出的總結(jié)是：人類的選擇將決定AI是「救世主」還是「終結(jié)者」。悲觀劇本中，若我們沉迷內(nèi)斗，AI將如「外星艦隊」接管世界，用超理性邏輯重塑社會規(guī)則；樂觀愿景里，全球協(xié)作下的AI可成為治愈疾病、應(yīng)對氣候危機的利器，甚至幫助人類突破認知極限。

▲直面AI帶來的挑戰(zhàn)與機遇，探討技術(shù)如何重塑創(chuàng)新增長，是當下重要課題。

2025外灘大會就是在探尋AI向善、加強協(xié)作的有用答案。

都說「未來已來」，但要讓好的未來「已來」，先得做出好的選擇。

「我們所有人在未來幾年所做的選擇，將決定召喚這種非人類智能究竟是個致命的錯誤，還是會讓生命的演化翻開一個充滿希望的新篇章?！埂吨侨酥稀防飳懙馈?/p>

按鈕就在我們手中。

?作者 | 佘宗明

?運營 | 李玩

轉(zhuǎn)載須經(jīng)許可

廣告合作請聯(lián)系微信號：rabgogo88

或手機號：18810070968

敬請關(guān)注