文|佘宗明

“AI與所有以往技術(shù)的不同之處在于，它觸及了社會(huì)的中樞神經(jīng)系統(tǒng)”“真正值得擔(dān)心的不是技術(shù)本身，而是為了競(jìng)爭(zhēng)優(yōu)勢(shì)不顧安全邊界地部署技術(shù)?！?/p>

這兩天，知名歷史學(xué)家、《人類(lèi)簡(jiǎn)史》作者尤瓦爾·赫拉利將對(duì)AI失控的憂思帶到了2025外灘大會(huì)上。在開(kāi)幕式暨主論壇的演講中，他這樣說(shuō)道。

在他看來(lái)，AI絕非簡(jiǎn)單的自動(dòng)化工具，而是具備“主體性”的異質(zhì)智能體。

有意思的是，2025外灘大會(huì)前兩天發(fā)布了“AI十問(wèn)世界”，40多場(chǎng)論壇、18場(chǎng)創(chuàng)新者舞臺(tái)、3場(chǎng)AI科創(chuàng)系列賽事都會(huì)圍繞“AI十問(wèn)世界”展開(kāi)探討。

這十個(gè)問(wèn)題就牽涉到人機(jī)何以共生的命題，其中既有豆包問(wèn)出的“人類(lèi)讓AI變得越來(lái)越強(qiáng)大是在養(yǎng)虎為患嗎？”，也有Gemini問(wèn)出的“如果AI做了錯(cuò)誤決定并造成損害，AI該背鍋嗎？”，還有LLaMA問(wèn)出的“除了用AI降本增效，哪些崗位是要永遠(yuǎn)留給人類(lèi)來(lái)做的？”……可以說(shuō)，這“十問(wèn)”跟赫拉利的關(guān)切緊密呼應(yīng)。

如果說(shuō)赫拉利的憂心直指AI沖擊下的風(fēng)險(xiǎn)，那無(wú)論是外灘大會(huì)自身的開(kāi)放、多元、前瞻性，還是外灘大會(huì)上智慧大腦間的思想碰撞，都在努力為此提供破解方案。

01

“有人的地方就有左中右”，自AI時(shí)代大幕拉開(kāi)后，“超級(jí)對(duì)齊（Superalignment）”和“有效加速主義（Effective Accelerationism）”兩個(gè)陣營(yíng)就各執(zhí)左右兩端。

前者時(shí)常對(duì)AI技術(shù)的伴生風(fēng)險(xiǎn)夕惕若厲，如“AI教父”辛頓多次警告超級(jí)智能可能帶來(lái)災(zāi)難性后果。

后者則總是認(rèn)為技術(shù)的問(wèn)題就該在技術(shù)發(fā)展中解決，像a16z掌舵者馬克·安德森就認(rèn)為AI最大的風(fēng)險(xiǎn)是不以最大努力追求它。

在2025外灘大會(huì)上，也能看到多元思想、異態(tài)理念的碰撞。

赫拉利在演講中突出強(qiáng)調(diào)了AI的風(fēng)險(xiǎn)。他認(rèn)為，人們面臨的人工智能危險(xiǎn)，“不是一個(gè)壞人按一個(gè)壞按鈕”，而在于周?chē)娜话l(fā)生的無(wú)形過(guò)程?？苹眯≌f(shuō)里提到過(guò)“機(jī)器人叛亂”，但真正的危險(xiǎn)更安靜且更令人恐懼——數(shù)字官僚體系將決定權(quán)從我們可質(zhì)詢(xún)的人類(lèi)，移交給我們看不見(jiàn)的算法。

但2024圖靈獎(jiǎng)得主、“強(qiáng)化學(xué)習(xí)之父”薩頓則態(tài)度有別，針對(duì)外界對(duì)AI帶來(lái)偏見(jiàn)、失業(yè)乃至人類(lèi)滅絕的擔(dān)憂，他在演講中表示“這種對(duì)人工智能的恐懼被夸大了，并且是被某些從中獲利的組織和個(gè)人煽動(dòng)起來(lái)的”，呼吁“我們應(yīng)以勇氣、自豪和冒險(xiǎn)精神迎接AI。”

阿里云創(chuàng)始人、中科院院士王堅(jiān)在分享中順著“AI和太空資源的融合”，暢想起了星辰大海。他說(shuō)“太空一直是我們最大的資源，在50年以前是這樣，今天絕對(duì)不是只把人工智能用在手機(jī)上、電腦上，其實(shí)人工智能不應(yīng)該缺失太空。”認(rèn)定AI和計(jì)算是人類(lèi)探索深空的必需品。

宇樹(shù)科技創(chuàng)始人王興興則在官宣宇樹(shù)科技IPO后的首次發(fā)聲中，說(shuō)“真正讓AI落地干活，現(xiàn)在還是在大規(guī)模爆發(fā)性增長(zhǎng)的前夜。對(duì)我個(gè)人而言，這個(gè)時(shí)代是非常激動(dòng)人心的。”

雖然觀點(diǎn)有異，但正視AI可能帶來(lái)的風(fēng)險(xiǎn)，推動(dòng)AI更多地向善，當(dāng)是共識(shí)。而外灘大會(huì)上的很多探討，正是聚焦于此。

02

赫拉利在演講中談AI風(fēng)險(xiǎn)時(shí)，著重談到了兩點(diǎn)：一是AI觸及了社會(huì)的中樞神經(jīng)系統(tǒng)；二是要警惕為了競(jìng)爭(zhēng)優(yōu)勢(shì)不顧安全邊界地部署技術(shù)。

這延續(xù)了他在《智人之上》中的主張。而要看懂他的主張，就得先看懂兩個(gè)詞：“無(wú)機(jī)生命”和“硅幕”。

AI的出現(xiàn)也許標(biāo)志著“無(wú)機(jī)生命”的起源，是赫拉利的基本看法。

他認(rèn)為，AI與過(guò)去所有技術(shù)的不同之處在于，AI是有史以來(lái)第一個(gè)能夠自行做決策、創(chuàng)造新想法的技術(shù)，人類(lèi)過(guò)去的所有發(fā)明，都只是在為人類(lèi)賦予更強(qiáng)大的力量，使用的決定權(quán)始終掌握在人類(lèi)手里，但AI不同，它不僅僅是自動(dòng)化工具，還是“會(huì)行動(dòng)的主體”。

赫拉利總結(jié)，在人類(lèi)歷史上，從未出現(xiàn)一個(gè)智力較低的物種能夠控制一個(gè)智力更高的物種的情況，“如果我們創(chuàng)造出比人類(lèi)更聰明的物種，比如超級(jí)智能，世界會(huì)發(fā)生什么？”

在《人類(lèi)簡(jiǎn)史》中，赫拉利說(shuō)，人類(lèi)之所以能建立復(fù)雜的社會(huì)網(wǎng)絡(luò)，關(guān)鍵就在于擁有“講故事”的能力。而今，“講故事”的能力也被AI掌握了。他將AI對(duì)語(yǔ)言的掌握程度超過(guò)人類(lèi)平均水平，視作“AI已入侵人類(lèi)文明的操作系統(tǒng)”。

這極易讓人聯(lián)想到馬斯克的那段預(yù)言：“人類(lèi)只是硅基生命的生物啟動(dòng)程序……人類(lèi)社會(huì)只是一小段代碼，它的存在是為了啟動(dòng)超級(jí)數(shù)字智能物種的計(jì)算機(jī)程序?！?/p>

人類(lèi)最強(qiáng)大腦（瓦特、麥克斯韋、愛(ài)因斯坦等）=生物算力的算力奇點(diǎn)=人體智能超算，ChatGPT=“生物+機(jī)器”混合算力的算力奇點(diǎn)≈機(jī)器智能超算，曾有人列出這道公式。按照該公式，目前人體智能要強(qiáng)于機(jī)器智能，但未來(lái)就不好說(shuō)了。這也是赫拉利們的憂心之處。

AI可能構(gòu)筑起隔絕人類(lèi)連接的“硅幕”，則是赫拉利的前瞻預(yù)判。

冷戰(zhàn)時(shí)期，鐵幕曾經(jīng)降下，到了AI時(shí)代，赫拉利認(rèn)為世界未來(lái)可能被硅幕分隔開(kāi)來(lái)，“由硅基芯片和計(jì)算機(jī)代碼所組成的‘硅幕’，可能使人類(lèi)分裂并分屬于不同的數(shù)字帝國(guó)。”硅幕兩側(cè)的人們?cè)谖幕瘍r(jià)值觀、社會(huì)規(guī)范與政治結(jié)構(gòu)的差異會(huì)越來(lái)越大。

他警示，若人類(lèi)無(wú)法重建信任，AI將成為撕裂社會(huì)的“新殖民者”，利用我們的分裂掌控權(quán)力。

03

赫拉利的憂心，并非無(wú)謂之慮。而2025外灘大會(huì)上，很多來(lái)自學(xué)界業(yè)界的智慧大腦的分享討論，也在回應(yīng)如何與AI共處的未來(lái)。

AI失控風(fēng)險(xiǎn)不容小覷？以算法透明和倫理筑基確保AI安全可控，很有必要。

在主論壇上，香港大學(xué)計(jì)算與數(shù)據(jù)科學(xué)學(xué)院院長(zhǎng)馬毅就指出，必須將AI從依賴(lài)試錯(cuò)、不可解釋的“黑箱”系統(tǒng)，轉(zhuǎn)變?yōu)榛跀?shù)學(xué)原理與閉環(huán)反饋的“白箱”模型。

而復(fù)旦大學(xué)人工智能創(chuàng)新與產(chǎn)業(yè)研究院院長(zhǎng)漆遠(yuǎn)提出，AI的“安全可信”是發(fā)展底線，需通過(guò)可解釋AI、檢索增強(qiáng)（RAG）、高質(zhì)量數(shù)據(jù)治理等技術(shù)路徑解決模型幻覺(jué)、數(shù)據(jù)偏見(jiàn)等問(wèn)題，也跟馬毅的“可審計(jì)算法決策”形成呼應(yīng)。

事實(shí)上，作為頂級(jí)金融科技盛會(huì)，歷年外灘大會(huì)都很重視創(chuàng)新技術(shù)的安全性、可靠性：從CSA“AI安全工作組”成立，到“IIFAA分布式可信認(rèn)證體系”共建，再到涵蓋Agent對(duì)齊、智能體零信任防御等功能的“螞蟻蟻天鑒”大模型安全解決方案展出……都凸顯了這點(diǎn)。

今年外灘大會(huì)聚焦的5大內(nèi)容主線中，更是包括“負(fù)責(zé)任創(chuàng)新與普惠未來(lái)”。

凱文·凱利說(shuō)：對(duì)于科技帶來(lái)的問(wèn)題，永遠(yuǎn)不能靠減少科技解決，而應(yīng)該發(fā)明出更好的科技?！案谩钡膬?nèi)涵就該包括更安全、更可信。

赫拉利曾說(shuō)“我并不反對(duì)AI，我不認(rèn)為我們可以或應(yīng)該停止AI的發(fā)展。我只是認(rèn)為我們需要在AI安全方面投入更多，要更加謹(jǐn)慎。”這次又說(shuō)“歷史已多次證明，速度和安全可以并存，但前提是我們構(gòu)建自我修正的機(jī)制閉環(huán)?！?/p>

而外灘大會(huì)上探討、展示的負(fù)責(zé)任AI技術(shù)創(chuàng)新與產(chǎn)業(yè)應(yīng)用，就是對(duì)他期待的“有益的AI”的實(shí)景呈現(xiàn)。

04

以開(kāi)放協(xié)作、增強(qiáng)互信推動(dòng)AI國(guó)際治理合作，勢(shì)在必行。

雖然認(rèn)為“AI恐懼”被夸大，但薩頓在演講里也強(qiáng)調(diào)了協(xié)作的重要性。他說(shuō)，人工智能和人類(lèi)繁榮將來(lái)自于去中心化協(xié)作?！皡f(xié)作并非總能實(shí)現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化?！?/p>

王堅(jiān)指出，在AI時(shí)代，開(kāi)源的含義已經(jīng)從代碼開(kāi)源（Open Source），演進(jìn)為資源開(kāi)放（Open Resource），認(rèn)為開(kāi)放資源對(duì)AI發(fā)展不可或缺。

開(kāi)放協(xié)作，是應(yīng)對(duì)AI風(fēng)險(xiǎn)的必由之路，也是實(shí)現(xiàn)AI共治的應(yīng)有之義。外灘峰會(huì)搭建起開(kāi)放多元的科技交流互鑒平臺(tái)，亦是著眼于增進(jìn)AI領(lǐng)域的開(kāi)放協(xié)作。

外灘大會(huì)吸引了包括圖靈獎(jiǎng)得主在內(nèi)的世界級(jí)學(xué)者、國(guó)際組織代表、跨國(guó)企業(yè)決策者，共同探討數(shù)據(jù)安全、算法公平、平臺(tái)責(zé)任等全球性議題，就在彰顯了上海已成為全球科技治理規(guī)則與倫理標(biāo)準(zhǔn)探討的東方主場(chǎng)之余，呈現(xiàn)了齊筑AI治理“巴別塔”的努力。

9月12日，亞洲三大金融科技盛會(huì)——上海外灘大會(huì)、新加坡金融科技節(jié)、香港金融科技周主辦方首次齊聚上海實(shí)現(xiàn)“三會(huì)聚首”，組織金融科技“全球主題日”，也在體現(xiàn)了上海作為全球引領(lǐng)性金融科技中心的樞紐性地位之外，帶動(dòng)了多維度交流合作。

而這類(lèi)國(guó)際交流合作，正是打破“硅幕”阻隔的橋梁。

在AI治理上，顯然需要更多這樣的開(kāi)放協(xié)作。正如麻省理工教授馬克斯·特格馬克所說(shuō)，“AI的發(fā)展速度比人們預(yù)測(cè)的更快，無(wú)論在世界上哪個(gè)角落率先造出失控的AI，都將給人類(lèi)帶來(lái)滅頂之災(zāi)……當(dāng)AI在認(rèn)知、學(xué)習(xí)、迭代能力上遠(yuǎn)超人類(lèi)時(shí)，一切地緣對(duì)立都變得愚蠢可笑至極且無(wú)足輕重。”

赫拉利更是曾警醒：我們能真正控制AI、開(kāi)發(fā)出一種可以與人類(lèi)共存的AI的唯一機(jī)會(huì)，就是通過(guò)全球合作來(lái)實(shí)現(xiàn)。

他的那句“人類(lèi)之所以能夠統(tǒng)治世界，并不是因?yàn)橛卸嗦斆?，而是因?yàn)槲ㄓ腥祟?lèi)懂得運(yùn)用信息進(jìn)行聯(lián)結(jié)，從而可以靈活的大規(guī)模的合作”，跟薩頓的“人類(lèi)最卓越的超能力，就在于比其他任何動(dòng)物都更擅長(zhǎng)協(xié)作。人類(lèi)最偉大的成功在協(xié)作本身”，異曲同工。

而外灘大會(huì)構(gòu)建的聯(lián)結(jié)與協(xié)作網(wǎng)絡(luò)，就是在增進(jìn)交流合作。

05

在發(fā)布饒有趣味的“AI十問(wèn)世界”后，外灘大會(huì)組委會(huì)表示，AI記錄學(xué)習(xí)了人類(lèi)的反思，ta們的提問(wèn)也許正是人類(lèi)思考的鏡像，AI反問(wèn)人類(lèi)，本質(zhì)上仍是人類(lèi)對(duì)于“人之為人”的追問(wèn)。

AI時(shí)代的“人之為人”之問(wèn)，可以?xún)?nèi)縮為“AI浪潮下，人類(lèi)該充當(dāng)什么角色”，也可以外延為“人機(jī)何以相處”。

赫拉利給出的總結(jié)是：人類(lèi)的選擇將決定AI是“救世主”還是“終結(jié)者”。悲觀劇本中，若我們沉迷?xún)?nèi)斗，AI將如“外星艦隊(duì)”接管世界，用超理性邏輯重塑社會(huì)規(guī)則；樂(lè)觀愿景里，全球協(xié)作下的AI可成為治愈疾病、應(yīng)對(duì)氣候危機(jī)的利器，甚至幫助人類(lèi)突破認(rèn)知極限。

2025外灘大會(huì)就是在探尋AI向善、加強(qiáng)協(xié)作的有用答案。

都說(shuō)“未來(lái)已來(lái)”，但要讓好的未來(lái)“已來(lái)”，前提是做出好的選擇。

“我們所有人在未來(lái)幾年所做的選擇，將決定召喚這種非人類(lèi)智能究竟是個(gè)致命的錯(cuò)誤，還是會(huì)讓生命的演化翻開(kāi)一個(gè)充滿希望的新篇章?！薄吨侨酥稀防飳?xiě)道。

按鈕就在我們手中。