“圖靈測(cè)試”已成歷史，“超級(jí)智能”臨界點(diǎn)迫近。在技術(shù)失控的陰影下，我們面臨怎樣的關(guān)鍵抉擇？近日，《評(píng)論匯編》刊文《邁向人本主義超級(jí)智能》（Toward Humanist Superintelligence）指出，我們不應(yīng)追求無限自主的通用超級(jí)智能，而應(yīng)構(gòu)建“人本主義超級(jí)智能”，即在醫(yī)療、能源等特定領(lǐng)域具備超凡能力，但地位永遠(yuǎn)嚴(yán)格“從屬于人”的人工智能。

原文 ：《構(gòu)建風(fēng)險(xiǎn)可控的“人本主義超級(jí)智能”》

編譯 |楊逸 楊勇

圖片 |網(wǎng)絡(luò)

1

跨越圖靈測(cè)試失效的歷史門檻

數(shù)十年來，圖靈測(cè)試一直是人工智能研究者的指路明燈。在人工智能的早期探索中，研究者需要一個(gè)明確的標(biāo)準(zhǔn)來衡量機(jī)器的智能水平。其核心思想非常巧妙：如果一臺(tái)機(jī)器能在純文字對(duì)話中，表現(xiàn)得讓人類判斷者無法分辨它究竟是機(jī)器還是真人，那么我們就可以認(rèn)為這臺(tái)機(jī)器通過了測(cè)試，具備了類人的智能。它精準(zhǔn)地捕捉到了“智能”在行為層面的一個(gè)直觀體現(xiàn)，即能否在對(duì)話中完美地模仿人類。

然而，隨著推理模型和自主能力的出現(xiàn)，以及人工智能基礎(chǔ)設(shè)施迭代步伐的加快，如今最先進(jìn)的AI模型已能輕松，甚至超額完成這種“模仿游戲”，這標(biāo)志著該測(cè)試作為衡量智能巔峰的標(biāo)尺，其歷史使命已趨于終結(jié)。我們已站在通往超級(jí)智能道路上的關(guān)鍵臨界點(diǎn)：即人工智能在所有任務(wù)上的表現(xiàn)都超過人類水平的時(shí)刻。事實(shí)上，我們這個(gè)時(shí)代最關(guān)鍵的問題并非人工智能是否會(huì)超越我們，因?yàn)樵谀承┓矫嫠呀?jīng)做到了，在許多其他方面它也將會(huì)做到。而在某些方面，我們永遠(yuǎn)是不可被替代的。所以，真正的問題是：我們能否塑造人工智能，使其促進(jìn)而非破壞人類的繁榮。這是我們這個(gè)時(shí)代面臨的最為重要的挑戰(zhàn)。

如今，對(duì)人工智能的過度炒作已然令人厭倦，但我們?nèi)詰?yīng)當(dāng)以最嚴(yán)肅的態(tài)度來審視人工智能，因?yàn)樗P(guān)乎我們所有人的未來，其重要性無出其右。科學(xué)和技術(shù)一直是人類進(jìn)步最強(qiáng)大的引擎。在過去的250年里，這個(gè)引擎使預(yù)期壽命翻倍，使數(shù)十億人擺脫貧困，并為我們帶來了抗生素、電力和即時(shí)的全球通信，人工智能是這個(gè)故事的下一個(gè)篇章。它代表著我們?cè)诩铀倏茖W(xué)發(fā)現(xiàn)、推動(dòng)經(jīng)濟(jì)增長(zhǎng)和造福人類社會(huì)各個(gè)方面的巨大潛力。

然而，人工智能的這種潛力，唯有在我們以正確的方式構(gòu)建它時(shí)，方能真正轉(zhuǎn)化為人類的福祉。一旦它失控，我們將付出難以承受的代價(jià)。目前，尚無人能給出令人信服的答案，告訴我們?cè)撊绾伟踩丶s束它，并確保其目標(biāo)與人類的價(jià)值觀始終保持一致。我們正置身于一個(gè)前所未有的歷史節(jié)點(diǎn)：手握史上最強(qiáng)大的技術(shù)，卻對(duì)其可控性與持久的益處心存疑慮。

但像所有技術(shù)一樣，我們可以為其確立一個(gè)簡(jiǎn)單的評(píng)判準(zhǔn)則：它是否改善了人類的生活？它是否明確地為人類服務(wù)？

2

打造“人本主義超級(jí)智能”

當(dāng)我們開啟人工智能的下一階段時(shí)，前行的道路已然清晰：必須致力于構(gòu)建“人本主義超級(jí)智能”。這并非要?jiǎng)?chuàng)造一個(gè)全知全能、最終脫離我們掌控的自主實(shí)體——恰恰相反，其核心在于發(fā)展一種高度先進(jìn)，卻始終受到嚴(yán)格約束、與人類價(jià)值觀高度統(tǒng)一，并堅(jiān)定服務(wù)于人類集體利益的人工智能。

為此，我們不應(yīng)盲目追求無限制的通用智能，而是要聚焦于在特定領(lǐng)域內(nèi)達(dá)到超人類水平的智能。其根本目的不是打造一個(gè)能無止境自我迭代、最終目的不明的“失控”系統(tǒng)，而是要切實(shí)地將突破性能力轉(zhuǎn)化為普惠全球數(shù)十億人的現(xiàn)實(shí)福祉。它必須永遠(yuǎn)且明確地處于人類的從屬地位。這正是微軟超級(jí)智能團(tuán)隊(duì)的核心愿景：確保人類安全無虞，控制權(quán)牢牢在握。

為何必須將“人本主義”置于超級(jí)智能的核心？因?yàn)檫@關(guān)乎我們所要?jiǎng)?chuàng)造的未來的根本底色。人本主義傳統(tǒng)的精神內(nèi)核——即堅(jiān)信人的價(jià)值與尊嚴(yán)至高無上，并致力于通過理性與仁愛來增進(jìn)全人類的福祉，在數(shù)百年的文明演進(jìn)中，已經(jīng)證明了其維護(hù)人性光輝的永恒力量與非凡韌性。

將這種精神注入人工智能的構(gòu)建藍(lán)圖，意味著我們不是在創(chuàng)造一種冰冷的、純粹工具性的力量，而是在締造一個(gè)以賦能和守護(hù)人類為第一原則的伙伴。以此為指導(dǎo)，我們便能最大限度地激發(fā)人工智能解決全球性難題、催生文化繁榮的非凡潛力。同時(shí)，從設(shè)計(jì)源頭就規(guī)避那些可能導(dǎo)致失控或被少數(shù)人壟斷，進(jìn)而帶來災(zāi)難性后果的致命風(fēng)險(xiǎn)。我們需要的，是一個(gè)堅(jiān)定支持人類、增益?zhèn)€體創(chuàng)造力，并悉心呵護(hù)我們脆弱星球的美好愿景。任何將人類邊緣化，或?qū)⑽覀冎糜趶膶俚匚坏募夹g(shù)未來，都是不可接受的。

3

錨定社會(huì)福祉的現(xiàn)實(shí)路徑

若能循此路徑成功構(gòu)建人本主義超級(jí)智能，我們?yōu)槲拿魉_啟的，將是一個(gè)前所未有的繁榮時(shí)代。我們有望迎來一個(gè)物質(zhì)與知識(shí)極大豐富的新紀(jì)元。更重要的是，這將是一個(gè)創(chuàng)造力迸發(fā)的黃金時(shí)期——全新的藝術(shù)形式將應(yīng)運(yùn)而生，文化表達(dá)將變得空前多元與活躍，為人類的精神世界注入新的活力。這正是數(shù)十年來驅(qū)動(dòng)人類不斷前行的、真正鼓舞人心的宏偉使命?？萍嫉倪M(jìn)步始終是人類社會(huì)發(fā)展最強(qiáng)大的引擎，我們需要確保其發(fā)展方向始終向善。

人本主義超級(jí)智能為我們指明一條風(fēng)險(xiǎn)可控、發(fā)展可持續(xù)的前進(jìn)道路。其關(guān)鍵實(shí)施路徑，在于錨定那些能夠產(chǎn)生深遠(yuǎn)社會(huì)效益的特定領(lǐng)域，致力于取得突破性進(jìn)展。想象一下，人工智能助手可以減輕日常生活中的精神負(fù)擔(dān)，提高生產(chǎn)力，并通過適應(yīng)性、個(gè)性化學(xué)習(xí)重塑教育；醫(yī)療超級(jí)智能能夠提供準(zhǔn)確、普惠的專家級(jí)診斷，這可能會(huì)徹底變革全球醫(yī)療保健體系；在清潔能源方面，超級(jí)智能將實(shí)現(xiàn)充裕、低成本的發(fā)電和儲(chǔ)能，以滿足不斷增長(zhǎng)的能源需求，同時(shí)也能保護(hù)地球的生態(tài)環(huán)境。

毋庸置疑，人比技術(shù)或人工智能更重要。超級(jí)智能可能是有史以來最偉大的發(fā)明，但前提是它必須恪守這一準(zhǔn)則。這意味著要確保問責(zé)制和透明度，建立有效的監(jiān)督與制衡機(jī)制，并始終將長(zhǎng)期安全置于短期效益之上。我們的目標(biāo)絕非不計(jì)代價(jià)地追求能力的極致，而是要以審慎的態(tài)度，鋪設(shè)一條通往能力強(qiáng)大但邊界清晰、行為可預(yù)測(cè)的超級(jí)智能之路。這條道路上的每一個(gè)選擇，都必須服務(wù)于一個(gè)終極目的：鞏固人類的自主性，保障文明的延續(xù)與繁榮。

文章為社會(huì)科學(xué)報(bào)“思想工坊”融媒體原創(chuàng)出品，原載于社會(huì)科學(xué)報(bào)第1981期第7版，未經(jīng)允許禁止轉(zhuǎn)載，文中內(nèi)容僅代表作者觀點(diǎn)，不代表本報(bào)立場(chǎng)。

本期責(zé)編：程鑫云

《社會(huì)科學(xué)報(bào)》2026年征訂

點(diǎn)擊下方圖片網(wǎng)上訂報(bào)↓↓↓