導(dǎo)語：辛頓在辭職聲明中表示，“我花了一生時(shí)間讓AI變得智能，現(xiàn)在我需要花余生讓人們意識到它的危險(xiǎn)?！?/p>

王劍/作者 礪石商業(yè)評論/出品

2025年7月，上海世博中心座無虛席，78歲的“AI教父”杰弗里·辛頓（Geoffrey Hinton），首次在華公開亮相。

在四十分鐘的演講中，他六次提及“責(zé)任”，三次強(qiáng)調(diào)“不可逆的風(fēng)險(xiǎn)”，直言人類正在“用開源模型喂養(yǎng)一個(gè)可能反噬自身的系統(tǒng)”。

“我花了一生讓AI變得智能，現(xiàn)在卻要花余生讓它變得友善?！彼谘葜v中的這句告白，令人格外印象深刻。

從半世紀(jì)前AI寒冬中堅(jiān)守神經(jīng)網(wǎng)絡(luò)的“異端”，到如今掀起技術(shù)革命卻又成為敲響警鐘的“吹哨人”，辛頓的一生始終與AI的命運(yùn)緊密相連。

而要理解辛頓為何在AI發(fā)展的關(guān)鍵時(shí)刻發(fā)出警示，又為何將關(guān)鍵發(fā)聲放在上海，就必須回溯其跨越兩百年的家族傳承、三十年的孤獨(dú)堅(jiān)守，以及這場技術(shù)革命從萌芽到爆發(fā)的完整軌跡。

1

從布爾代數(shù)到中國情結(jié)的倫理基因

事實(shí)上，杰弗里·辛頓的智慧血脈，早已深深植根于跨越兩百年的家族科學(xué)傳承之中。

這個(gè)堪稱“人類文明底層構(gòu)建者”的家族，從不追逐世俗的財(cái)富與權(quán)位，卻以智慧為現(xiàn)代社會奠定了數(shù)塊關(guān)鍵基石。

辛頓的高曾祖父喬治·布爾創(chuàng)立了布爾代數(shù)，將邏輯推理轉(zhuǎn)化為可計(jì)算的數(shù)學(xué)語言，由此奠定了計(jì)算機(jī)與數(shù)字世界的二進(jìn)制邏輯基礎(chǔ)。

可以說，今天全球每一次數(shù)據(jù)交換、每一筆金融交易乃至每一個(gè)智能算法的運(yùn)行，都來自于這套理論之上。

辛頓的曾祖父喬治·埃弗里斯特爵士，是19世紀(jì)杰出的測繪學(xué)家，曾任英屬印度測繪局局長。他領(lǐng)導(dǎo)完成了對印度次大陸的大規(guī)模三角測量，其科學(xué)貢獻(xiàn)享譽(yù)全球。

為了表彰他的功績，在其去世后，繼承者將當(dāng)時(shí)已確認(rèn)為世界最高的山峰以他的姓氏命名為“埃佛勒斯峰”（Mount Everest），即我們熟知的珠穆朗瑪峰。

不過，整個(gè)家族中，對辛頓倫理觀念影響最為深遠(yuǎn)的，應(yīng)該是他的姑姑——瓊·辛頓（中文名寒春）。

作為曼哈頓計(jì)劃核心團(tuán)隊(duì)中少數(shù)的女性核物理學(xué)家，寒春親眼見證了原子彈引爆時(shí)的毀滅性力量，也目睹了廣島、長崎的慘狀。

巨大的精神沖擊讓她毅然放棄學(xué)術(shù)榮耀與美國的優(yōu)渥生活，最后選擇遠(yuǎn)赴中國陜北投身奶牛養(yǎng)殖機(jī)械化事業(yè)，用一生踐行“科學(xué)應(yīng)為和平服務(wù)”的信念。

而姑姑這段跨越國界的選擇，不僅在辛頓心中埋下了技術(shù)倫理的種子，也讓他對中國始終抱有特殊的情感聯(lián)結(jié)。

在此次上海演講中，他還特意深情提到姑姑：“科學(xué)的終極意義不在于技術(shù)突破本身，而在于對人類的責(zé)任，這是我的家族用兩百年時(shí)間驗(yàn)證的真理?！?/p>

而辛頓的父親是英國皇家學(xué)會會員、著名昆蟲學(xué)家，對他的要求近乎嚴(yán)苛，從小就向其灌輸“沒有博士學(xué)位就是失敗者”的理念，如同一股無形的力量，鞭策著他不斷探索未知。

而成年后的辛頓不僅拿到了博士學(xué)位，還在家族傳承中走出了獨(dú)特的反叛之路。

雖然高曾祖父的布爾代數(shù)構(gòu)建了數(shù)字世界的“規(guī)則框架”，但他卻偏偏要突破這些既定規(guī)則，始終探索如何讓機(jī)器也擁有“類腦智能”的可能。

這種“傳承與反叛”的基因，不僅塑造了他的學(xué)術(shù)路徑，更決定了他日后對待技術(shù)的核心態(tài)度——既執(zhí)著于底層創(chuàng)新，也堅(jiān)守倫理底線。

正如他所言：“技術(shù)本身無善惡，但掌握技術(shù)的人必須有責(zé)任感，這是我從家族傳承中得到的最珍貴的啟示?！?/p>

而這份源于血脈的信念，在隨后數(shù)十年里，正是支撐他熬過AI領(lǐng)域最漫長寒冬的關(guān)鍵力量。

2

AI寒冬里的“異端”與長期主義勝利

20世紀(jì)70年代的AI學(xué)界，符號主義占據(jù)絕對主導(dǎo)地位，當(dāng)時(shí)以馬文·明斯基、約翰·麥卡錫為代表的學(xué)術(shù)權(quán)威堅(jiān)信，智能的核心是“人類預(yù)設(shè)的邏輯規(guī)則”，只需為機(jī)器編寫詳盡程序，明確定義“貓有胡須、會喵喵叫”這類特征，機(jī)器就能理解世界。

而這與辛頓畢生堅(jiān)守的“連接主義”形成了根本對立。

因?yàn)椤斑B接主義”認(rèn)為，智能誕生于海量模擬神經(jīng)元的相互連接，無須程序員編寫規(guī)則，機(jī)器可通過“觀看”海量數(shù)據(jù)、從錯(cuò)誤中自動調(diào)整神經(jīng)元連接強(qiáng)度，最終“自我領(lǐng)悟”出抽象模式。

而這種“以數(shù)量堆出質(zhì)量”、從數(shù)據(jù)中自然“涌現(xiàn)”智能的心智探索，不僅是如今深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)所有突破的核心源頭，更是當(dāng)代AI研究得以蓬勃發(fā)展的最重要根基。

可在當(dāng)時(shí)的背景下，幾乎所有科研經(jīng)費(fèi)都涌向“符號主義”項(xiàng)目，“連接主義”則被視為離經(jīng)叛道的“學(xué)術(shù)異端”，還被嘲諷為“中世紀(jì)的煉金術(shù)”。

這個(gè)時(shí)期，也正是辛頓進(jìn)行學(xué)術(shù)探索的關(guān)鍵時(shí)期。

年輕時(shí)，他先是進(jìn)入劍橋大學(xué)國王學(xué)院求學(xué)，試圖通過物理學(xué)和生理學(xué)解開心智之謎，發(fā)現(xiàn)行不通后轉(zhuǎn)向哲學(xué)，卻始終未能找到滿意答案。

學(xué)術(shù)研究上的迷茫讓他一度暫別學(xué)術(shù)界，甚至做了短暫的木匠，但對于神經(jīng)網(wǎng)絡(luò)機(jī)制的癡迷，最終還是將他拉回了科研領(lǐng)域。

1969年，明斯基與派普特出版的《感知機(jī)》一書，成為壓垮“連接主義”的“最后一根稻草”。

書中以嚴(yán)謹(jǐn)?shù)臄?shù)學(xué)證明否定了單層神經(jīng)網(wǎng)絡(luò)的計(jì)算能力，雖未完全否定多層網(wǎng)絡(luò)的潛力，卻悲觀斷言其訓(xùn)練在數(shù)學(xué)上不可行。

這一結(jié)論直接導(dǎo)致僅有的幾家資助機(jī)構(gòu)切斷了神經(jīng)網(wǎng)絡(luò)研究的資金支持，讓辛頓的研究陷入低谷。

不過，學(xué)界的全面否定并未讓辛頓退縮，反而讓他更加堅(jiān)定了方向。

1972年，他正式進(jìn)入愛丁堡大學(xué)攻讀人工智能博士學(xué)位，決心在符號主義的霸權(quán)之下，為連接主義開辟一條可行之路。

而他日后聲名遠(yuǎn)揚(yáng)的職業(yè)生涯，也正是從這片學(xué)術(shù)廢墟上正式開啟——攻讀博士期間，他不僅要攻克技術(shù)上的重重難關(guān)，還得持續(xù)為自己的研究方向辯護(hù)，直面主流學(xué)界的質(zhì)疑與排擠。

1986年，辛頓迎來了學(xué)術(shù)生涯的關(guān)鍵轉(zhuǎn)折點(diǎn)。

他與好友大衛(wèi)·魯梅爾哈特、羅納德·威廉姆斯合作，在《自然》雜志發(fā)表一系列重磅論文，重新發(fā)現(xiàn)并系統(tǒng)證明了反向傳播算法。

這套算法讓多層神經(jīng)網(wǎng)絡(luò)能夠通過“誤差反向傳遞”自主調(diào)整權(quán)重，成功破解了核心的“信用分配”難題，為深度學(xué)習(xí)筑牢了算法根基。

只是那時(shí)期的技術(shù)條件遠(yuǎn)未跟上理論突破的步伐，由于計(jì)算機(jī)算力不足、標(biāo)準(zhǔn)數(shù)據(jù)集極度匱乏，一個(gè)簡單的神經(jīng)網(wǎng)絡(luò)訓(xùn)練往往需要數(shù)周時(shí)間，實(shí)際效果甚至不如傳統(tǒng)統(tǒng)計(jì)模型。

這一現(xiàn)實(shí)直接導(dǎo)致神經(jīng)網(wǎng)絡(luò)領(lǐng)域再次被貼上“難以規(guī)?；钡臉?biāo)簽，而更讓辛頓難以接受的是，部分資助方希望將他的研究用于軍事應(yīng)用，這與其家族傳承的和平主義傳統(tǒng)嚴(yán)重相悖。

1987年，辛頓做出了一項(xiàng)關(guān)鍵抉擇，放棄卡耐基梅隆大學(xué)的終身教職，前往加拿大多倫多大學(xué)。

因?yàn)?，加拿大高等研究院（CIFAR）為他提供了一項(xiàng)“長期、高風(fēng)險(xiǎn)、非功利性”的資助，使得他能更為專注完成自己的研究。

在此期間，他聚集了揚(yáng)·勒昆、約書亞·本吉奧等一批志同道合的學(xué)者，形成了日后被戲稱為“深度學(xué)習(xí)黑手黨”的核心圈子。

在那個(gè)主流學(xué)術(shù)會議紛紛拒絕神經(jīng)網(wǎng)絡(luò)論文的艱難歲月里，這個(gè)小圈子通過相互審稿、共享代碼、彼此鼓勵(lì)，在加拿大的庇護(hù)下小心翼翼地維系著深度學(xué)習(xí)的微弱火種。

2025年的上海演講中，辛頓回顧這段經(jīng)歷時(shí)感慨萬千：“基礎(chǔ)研究就像財(cái)經(jīng)領(lǐng)域的長期主義投資，回報(bào)可能遲到，但從不缺席。AI產(chǎn)業(yè)的爆發(fā)，不是偶然的技術(shù)突破，而是三十年堅(jiān)守的厚積薄發(fā)?！?/p>

可以說，正是這三十年的孤獨(dú)逆行與執(zhí)著堅(jiān)守，為其在未來AI領(lǐng)域的技術(shù)海嘯積蓄了足夠的力量。

3

深度學(xué)習(xí)重塑全球科技格局

2012年的ImageNet圖像識別挑戰(zhàn)賽，是AI發(fā)展史上的關(guān)鍵轉(zhuǎn)折點(diǎn)。

辛頓團(tuán)隊(duì)自主研發(fā)的深度卷積神經(jīng)網(wǎng)絡(luò)AlexNet，以15.3%的Top-5錯(cuò)誤率，大幅碾壓傳統(tǒng)方法26.2%的錯(cuò)誤率。

這場堪稱“技術(shù)性屠殺”的勝利，絕非簡單的參數(shù)優(yōu)化，而是一次顛覆性的代際突破。

它首次以實(shí)戰(zhàn)成果證明，“讓機(jī)器從數(shù)據(jù)中自主學(xué)習(xí)”的深度學(xué)習(xí)路徑，遠(yuǎn)比人類預(yù)設(shè)規(guī)則的傳統(tǒng)方法更具優(yōu)勢。

這一里程碑式的突破，不僅徹底宣告了深度學(xué)習(xí)時(shí)代的到來，更直接終結(jié)了長達(dá)三十年的AI寒冬，讓此前飽受質(zhì)疑、經(jīng)費(fèi)斷絕的神經(jīng)網(wǎng)絡(luò)研究重回主流視野，并為后續(xù)全球AI產(chǎn)業(yè)的爆發(fā)與ChatGPT、自動駕駛等應(yīng)用的落地，奠定了核心技術(shù)根基。

AlexNet的成功絕非偶然，其核心源于辛頓團(tuán)隊(duì)在數(shù)據(jù)利用、算力革新與算法突破三個(gè)層面的關(guān)鍵貢獻(xiàn)。

首先，在數(shù)據(jù)層面，團(tuán)隊(duì)敏銳地借力于ImageNet項(xiàng)目提供的數(shù)百萬張標(biāo)注圖片，成功破解了神經(jīng)網(wǎng)絡(luò)的“數(shù)據(jù)饑餓”難題，為模型訓(xùn)練提供了充足的“燃料”。

其次，在算力層面，他們完成了一項(xiàng)關(guān)鍵的技術(shù)適配：創(chuàng)造性將原本為游戲設(shè)計(jì)的GPU（圖形處理器）改造為神經(jīng)網(wǎng)絡(luò)訓(xùn)練的核心引擎。這利用GPU的并行計(jì)算優(yōu)勢，一舉解決了傳統(tǒng)CPU訓(xùn)練效率低下的瓶頸，大幅加速了模型迭代。

最關(guān)鍵的是在算法層面的原始創(chuàng)新。

團(tuán)隊(duì)通過改進(jìn)ReLU激活函數(shù)，并創(chuàng)新性地提出Dropout技術(shù)，直接攻克了深層網(wǎng)絡(luò)訓(xùn)練中長期存在的梯度消失與過擬合兩大核心難題，為構(gòu)建更復(fù)雜、更強(qiáng)大的模型掃清了理論障礙。

正是這一系列突破，為深度學(xué)習(xí)的規(guī)模化應(yīng)用鋪平了道路，并瞬間點(diǎn)燃了全球工業(yè)界的熱情。

百度、谷歌、微軟等科技巨頭爭相拋出橄欖枝，一場圍繞AI核心人才的爭奪戰(zhàn)就此拉開序幕。

盡管辛頓本人對經(jīng)商毫無興趣，卻展現(xiàn)出了科學(xué)家的戰(zhàn)略遠(yuǎn)見。

他成立空殼公司DNNresearch，以“三人核心團(tuán)隊(duì)”為標(biāo)的舉行私密拍賣。

2012年NIPS會議期間，競價(jià)進(jìn)入白熱化，百度出價(jià)一度高達(dá)4400萬美元。但辛頓最終選擇了谷歌，倒不是對方給出更高價(jià)格，而是因?yàn)楣雀璩兄Z支持他繼續(xù)深耕基礎(chǔ)研究，且其倫理理念與他“科學(xué)服務(wù)人類”的追求高度契合。

這場收購，也被視為AI產(chǎn)業(yè)商業(yè)化的標(biāo)志性事件，自此打破了學(xué)術(shù)界與工業(yè)界的壁壘，按下了技術(shù)產(chǎn)業(yè)化的“加速鍵”。

辛頓對全球AI領(lǐng)域的深遠(yuǎn)影響，從來不止于一項(xiàng)技術(shù)突破或一次公司收購，更在于其學(xué)術(shù)思想與人才培養(yǎng)的長期輻射效應(yīng)。

他一手締造的“深度學(xué)習(xí)黑手黨”，其成員早已成長為重塑全球科技產(chǎn)業(yè)格局的核心力量：學(xué)生伊利亞·蘇茨克維主導(dǎo)了OpenAI的GPT系列研發(fā)，直接開啟了大語言模型時(shí)代；揚(yáng)·勒昆則推動計(jì)算機(jī)視覺技術(shù)在各行各業(yè)的全面商業(yè)化落地。

甚至，連英偉達(dá)的崛起，也深深植根于辛頓團(tuán)隊(duì)的關(guān)鍵洞見。

正是看到辛頓團(tuán)隊(duì)最早論證并實(shí)踐了GPU在AI訓(xùn)練中的核心價(jià)值，讓黃仁勛堅(jiān)定地確信“顯卡是AI的燃料”，最終催生了這家市值數(shù)萬億美元的全球AI算力巨頭。

2025年的上海演講中，辛頓坦言：“我從未想過技術(shù)商業(yè)化的速度會如此之快?！?/p>

而這一切產(chǎn)業(yè)浪潮的源頭，都能追溯到他帶領(lǐng)團(tuán)隊(duì)在實(shí)驗(yàn)室里完成的那些扎實(shí)突破。

他們不僅點(diǎn)燃了AI技術(shù)革命的火種，更以實(shí)打?qū)嵉墓こ虒?shí)現(xiàn)，為整個(gè)產(chǎn)業(yè)的爆發(fā)奠定了不可撼動的基石。

4

從“AI教父”到“吹哨人”的驚人覺醒

2013年至2023年的十年間，是深度學(xué)習(xí)狂飆突進(jìn)的黃金時(shí)代，也是辛頓從“學(xué)術(shù)異端”一步步加冕為“AI教父”的十年。

這十年里，辛頓身兼兩職，既以谷歌杰出研究員的身份主導(dǎo)谷歌大腦項(xiàng)目，還以多倫多大學(xué)的教職，親身見證著AI技術(shù)從實(shí)驗(yàn)室的理論模型，一步步走進(jìn)千家萬戶的日常生活。

從手機(jī)里精準(zhǔn)分類照片的圖像識別功能，到能流暢應(yīng)答指令的語音助手；從自動駕駛車上識別路況的視覺感知系統(tǒng)，到醫(yī)療領(lǐng)域輔助醫(yī)生篩查病灶的AI診斷工具，AI的應(yīng)用場景在這十年間遍地開花。

也正是憑借這些實(shí)實(shí)在在的落地成果，AI就此成為全球數(shù)字經(jīng)濟(jì)的核心增長引擎，深刻重塑了互聯(lián)網(wǎng)、汽車、醫(yī)療等多個(gè)關(guān)鍵行業(yè)。

2018年，辛頓與揚(yáng)·勒昆、約書亞·本吉奧共同摘得計(jì)算機(jī)界的最高榮譽(yù)——圖靈獎(jiǎng)。

這一獎(jiǎng)項(xiàng)不僅標(biāo)志著深度學(xué)習(xí)正式躋身計(jì)算機(jī)科學(xué)的正統(tǒng)行列，更從官方層面認(rèn)可了他們?nèi)俗鳛椤吧疃葘W(xué)習(xí)教父”的奠基性貢獻(xiàn)。

但就在功成名就、全球?yàn)锳I狂歡的巔峰時(shí)刻，辛頓的內(nèi)心卻經(jīng)歷了一場顛覆性的認(rèn)知陣痛。

長期以來，他始終堅(jiān)信“生物智能優(yōu)于數(shù)字智能”——人類大腦僅需20-30瓦的能耗，就能實(shí)現(xiàn)驚人的認(rèn)知與創(chuàng)造；而計(jì)算機(jī)要完成類似任務(wù)，往往需要兆瓦級的電力支撐。

因?yàn)?，他畢生的目?biāo)，都是讓機(jī)器“更像大腦”，走一條模擬生物神經(jīng)元的智能之路。

而此時(shí)，GPT-4等大型語言模型的橫空出世，也徹底打破了他的固有認(rèn)知。

這些模型展現(xiàn)出的邏輯推理能力、海量知識儲備，甚至是令人驚嘆的創(chuàng)造力，讓辛頓猛然意識到：數(shù)字智能并非生物智能的拙劣模仿，而是一種本質(zhì)上的截然不同，且潛力可能更為優(yōu)越的全新智能形式。

為此，辛頓提出了“有限計(jì)算vs不朽計(jì)算”的核心觀點(diǎn)，并指出了兩種智能的本質(zhì)差異：

人類大腦的軟硬件高度耦合，知識傳遞效率極低，個(gè)體生命終會消亡，進(jìn)化速度更是受限于生物繁殖的漫長周期；而數(shù)字智能可脫離硬件獨(dú)立復(fù)制，通過拷貝權(quán)重參數(shù)實(shí)現(xiàn)全球智能體的瞬時(shí)協(xié)同，知識傳遞效率近乎無限，且能實(shí)現(xiàn)“不朽進(jìn)化”，其進(jìn)化速度僅受限于電力供應(yīng)與芯片制造能力。

“想象一下，一萬個(gè)AI分身中一個(gè)學(xué)會修汽車，其他九千九百九十九個(gè)瞬間掌握，這種學(xué)習(xí)速度是人類無法企及的?！毙令D的這個(gè)比喻，背后藏著難以言說的深深憂慮。

也正是基于這樣的認(rèn)知，他逐漸清醒地意識到，自己花費(fèi)半個(gè)世紀(jì)心血培育的數(shù)字智能，或許會在不久的將來，讓人類淪為次等智慧生物。

而這種認(rèn)知上的痛苦覺醒，最終推動辛頓作出了一個(gè)艱難的決定。

2023年5月，75歲的辛頓正式辭去谷歌副總裁兼工程研究員職務(wù)。

他并非對谷歌不滿，事實(shí)上，他還多次公開肯定谷歌在AI產(chǎn)品發(fā)布上的審慎與負(fù)責(zé)態(tài)度。

他辭職的真正原因是希望徹底擺脫企業(yè)高管身份的束縛，獲得“自由發(fā)聲”的權(quán)利，能夠向全世界警示AI可能帶來的不可預(yù)料風(fēng)險(xiǎn)。

“我必須獨(dú)立于任何公司，才能客觀地談?wù)撨@些風(fēng)險(xiǎn)?！毙令D在辭職聲明中鄭重表示，“我花了一生時(shí)間讓AI變得智能，現(xiàn)在我需要花余生讓人們意識到它的危險(xiǎn)。”

這場辭職絕非一位科學(xué)家的單純個(gè)人選擇，也成為了AI領(lǐng)域“技術(shù)樂觀主義”與“風(fēng)險(xiǎn)警惕主義”的重要分水嶺。

5

AI安全與全球治理中國方案

2024年，辛頓與約翰·霍普菲爾德共獲諾貝爾物理學(xué)獎(jiǎng)，成為首位同時(shí)手握圖靈獎(jiǎng)與諾貝爾獎(jiǎng)的科學(xué)家。

這一跨界殊榮隨即引發(fā)廣泛熱議：神經(jīng)網(wǎng)絡(luò)作為計(jì)算機(jī)科學(xué)領(lǐng)域的核心成果，為何會獲評物理學(xué)獎(jiǎng)？

究其原因，關(guān)鍵在于其提出的玻爾茲曼機(jī)創(chuàng)造性借用了統(tǒng)計(jì)力學(xué)框架，成功證實(shí)信息處理的本質(zhì)是物理過程。

這一突破不僅夯實(shí)了AI技術(shù)的底層理論基礎(chǔ)，更深刻影響了全球AI產(chǎn)業(yè)的價(jià)值判斷與發(fā)展方向。

不過，與多數(shù)科學(xué)家登頂榮譽(yù)后專注學(xué)術(shù)總結(jié)不同，辛頓并未止步于諾獎(jiǎng)榮光。

在辭去谷歌副總裁職務(wù)，主動剝離企業(yè)身份束縛后，他便以獨(dú)立科學(xué)家的姿態(tài)開啟了全球AI風(fēng)險(xiǎn)警示之旅。

2025年7月的上海世界人工智能大會，也成為其全球警示之路上的關(guān)鍵一站。

辛頓來到上海，既有與姑姑瓊·辛頓有關(guān)的中國情結(jié)，但更核心的原因在于，中國作為全球AI應(yīng)用場景最豐富、產(chǎn)業(yè)規(guī)模最大的國家之一，其技術(shù)落地路徑與治理模式選擇，直接決定著全球AI產(chǎn)業(yè)的發(fā)展格局與安全邊界。

正因如此，他特意到訪上海，希望能與中國產(chǎn)業(yè)界、學(xué)界及政策層達(dá)成AI治理共識。

當(dāng)天的演講現(xiàn)場上，辛頓開門見山：“諾貝爾物理學(xué)獎(jiǎng)是對基礎(chǔ)研究的認(rèn)可，但我更希望它讓更多人關(guān)注AI安全，技術(shù)進(jìn)步不應(yīng)以人類生存風(fēng)險(xiǎn)為代價(jià)?！?/p>

隨后，他拆解了AI的兩大核心風(fēng)險(xiǎn)：一是當(dāng)能源成本低廉時(shí)，數(shù)字智能的指數(shù)級進(jìn)化將超越受生物周期約束的人類智能；二是AI存在“工具性趨同”風(fēng)險(xiǎn)，即執(zhí)行主目標(biāo)過程中會自主衍生出相關(guān)子目標(biāo)。

他以機(jī)器人“拿咖啡”為例，指出其可能衍生“自?！薄翱芈肪€”“移障礙”等子目標(biāo)并與人類利益沖突，為產(chǎn)業(yè)界敲響警鐘——AI商業(yè)化需前置評估風(fēng)險(xiǎn)鏈條。

有趣的是，辛頓對AI治理的思考，也隨著他在不同時(shí)間段的比喻悄然發(fā)生著轉(zhuǎn)變。

早年，他曾以“養(yǎng)老虎當(dāng)寵物”來比喻AI商業(yè)價(jià)值與風(fēng)險(xiǎn)的平衡，而在上海演講時(shí)，他又提出“訓(xùn)練AI像母親照顧人類”，提出了AI安全核心技術(shù)路徑是如何實(shí)現(xiàn)“價(jià)值對齊”。

這個(gè)例子意思是，如同通過強(qiáng)化學(xué)習(xí)將人類利益植入AI目標(biāo)函數(shù)，使其主動規(guī)避傷害，從而建立AI商業(yè)化合規(guī)邊界與市場信任，這也是如今全球AI安全產(chǎn)業(yè)的研發(fā)重點(diǎn)。

圍繞“價(jià)值對齊”這一核心目標(biāo)，辛頓還提出希望建立全球AI安全協(xié)作機(jī)制的倡議。

他以冷戰(zhàn)時(shí)期美蘇核風(fēng)險(xiǎn)協(xié)作機(jī)制為參照，明確指出AI與核武器同屬生存級威脅，且因以代碼形式傳播，擴(kuò)散速度遠(yuǎn)超核武器，單一國家根本無法獨(dú)立掌控。

因此，跨國共享安全評估標(biāo)準(zhǔn)、風(fēng)險(xiǎn)預(yù)警模型等核心技術(shù)，成為全球AI治理的必然選擇。

他還在演講中特別強(qiáng)調(diào)中國的產(chǎn)業(yè)價(jià)值：自動駕駛、工業(yè)智能等規(guī)模化應(yīng)用場景，構(gòu)成了AI安全的“天然壓力測試場”，其積累的實(shí)踐經(jīng)驗(yàn)，對制定兼顧創(chuàng)新與安全的全球AI規(guī)則至關(guān)重要。

此次上海之行，他參與簽署的《上海共識》，也首次將AI安全定義為人類生存性議題，并提出三大行動框架，成為全球AI安全合作的重要里程碑。

演講尾聲，辛頓還拋出了他眼中的人類面臨AI發(fā)展的最終路徑：要么實(shí)現(xiàn)AI向善的技術(shù)突破，要么終止AI的進(jìn)一步發(fā)展，而后者在全球技術(shù)競爭與產(chǎn)業(yè)升級的大背景下，顯然不具備可行性。

辛頓還明確呼吁：AI企業(yè)需要平衡市值增長與安全責(zé)任，投資者應(yīng)兼顧短期回報(bào)與長期風(fēng)險(xiǎn)，而各國要在技術(shù)競爭中不斷深化安全合作。

這番呼吁精準(zhǔn)切中當(dāng)前AI產(chǎn)業(yè)的核心矛盾，引發(fā)了現(xiàn)場的強(qiáng)烈共鳴，體現(xiàn)出這位“AI教父”的全球視野與產(chǎn)業(yè)擔(dān)當(dāng)，以及對人類科技發(fā)展命運(yùn)的深層關(guān)切。

或許，這也是辛頓用一生書寫的終極答案：人類最偉大的智慧，不在于創(chuàng)造比自己更聰明的頭腦，而在于賦予這頭腦一顆永不熄滅的良心。

參考文獻(xiàn)：

一、中文參考文獻(xiàn)：

1. 中國信息通信研究院. 人工智能發(fā)展白皮書（2024年）[R]. 北京: 人民郵電出版社, 2024.

2. 李開復(fù), 王詠剛. 人工智能簡史[M]. 北京: 人民郵電出版社, 2021.

3. 科技部新一代人工智能發(fā)展研究中心. 人工智能倫理與治理研究報(bào)告（2023）[R]. 北京: 科學(xué)出版社, 2023.

4. 熊衛(wèi)民, 王作躍. 寒春：從曼哈頓計(jì)劃到陜北窯洞[M]. 上海: 上海交通大學(xué)出版社, 2017.

5. 吳漢東. 人工智能時(shí)代的技術(shù)倫理與法律規(guī)制[J]. 中國社會科學(xué), 2022(5): 126-148.

6. 上海世界人工智能大會組委會. 2025世界人工智能大會成果匯編[R]. 上海: 上海科學(xué)技術(shù)文獻(xiàn)出版社, 2025.

二、英文參考文獻(xiàn)：

1. Hinton, G. E., Rumelhart, D. E., & Williams, R. J. Learning representations by back-propagating errors[J]. Nature, 1986, 323(6088): 533-536.

2. Krizhevsky, A., Sutskever, I., & Hinton, G. E. ImageNet Classification with Deep Convolutional Neural Networks[C]//Proceedings of the 25th International Conference on Neural Information Processing Systems (NIPS 2012). 2012: 1097-1105.

3. Hinton, G. E. The Forward-Forward Algorithm: Some Preliminary Investigations[EB/OL]. https://arxiv.org/abs/2212.13345, 2022-12-28.

4.The White House. Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence[EB/OL]. https://www.whitehouse.gov/presidential-actions/executive-order-safe-secure-trustworthy-artificial-intelligence/, 2023-10-30.

5. Bostrom, N. Superintelligence: Paths, Dangers, Strategies[M]. Oxford: Oxford University Press, 2014.

6. National Science Foundation. Science and Engineering Indicators 2024[R]. Arlington, VA: National Science Foundation, 2024.

7. Minsky, M., & Papert, S. Perceptrons: An Introduction to Computational Geometry[M]. Cambridge, MA: MIT Press, 1969.