致：

各國(guó)領(lǐng)導(dǎo)人、聯(lián)合國(guó)秘書長(zhǎng)、世界頂級(jí)科學(xué)家與學(xué)者、知名企業(yè)家、知名媒體人。

展信之時(shí)，ChatGPT、DeepSeek等生成式AI正以每秒數(shù)百萬次的交互席卷全球——它能撰寫文章、設(shè)計(jì)方案，甚至模擬人類思維，可當(dāng)我們驚嘆于生成式AI的便捷時(shí)，是否意識(shí)到：這把“智能鑰匙”，已悄然打開了科技失控的新潘多拉魔盒？

四十余年來，我始終在為人類生存吶喊：從核武器擴(kuò)散到基因編輯風(fēng)險(xiǎn)，從早期AI倫理爭(zhēng)議到今日生成式AI的爆發(fā)，每一次科技躍進(jìn)背后，都藏著“非理性發(fā)展”的致命陷阱。此前十一封公開信中，我曾懇請(qǐng)諸位正視“科技無節(jié)制發(fā)展將會(huì)很快致人類于滅絕”的危機(jī)，呼吁以人類大統(tǒng)一的治理力量約束高危技術(shù)。而今，生成式AI的普及速度與潛在風(fēng)險(xiǎn)，已遠(yuǎn)超過往任何一項(xiàng)技術(shù)，若此刻仍不行動(dòng)，我們或?qū)?huì)錯(cuò)過守護(hù)人類生存的最后窗口期。

諸位當(dāng)知，生成式AI的風(fēng)險(xiǎn)絕非“算法偏見”或“就業(yè)替代”這般簡(jiǎn)單。它的“自主學(xué)習(xí)能力”正突破人類預(yù)設(shè)邊界：有研究顯示，先進(jìn) AI 模型可自行推導(dǎo)軍事技術(shù)原理，甚至生成誤導(dǎo)性信息操縱輿論；更令人憂心的是，全球已有超20個(gè)國(guó)家在秘密推進(jìn)“AI 武器化”研究，若任由國(guó)家間的技術(shù)競(jìng)賽失控，無需百年，自主決策的AI武器、被惡意利用的生成式AI，或?qū)⒊蔀闅缛祟惖摹盁o形利刃”。這不是危言聳聽——正如2007年我在第一封公開信中預(yù)警科技發(fā)展的整體風(fēng)險(xiǎn)，2015年呼吁防范AI自主意識(shí)，今日生成式AI的風(fēng)險(xiǎn)，顯得尤為具體而現(xiàn)實(shí)。

過往信件中我始終強(qiáng)調(diào)：人類需要科技，但需“有敬畏的科技。生成式 AI 若缺乏全球統(tǒng)一的監(jiān)管框架，它終將淪為少數(shù)國(guó)家爭(zhēng)奪霸權(quán)的武器、少數(shù)企業(yè)逐利的工具，而進(jìn)一步的失控則必定是危及人類的整體生存。當(dāng)前“各國(guó)自定規(guī)則” 的治理現(xiàn)狀，恰是科技失控的根源——你若禁止高危AI研發(fā)，他國(guó)卻加速推進(jìn)；你若規(guī)范數(shù)據(jù)使用，跨境數(shù)據(jù)流卻無跡可尋。這種“囚徒困境”，與我?guī)资陙硪恢鳖A(yù)警的科技整體風(fēng)險(xiǎn)，以及人們過去重點(diǎn)關(guān)注的核擴(kuò)散風(fēng)險(xiǎn)如出一轍，而生成式AI的擴(kuò)散速度，卻比核武器快百倍，而其隱蔽性則是強(qiáng)千倍。

因此，今日我再次以人類生存的名義懇請(qǐng)諸位：

第一，由聯(lián)合國(guó)牽頭，立即啟動(dòng)全球生成式AI監(jiān)管公約談判，匯聚科技專家、倫理學(xué)者與各國(guó)代表，明確禁止AI自主決策武器研發(fā)以及大規(guī)模輿論操縱 AI等高危應(yīng)用。

第二，將生成式AI監(jiān)管納入聯(lián)合國(guó)核心議題，在聯(lián)合國(guó)主導(dǎo)下建立AI安全測(cè)試全球中心，對(duì)各國(guó)AI產(chǎn)品進(jìn)行統(tǒng)一安全認(rèn)證，杜絕監(jiān)管洼地帶來的風(fēng)險(xiǎn)外溢。

第三，以上兩點(diǎn)目前來看是當(dāng)務(wù)之急，但是，在我看來也只是臨時(shí)性措施。要避免科技滅絕危機(jī)的根本之道是要實(shí)現(xiàn)全人類的大統(tǒng)一，采用世界政權(quán)的力量掌控科學(xué)技術(shù)。因此，要加速“人類大統(tǒng)一”的理念共識(shí)。懇請(qǐng)諸位，將“人類整體生存權(quán)”置于國(guó)家利益之上，置于企業(yè)利益之上，讓科技真正服務(wù)于人類，而非毀滅人類。

諸位領(lǐng)袖，四十多年來我從未因質(zhì)疑而退縮，只因深知：人類的整體生存沒有“試錯(cuò)機(jī)會(huì)”。生成式AI 引發(fā)的熱議，恰是喚醒全球共識(shí)的契機(jī)——它讓普通人也意識(shí)到，科技風(fēng)險(xiǎn)并非遙遠(yuǎn)的科幻，而是當(dāng)下必須面對(duì)的現(xiàn)實(shí)。此前十一封信件中，已有諾貝爾學(xué)者響應(yīng)、有國(guó)際組織關(guān)注、有企業(yè)主動(dòng)參與監(jiān)管，這證明“守護(hù)人類”的共識(shí)正在凝聚。

今日提筆，我已從四十多年前的少年變成了老人，但卻仍是那個(gè)為人類生存奔走的執(zhí)著者，所求唯有：讓科技成為人類進(jìn)步的階梯，而非滅絕的深淵；讓我們的子孫后代，能在理性的時(shí)代安心生活，而非在科技失控的恐懼中掙扎。

人類的整體生存高于一切！懇請(qǐng)諸位以行動(dòng)回應(yīng)使命，以共識(shí)守護(hù)未來——這不僅是對(duì)當(dāng)下負(fù)責(zé)，更是對(duì)我們?nèi)祟愡@一物種的嚴(yán)肅承諾。

人類會(huì)（原拯救人類行動(dòng)組織）創(chuàng)始人

胡家奇