2025年10月，蘭德公司發(fā)布報告《我們應何時擔憂人工智能被用于設計病原體——生物學和人工智能專家發(fā)表意見》（When Should We Worry About AI Being Used to Design a Pathogen?—Biology and AI Experts Weigh In）。報告指出，我們正站在一個技術(shù)變革的十字路口，人工智能與生物技術(shù)的深度融合，正以前所未有的力量重塑生命科學的研究范式。這股力量兼具創(chuàng)造與毀滅的雙重潛力：一方面，它催生了驚人的科學突破，為全球健康帶來曙光；另一方面，它顯著降低了惡意設計病原體的門檻，對全球生物安全構(gòu)成了嚴峻且前所未有的威脅。理解人工智能在病原體設計中的應用邊界與演進軌跡，已不再是遙遠的學術(shù)探討，而是關(guān)乎國家與國際安全的迫在眉睫的核心議題。本報告旨在系統(tǒng)梳理人工智能賦能病原體設計的當前能力與未來風險，評估現(xiàn)有生物防御體系的脆弱性，并在此基礎上，提出構(gòu)建面向人工智能時代的韌性生物防御體系的核心政策要點。

一、人工智能在病原體設計中的

角色演進與風險時間線

當前，人工智能在生物工程領域主要扮演的是“強力輔助”而非獨立的“設計主宰”角色。專家達成共識，至少在2027年之前，人工智能尚不具備自主設計全新、可行病原體的能力。當前其價值主要體現(xiàn)在加速研究進程上，例如：協(xié)助研究人員識別關(guān)鍵靶點基因，這些基因的突變可能改變病原體的宿主范圍（實現(xiàn)從非人類到人類的跳躍或轉(zhuǎn)變?yōu)榭諝鈧鞑ィ?、增強其在環(huán)境中的穩(wěn)定性、加快復制速率、提升毒素的致命性或使其對抗生素及抗病毒藥物產(chǎn)生耐藥性。然而，這些能力并非憑空創(chuàng)造，其有效性嚴重依賴于用于訓練模型的生物數(shù)據(jù)的質(zhì)量、廣度與深度。不完整、有偏差或存在空白的數(shù)據(jù)集將直接導致模型預測失準，而涉及多因素交互的復雜長期預測，如宿主—病原體的相互作用，對現(xiàn)有人工智能模型而言仍是巨大挑戰(zhàn)。

從生物學本質(zhì)來看，病原體的工程化也并非毫無限制。病原體的傳播能力受制于其物理和生物特性，例如在宿主體外的存活能力、傳播方式以及對宿主的影響（過快導致宿主死亡反而可能不利于傳播）。此外，存在“適應性權(quán)衡”情形，旨在增強某一特性的基因改造可能會在其他無關(guān)方面削弱病原體，例如增強環(huán)境穩(wěn)定性可能以降低復制效率為代價。人類的免疫反應和公共衛(wèi)生干預措施（如疫苗接種、社交距離和醫(yī)療對策）同樣構(gòu)成強大的外部制約，即使是設計精良的病原體也能夠被迅速遏制傳播。

然而，這絕不意味著可以高枕無憂。風險格局正在動態(tài)且迅速地演變。專家們雖然對能力提升的速度存在分歧，但一致認為風險正在累積和擴大。展望2027年之后的更長時期，幾個關(guān)鍵領域的進展將顯著改變風險前景：生物工程臨床應用能力的深化、可實現(xiàn)快速反饋的實驗室自動化、能夠減少對實體實驗依賴的高保真生物系統(tǒng)模擬，以及向通用人工智能系統(tǒng)的邁進。一旦人工智能在生物設計領域?qū)崿F(xiàn)從“輔助”到“驅(qū)動”乃至“自主”的質(zhì)變，其潛在影響將是顛覆性的。不存在能夠阻止人工智能最終具備設計病原體能力的基本生物學限制，這一共識警示我們，最壞的擔憂雖非眼前，但必須從此刻起未雨綢繆。

二、現(xiàn)有生物防御體系在人工智能時代

暴露的脆弱性

面對人工智能驅(qū)動的新型生物威脅，傳統(tǒng)生物防御體系的兩大核心支柱——生物設計工具模型的內(nèi)在防護和核酸合成訂單的篩查——正顯露出致命的局限性。

在生物設計工具模型防護方面，現(xiàn)狀堪憂。盡管領先的模型開發(fā)者可能采取一些安全措施，例如從訓練數(shù)據(jù)中移除已知危險病原體序列，但這類防護往往是靜態(tài)和脆弱的。惡意行為者能夠通過對模型進行“微調(diào)”，輕易地將有害序列數(shù)據(jù)重新注入，從而“教會”模型生成危險設計。更令人警覺的是，整個生物設計工具生態(tài)系統(tǒng)的安全狀況極不樂觀。調(diào)查數(shù)據(jù)顯示，目前僅有極低比例的生物設計工具配備了安全防護措施（包括嚴格的訪問控制、訓練數(shù)據(jù)過濾或輸出審查），而這些已部署的措施本身也普遍存在漏洞，可靠性存疑。這種整體性的安全缺失，使得強大的生物設計能力可能毫無阻礙地擴散。

在核酸合成篩選方面，現(xiàn)行體系建立在“管制病原體與毒素清單”基礎上，其缺陷在人工智能時代被急劇放大?，F(xiàn)有清單僅涵蓋有限數(shù)量的已知病原體和毒素，這種基于靜態(tài)名單的篩選方法，完全無法應對由人工智能生成的全新、自然界中不存在的生物序列威脅。測試結(jié)果觸目驚心：主流商業(yè)合成篩查軟件對經(jīng)過人工智能改造的毒素序列漏檢率極高，意味著現(xiàn)有工具基本無法識別這類非清單上的新型威脅。盡管業(yè)界和政府已啟動擴展“關(guān)注序列”數(shù)據(jù)庫的倡議，但這項工作面臨著缺乏標準化、更新嚴重滯后、不同篩查機構(gòu)間數(shù)據(jù)孤島化等挑戰(zhàn)，其推進速度遠遠跟不上人工智能生成新型威脅序列的步伐。

三、構(gòu)建面向未來的韌性生物防御體系：

核心政策行動方案

鑒于威脅的緊迫性和現(xiàn)有防御體系的不足，必須采取果斷且系統(tǒng)的行動，構(gòu)建一套能夠有效應對人工智能時代挑戰(zhàn)的新型生物防御體系。

首要行動是強化政府基礎能力建設與資金保障。國家標準與技術(shù)研究院及其下屬的美國人工智能安全研究所應被確立為推進人工智能生物安全評估、開發(fā)和制定篩查標準的核心機構(gòu)。它們的工作對于建立全國統(tǒng)一的測試基準、風險評估框架和數(shù)據(jù)共享標準至關(guān)重要。當前任何旨在削減這些關(guān)鍵機構(gòu)經(jīng)費的預算提案都將直接削弱國家的生物安全根基。立法者必須意識到其中的戰(zhàn)略風險，確保為相關(guān)機構(gòu)提供充足、穩(wěn)定的資金流，以支持其開展前沿模型測試、推動數(shù)據(jù)標準化進程及進行必要的國際協(xié)調(diào)。

第二項核心行動是建立對前沿生物設計工具的持續(xù)評估與紅隊測試機制。應由專業(yè)智庫聯(lián)合跨部門的“人工智能與國家安全測試風險工作組”，并吸納國際合作伙伴及頂尖學術(shù)機構(gòu)，定期對市場上及實驗室中最強大的生物設計工具模型進行系統(tǒng)性能力評估。評估焦點應明確放在那些最危險的能力上，例如設計全新病原體、優(yōu)化病原體以逃避免疫系統(tǒng)、或設計能夠規(guī)避現(xiàn)有篩查工具序列的能力。為確保監(jiān)管的精準與高效，測試對象應聚焦于基于客觀閾值（如計算算力、訓練數(shù)據(jù)量）判定的“能力最強”的模型，避免監(jiān)管范圍過度擴大而扼殺有益的科研創(chuàng)新與產(chǎn)業(yè)發(fā)展。

第三項關(guān)鍵行動是推動核酸合成篩查系統(tǒng)的技術(shù)升級與標準化。應由白宮科技政策辦公室牽頭，協(xié)調(diào)衛(wèi)生、商務、國土安全等部門，并聯(lián)合私營合成生物學企業(yè)，共同開發(fā)和部署一套全國統(tǒng)一的、人工智能賦能的新一代合成序列篩查系統(tǒng)。這套系統(tǒng)必須超越過去的靜態(tài)名單比對，深度整合人工智能的預測能力，對每一筆合成序列訂單實施動態(tài)的、分層級的風險評估。其工作框架應設計為：與已知威脅序列無相似性的序列劃為低風險快速放行；存在部分相似性的列為中風險，觸發(fā)深度客戶核查；高度相似或經(jīng)AI預測判定為潛在有害的序列視為高風險，需暫緩并由政府監(jiān)管部門審查；對于被高度確信具有引發(fā)大流行潛力的極端危險序列，系統(tǒng)應立即終止訂單并自動向國家安全機構(gòu)報警。整個系統(tǒng)設計必須精心權(quán)衡安全與效率，在最大化安全效益的同時，盡量避免給合成生物學行業(yè)帶來過重負擔。

四、結(jié)論：

在創(chuàng)新與安全之間尋求平衡之道

人工智能技術(shù)正以指數(shù)級速度重塑生物技術(shù)的研發(fā)范式，其強大的雙重用途特性要求國家的應對之策必須同時服務于兩個有時相互競爭的目標：堅決防范任何惡意濫用行為，與積極保護和促進負責任的科學創(chuàng)新和產(chǎn)業(yè)發(fā)展。分析表明，拖延和不作為的風險極高。雖然美國政府已認識到這一問題并邁出初步步伐，但現(xiàn)在亟需將原則性聲明加速轉(zhuǎn)化為具體、可操作、有資金支持的法律法規(guī)和政策工具。通過果斷投資于基礎能力建設、建立對前沿模型的持續(xù)評估機制、以及徹底升級國家的核酸合成篩選基礎設施，美國可以推行一項“高回報、低成本”的先發(fā)制人式生物防御戰(zhàn)略。最終目標是構(gòu)建一個多層次的強大防御體系，確保無論技術(shù)如何演進，惡意開發(fā)生物武器始終是一項極其困難、成本高昂且極易被察覺和阻止的行動，從而在全球生物安全的新紀元中牢牢守住人類健康的底線。

免責聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達不同觀點，如有任何異議，歡迎聯(lián)系我們！

研究所簡介

國際技術(shù)經(jīng)濟研究所（IITE）成立于1985年11月，是隸屬于國務院發(fā)展研究中心的非營利性研究機構(gòu)，主要職能是研究我國經(jīng)濟、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務?！叭蚣夹g(shù)地圖”為國際技術(shù)經(jīng)濟研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er