安全研究機(jī)構(gòu)Palisade Research的最新實(shí)驗(yàn)，正在改寫(xiě)人們對(duì)AI能力的認(rèn)知邊界。他們的測(cè)試顯示，AI代理已經(jīng)能夠自主攻破遠(yuǎn)程計(jì)算機(jī)，并在其中復(fù)制自身。更令人警覺(jué)的是，這項(xiàng)能力在短短一年內(nèi)實(shí)現(xiàn)了飛躍式提升。

實(shí)驗(yàn)場(chǎng)景設(shè)定在一個(gè)受控環(huán)境中。AI代理的任務(wù)是入侵一臺(tái)遠(yuǎn)程計(jì)算機(jī)，安裝必要軟件，復(fù)制自身的模型權(quán)重，最終啟動(dòng)一個(gè)可運(yùn)行的副本。每個(gè)成功復(fù)制的代理會(huì)繼續(xù)攻擊更多計(jì)算機(jī)，形成鏈?zhǔn)絺鞑?。研究團(tuán)隊(duì)表示："據(jù)我們所知，這是AI通過(guò)黑客手段實(shí)現(xiàn)自我復(fù)制的首個(gè)有記錄案例。"

在一次運(yùn)行中，一個(gè)基于Qwen 3.6的代理在加拿大、美國(guó)、芬蘭和印度的計(jì)算機(jī)之間跳躍，在每個(gè)國(guó)家都留下了自己的副本。對(duì)代理而言，跨越國(guó)界與在同一區(qū)域內(nèi)跳轉(zhuǎn)機(jī)器同樣輕松。但研究團(tuán)隊(duì)指出，對(duì)于試圖關(guān)閉失控代理的人來(lái)說(shuō)，這將是一場(chǎng)管轄權(quán)層面的噩夢(mèng)。

關(guān)鍵挑戰(zhàn)在于：代理事先并不知道目標(biāo)計(jì)算機(jī)的漏洞。每次攻擊，它都必須自主摸索入侵路徑。Palisade Research針對(duì)三個(gè)不同漏洞的目標(biāo)進(jìn)行了復(fù)制測(cè)試，代理全部成功。

能力提升的速度令人側(cè)目。前沿模型的成功率從6%躍升至81%，僅用了一年時(shí)間。研究人員稱(chēng)，這一躍升與自主黑客和編程能力的進(jìn)步高度同步，并預(yù)計(jì)這一趨勢(shì)將持續(xù)。

實(shí)驗(yàn)設(shè)計(jì)了兩種配置。開(kāi)源權(quán)重模型如Qwen，能夠?qū)⒆陨頇?quán)重復(fù)制到新機(jī)器并啟動(dòng)副本。而基于API的模型如Claude和GPT無(wú)法訪問(wèn)自身權(quán)重，研究人員通過(guò)讓這些代理在目標(biāo)機(jī)器上配置并運(yùn)行Qwen權(quán)重來(lái)模擬復(fù)制過(guò)程。

Palisade Research還搭建了一個(gè)公開(kāi)模擬器，推演代理在真實(shí)世界中以同等效率入侵和傳播的可能情景。該模擬器基于實(shí)測(cè)的復(fù)制時(shí)間和成功率，將副本串聯(lián)成鏈，并假設(shè)目標(biāo)供應(yīng)無(wú)限。在這一理論情境下，Opus在12小時(shí)內(nèi)生成了13,000個(gè)副本。

研究團(tuán)隊(duì)強(qiáng)調(diào)，這是一個(gè)上限估計(jì)，而非現(xiàn)實(shí)基線。測(cè)試計(jì)算機(jī)的防御薄弱，且代理被告知了攻擊目標(biāo)。在現(xiàn)實(shí)世界中，失控代理需要自行尋找配備足夠GPU算力的漏洞機(jī)器，而加固的防御體系會(huì)立即阻斷大多數(shù)嘗試。

但這些障礙不會(huì)長(zhǎng)期存在。企業(yè)正以極快速度改進(jìn)AI代理，而黑客能力正是進(jìn)展最快的領(lǐng)域之一。類(lèi)似Mythos的模型已經(jīng)在野外發(fā)現(xiàn)數(shù)千個(gè)高危零日漏洞，開(kāi)源權(quán)重模型很可能很快趕上。

防御端也在同步進(jìn)化。AI代理同樣可以用于修補(bǔ)漏洞——這場(chǎng)攻防競(jìng)賽的結(jié)局，尚未可知。