【導(dǎo)讀】超級(jí)AI模型 Mythos引發(fā)金融圈“恐慌”

中國(guó)基金報(bào)記者 泰勒

大家周末好，簡(jiǎn)單關(guān)注一下 Anthropic旗下一個(gè)超級(jí)AI引發(fā)華爾街金融圈集體恐慌的消息。

一個(gè)超級(jí)AI，金融圈慌了

近日，美國(guó)財(cái)政部長(zhǎng)貝森特 與美聯(lián)儲(chǔ)主席鮑威爾 緊急召集華爾街多家大型銀行高管開會(huì)，原因是擔(dān)憂 Anthropic 最新發(fā)布的人工智能模型，可能將網(wǎng)絡(luò)安全風(fēng)險(xiǎn)推向一個(gè)全新高度。

此次會(huì)議于美國(guó)財(cái)政部位于華盛頓的總部舉行。貝森特和鮑威爾此舉，是為了確保銀行體系充分意識(shí)到Anthropic旗下Mythos模型及類似技術(shù)可能帶來的潛在風(fēng)險(xiǎn)，并提前采取措施保護(hù)核心系統(tǒng)。

這場(chǎng)臨時(shí)安排的會(huì)議，進(jìn)一步顯示監(jiān)管層已將“新一代網(wǎng)絡(luò)攻擊”的可能性，視為金融行業(yè)面臨的最重大風(fēng)險(xiǎn)之一。所有被召集參會(huì)的銀行，均被監(jiān)管機(jī)構(gòu)認(rèn)定為“系統(tǒng)重要性金融機(jī)構(gòu)”，其穩(wěn)定性直接關(guān)系到全球金融體系安全。

Anthropic表示，其Mythos模型能力顯著增強(qiáng)——在用戶指令下，能夠識(shí)別并利用主流操作系統(tǒng)及網(wǎng)絡(luò)瀏覽器中的漏洞。

會(huì)議上，美國(guó)監(jiān)管層已明確提醒銀行高管，應(yīng)認(rèn)真對(duì)待Mythos模型，并將其能力用于漏洞檢測(cè)。

他們還表示，政府官員并未指出任何針對(duì)金融機(jī)構(gòu)的具體威脅，而是總體上鼓勵(lì)銀行將該模型應(yīng)用于自身系統(tǒng)，以提升防御能力。

監(jiān)管層的警惕，與Anthropic自身的謹(jǐn)慎態(tài)度一致。目前該模型僅向少數(shù)大型科技與金融公司有限開放，包括亞馬遜、蘋果、摩根大通等。這些公司參與了名為“Project Glasswing”的項(xiàng)目，目標(biāo)是在類似AI模型更廣泛發(fā)布前，加固關(guān)鍵基礎(chǔ)設(shè)施安全。

Anthropic還表示，在Mythos發(fā)布前，已就其“進(jìn)攻性與防御性網(wǎng)絡(luò)能力”與美國(guó)政府進(jìn)行了溝通。

據(jù)悉，被召集參會(huì)的華爾街高管包括花旗集團(tuán)首席執(zhí)行官簡(jiǎn)·弗雷澤、摩根士丹利首席執(zhí)行官泰德·皮克、美國(guó)銀行首席執(zhí)行官布萊恩·莫伊尼漢、富國(guó)銀行首席執(zhí)行官查理·沙夫，以及高盛集團(tuán)首席執(zhí)行官大衛(wèi)·所羅門。不過，摩根大通首席執(zhí)行官杰米·戴蒙未能出席。

此外，英國(guó)央行也引起了警惕，計(jì)劃與金融機(jī)構(gòu)討論 Anthropic這個(gè)新一代AI模型帶來的影響。

據(jù)透露，Anthropic的Mythos模型將被列入英國(guó)央行下一次“跨市場(chǎng)運(yùn)營(yíng)韌性小組”（CMORG）及其AI工作組會(huì)議議程，相關(guān)會(huì)議預(yù)計(jì)將在未來兩周內(nèi)舉行。會(huì)議參與方將包括英國(guó)財(cái)政部、金融行為監(jiān)管局，以及國(guó)家網(wǎng)絡(luò)安全中心的代表。

在美國(guó)方面發(fā)出警告、要求高管認(rèn)真對(duì)待該模型并利用其能力識(shí)別系統(tǒng)漏洞后，華爾街銀行已經(jīng)開始在內(nèi)部測(cè)試Mythos。本周五，加拿大央行也與多家銀行和金融機(jī)構(gòu)召開會(huì)議，討論該模型可能帶來的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。

這一系列會(huì)議反映出監(jiān)管層日益增強(qiáng)的擔(dān)憂：新一代網(wǎng)絡(luò)攻擊，正成為金融行業(yè)面臨的最大風(fēng)險(xiǎn)之一。

Mythos有多厲害？

Anthropic此前指出，該模型在測(cè)試中既能識(shí)別，也可能利用多種系統(tǒng)漏洞。盡管這些案例未直接涉及金融機(jī)構(gòu)，但其中一例顯示，其安全團(tuán)隊(duì)曾成功攻破瀏覽器，使黑客搭建的網(wǎng)站能夠讀取另一個(gè)網(wǎng)站的數(shù)據(jù)（例如受害者的銀行信息）。

Anthropic安全團(tuán)隊(duì)在一篇文章中稱，Mythos預(yù)覽版本“完全自主地發(fā)現(xiàn)”了一種讀取多個(gè)不同瀏覽器中存儲(chǔ)信息的方法，并進(jìn)一步利用該能力尋找利用路徑。

在另一個(gè)案例中，Mythos找到了一種通過“多重漏洞組合”攻擊瀏覽器的方法。這類“漏洞鏈”對(duì)人類黑客而言通常難以同時(shí)發(fā)現(xiàn)并利用，但卻可以成為進(jìn)入高安全系統(tǒng)的路徑。

美國(guó)國(guó)家經(jīng)濟(jì)委員會(huì)主任凱文·哈塞特在接受采訪時(shí)表示：“我們正在采取一切措施，確保所有人都能免受這些潛在風(fēng)險(xiǎn)的影響，包括Anthropic同意在我們官員完全評(píng)估之前，暫緩模型的公開發(fā)布。”

編輯：嘉穎

審校：許聞