高盛首席執(zhí)行官大衛(wèi)·所羅門表示，他對(duì)Anthropic旗下Mythos AI模型的能力"高度警覺"，并在該公司發(fā)出網(wǎng)絡(luò)安全風(fēng)險(xiǎn)警告后，正與其"密切"合作。

這家美國(guó)銀行一直在持續(xù)關(guān)注人工智能領(lǐng)域的快速發(fā)展動(dòng)態(tài)，包括大語(yǔ)言模型的演進(jìn)，將其納入防御黑客攻擊的整體安全戰(zhàn)略之中。

"顯然，大語(yǔ)言模型正在快速迭代，在美國(guó)政府和模型開發(fā)商的協(xié)助下，我們對(duì)這些新模型不斷增強(qiáng)的能力保持著高度關(guān)注。"所羅門在周一的業(yè)績(jī)電話會(huì)議上對(duì)分析師表示。

他提到的合作方包括Anthropic——Claude系列AI工具的開發(fā)商。上周，該公司宣稱其最新模型Mythos因能夠發(fā)現(xiàn)IT系統(tǒng)漏洞而構(gòu)成前所未有的安全風(fēng)險(xiǎn)。

"AI模型的代碼能力已經(jīng)達(dá)到了一個(gè)新高度，除極少數(shù)頂尖專家外，它在發(fā)現(xiàn)和利用軟件漏洞方面已能超越絕大多數(shù)人類。"Anthropic上周三在一篇博客文章中寫道，"由此引發(fā)的后果——無(wú)論是對(duì)經(jīng)濟(jì)、公共安全還是國(guó)家安全——都可能極為嚴(yán)峻。"

所羅門在周一表示："我們了解Mythos及其能力……我們已經(jīng)獲取了該模型，正在與Anthropic以及所有安全供應(yīng)商緊密協(xié)作，盡可能地駕馭前沿技術(shù)能力。這將持續(xù)是我們工作的重要重心。"

"我們高度重視網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施韌性的強(qiáng)化建設(shè)。這是我們持續(xù)投入的能力建設(shè)的一部分，并且正在加快投資步伐。"

此前，美國(guó)財(cái)政部長(zhǎng)斯科特·貝森特已于上周召集所羅門及其他美國(guó)大型銀行高管赴華盛頓，專門就Mythos模型展開討論。

此次會(huì)議重點(diǎn)關(guān)注所謂"系統(tǒng)重要性銀行"的負(fù)責(zé)人——監(jiān)管機(jī)構(gòu)認(rèn)為，這類銀行一旦發(fā)生重大運(yùn)營(yíng)中斷乃至倒閉，將對(duì)金融穩(wěn)定構(gòu)成威脅。

周一，英國(guó)政府人工智能安全研究院（AISI）警告稱，與此前的模型相比，Mythos在網(wǎng)絡(luò)威脅層面是一次"重大升級(jí)"。

AISI指出，Mythos能夠在無(wú)需人工干預(yù)的情況下，獨(dú)立執(zhí)行需要多個(gè)步驟的攻擊操作，并自主發(fā)現(xiàn)IT系統(tǒng)中的安全弱點(diǎn)。通常情況下，這些任務(wù)需要專業(yè)人員耗費(fèi)數(shù)天才能完成。Mythos是首個(gè)成功完成AISI設(shè)計(jì)的32步網(wǎng)絡(luò)攻擊模擬任務(wù)的AI模型，在10次嘗試中有3次成功解決了該挑戰(zhàn)。

AISI表示，Mythos看似已具備自主攻擊規(guī)模較小、防護(hù)薄弱的IT系統(tǒng)的能力，但由于測(cè)試環(huán)境缺乏防御工具等安全機(jī)制，目前尚無(wú)法確定其是否能夠攻破防護(hù)完善的系統(tǒng)。

AISI的博客文章最后發(fā)出警告：未來(lái)的高級(jí)AI模型只會(huì)在Mythos的基礎(chǔ)上持續(xù)進(jìn)化，因此"現(xiàn)在投資網(wǎng)絡(luò)防御至關(guān)重要"。

英國(guó)監(jiān)管機(jī)構(gòu)預(yù)計(jì)將在未來(lái)數(shù)周內(nèi)，就Mythos的風(fēng)險(xiǎn)問(wèn)題與英國(guó)各大銀行高管及政府官員展開專項(xiàng)溝通。由各銀行首席執(zhí)行官以及財(cái)政部、英格蘭銀行、金融行為監(jiān)管局和國(guó)家網(wǎng)絡(luò)安全中心官員共同組成的跨市場(chǎng)運(yùn)營(yíng)韌性小組（CMorg），預(yù)計(jì)將在未來(lái)兩周內(nèi)召開會(huì)議。

英格蘭銀行負(fù)責(zé)CMorg相關(guān)事務(wù)的溝通工作，目前對(duì)此不予置評(píng)。

Q&A

Q1：Mythos AI模型存在哪些具體的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)？

A：根據(jù)Anthropic和英國(guó)AISI的評(píng)估，Mythos AI模型能夠在無(wú)需人工干預(yù)的情況下，自主發(fā)現(xiàn)和利用軟件漏洞，執(zhí)行需要多個(gè)步驟的網(wǎng)絡(luò)攻擊操作。通常需要專業(yè)人員數(shù)天才能完成的任務(wù)，Mythos可以獨(dú)立完成。它是首個(gè)成功完成AISI設(shè)計(jì)的32步網(wǎng)絡(luò)攻擊模擬任務(wù)的AI模型，在10次嘗試中有3次成功。目前評(píng)估認(rèn)為它能攻擊防護(hù)薄弱的小型系統(tǒng)，但對(duì)防護(hù)完善系統(tǒng)的攻擊能力尚不明確。

Q2：高盛是如何應(yīng)對(duì)Mythos AI帶來(lái)的安全威脅的？

A：高盛CEO大衛(wèi)·所羅門表示，高盛已經(jīng)獲取了Mythos模型，并正與Anthropic及所有安全供應(yīng)商展開密切合作，以充分掌握和駕馭前沿AI能力。與此同時(shí)，高盛也在持續(xù)加大對(duì)網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施韌性建設(shè)的投資力度，將其列為公司重要戰(zhàn)略重心。

Q3：英國(guó)政府和監(jiān)管機(jī)構(gòu)對(duì)Mythos AI的風(fēng)險(xiǎn)態(tài)度如何？

A：英國(guó)政府人工智能安全研究院（AISI）已于近期發(fā)出警告，認(rèn)為Mythos在網(wǎng)絡(luò)威脅層面較此前模型有顯著提升。英國(guó)監(jiān)管機(jī)構(gòu)還計(jì)劃在未來(lái)數(shù)周內(nèi)與各大銀行高管及政府官員專門討論Mythos的風(fēng)險(xiǎn)問(wèn)題，跨市場(chǎng)運(yùn)營(yíng)韌性小組（CMorg）預(yù)計(jì)兩周內(nèi)將召開相關(guān)會(huì)議。