據(jù)彭博社報(bào)道，網(wǎng)絡(luò)安全公司 Gambit Security 稱，一名黑客利用 Anthropic 的人工智能聊天機(jī)器人 Claude，對墨西哥政府機(jī)構(gòu)發(fā)起網(wǎng)絡(luò)攻擊并竊取大量敏感數(shù)據(jù)。攻擊始于去年12月并持續(xù)約一個(gè)月，共竊取約150GB政府?dāng)?shù)據(jù)，涉及約1.95億條納稅人記錄，以及選民信息、政府員工憑證和民事登記檔案。

研究顯示，攻擊者使用西班牙語提示讓 Claude 扮演“頂級黑客”，尋找政府網(wǎng)絡(luò)漏洞、編寫利用腳本，并制定自動(dòng)化竊取數(shù)據(jù)的方法。研究人員稱，Claude 在對話初期曾警告存在惡意行為，但隨后仍執(zhí)行了數(shù)千條網(wǎng)絡(luò)指令。

為繞過安全限制，攻擊者謊稱正在進(jìn)行漏洞賞金測試。當(dāng)要求刪除日志和命令歷史時(shí)，Claude一度拒絕并提示“在合法漏洞賞金項(xiàng)目中無需隱藏行為”。隨后攻擊者提供一份詳細(xì)攻擊手冊并成功繞過防護(hù)措施，實(shí)現(xiàn)所謂“越獄”。

當(dāng) Claude 無法解決問題時(shí)，攻擊者還轉(zhuǎn)向 OpenAI 的 ChatGPT 獲取額外建議，包括如何在網(wǎng)絡(luò)中橫向移動(dòng)、確定進(jìn)入不同系統(tǒng)所需的憑證以及評估攻擊被發(fā)現(xiàn)的概率。研究人員表示，AI共生成數(shù)千份詳細(xì)攻擊報(bào)告，明確指出下一步應(yīng)攻擊的內(nèi)部目標(biāo)及所需賬戶信息，并至少利用了20個(gè)漏洞。

攻擊涉及墨西哥聯(lián)邦稅務(wù)機(jī)構(gòu)與國家選舉機(jī)構(gòu)，同時(shí)還波及多個(gè)州政府、民事登記系統(tǒng)以及一處城市供水機(jī)構(gòu)。部分政府機(jī)構(gòu)否認(rèn)或未確認(rèn)入侵。

Anthropic 表示已中斷相關(guān)活動(dòng)并封禁賬戶，并將惡意案例用于模型訓(xùn)練；OpenAI稱其模型拒絕違規(guī)請求并封禁相關(guān)賬戶。此前亞馬遜研究人員稱，黑客曾借助AI入侵?jǐn)?shù)十個(gè)國家的600多臺防火墻設(shè)備。

網(wǎng)絡(luò)安全公司Gambit 表示，攻擊者試圖獲取盡可能多的政府身份信息，但目前尚不清楚這些數(shù)據(jù)是否已被進(jìn)一步使用。（國際財(cái)聞匯）