來源：環(huán)球時報

【環(huán)球時報記者 陳子帥 環(huán)球時報特約記者 李靜】編者的話：在美以伊沖突中，人工智能（AI）工具的使用正引發(fā)越來越多的關(guān)注與擔(dān)憂。美國和以色列被爆在此次軍事行動中使用AI系統(tǒng)分析情報、制定打擊名單、模擬作戰(zhàn)場景等。不過，有報道稱，AI系統(tǒng)存在的問題可能與伊朗南部一所小學(xué)遭遇空襲、導(dǎo)致170余人喪生的慘劇有關(guān)。同時，在此次沖突中，西方科技公司在中東的數(shù)據(jù)中心首次被伊朗當(dāng)作攻擊目標(biāo)。俄烏沖突曾被稱為“第一場AI戰(zhàn)爭”。從持續(xù)至今的俄烏沖突，到暫時�；鸬募由硲�(zhàn)爭，再到現(xiàn)在的美以伊沖突，AI的軍事化趨勢不斷出現(xiàn)新特點。同時，AI對戰(zhàn)場的深度介入也引發(fā)一系列問題，包括“自動化偏見”、監(jiān)督缺失，以及由此造成的更多平民傷亡等。這些都對戰(zhàn)爭倫理的底線提出拷問。

從輔助性向自主性演變

3月11日，美國中央司令部司令庫珀在社交媒體上發(fā)布視頻稱，AI已成為美國選擇襲擊伊朗目標(biāo)的重要工具。據(jù)《華盛頓郵報》報道，有知情人士透露，在襲擊伊朗的“史詩怒火”行動中，美國和以色列都使用了美國帕蘭蒂爾公司構(gòu)建的“梅文智能系統(tǒng)”戰(zhàn)場情報平臺。該系統(tǒng)嵌入了美國Anthropic公司的AI模型“克勞德”，通過分析來自衛(wèi)星、監(jiān)控系統(tǒng)及其他情報渠道的機(jī)密數(shù)據(jù)，為美以在伊朗的軍事行動提供實時目標(biāo)鎖定與優(yōu)先級排序。還有報道稱，該系統(tǒng)此前被用于針對委內(nèi)瑞拉總統(tǒng)馬杜羅的行動。

美國政府已將“梅文智能系統(tǒng)”的使用范圍大幅擴(kuò)展至軍方許多部門。截至去年5月，已有超過兩萬名美國軍事人員使用該系統(tǒng)。

一名了解Anthropic公司與美國國防部合作情況的人士向美國全國廣播公司透露，“克勞德”主要用于協(xié)助分析師對情報進(jìn)行分類，并不直接提供打擊目標(biāo)的建議。不過，在“史詩怒火”行動的最初24小時內(nèi)，美軍在AI協(xié)助下對伊朗境內(nèi)超過1000個目標(biāo)進(jìn)行了打擊。面對每小時需處理42個目標(biāo)的作戰(zhàn)節(jié)奏，英國皇家三軍研究所研究員西爾維亞等專家表示，這表明襲擊目標(biāo)的確定在很大程度上是自動生成的。

此前在加沙地帶，AI也成為以色列軍事行動的核心工具之一。據(jù)美國《時代》周刊報道，以軍在針對巴勒斯坦伊斯蘭抵抗運動（哈馬斯）成員的報復(fù)行動中，使用了多個AI系統(tǒng)生成打擊目標(biāo)建議。其中，名為“福音”的系統(tǒng)負(fù)責(zé)識別并建議攻擊哈馬斯人員可能活動的建筑和設(shè)施�！稗挂虏荨毕到y(tǒng)則被編程用于識別哈馬斯及其他武裝組織的疑似成員，以供定點清除。此外，一個被稱為“爸爸在哪”的系統(tǒng)通過追蹤目標(biāo)的手機(jī)信號來監(jiān)視其行蹤，以便鎖定打擊窗口。對于AI工具在加沙沖突中發(fā)揮的作用，以色列軍方此前發(fā)布聲明稱，“福音”和“薰衣草”僅僅是“幫助情報分析師審查和分析現(xiàn)有信息”，它們不構(gòu)成確定可攻擊目標(biāo)的唯一依據(jù)，也不會自主選擇攻擊目標(biāo)。

俄烏沖突被許多媒體和學(xué)者評價為“第一場AI戰(zhàn)爭”。有專家2024年年底時稱，AI工具在俄烏戰(zhàn)場上主要發(fā)揮支持和提供信息的作用，無論是AI驅(qū)動的火炮系統(tǒng)還是AI制導(dǎo)的無人機(jī)，大多仍在測試階段，尚未實現(xiàn)完全自主。然而，《時代》周刊今年3月的報道顯示，這一局面正在迅速改變，俄烏沖突的方方面面正日益自動化。

最令人震驚的是自主無人機(jī)的大量涌現(xiàn)。這些無人機(jī)配備的軟件能夠?qū)⒂行лd荷導(dǎo)航到數(shù)百英里之外，并鎖定目標(biāo)。烏克蘭增強(qiáng)型AI四軸飛行器可以在通信失敗時，在沒有人類參與的情況下自主攻擊俄羅斯士兵。計算機(jī)視覺使該飛行器能夠識別并攻擊特定目標(biāo)，甚至能飛越窗戶對個人進(jìn)行精確打擊。如今，烏克蘭每天發(fā)射的無人機(jī)多達(dá)9000架，已成為全球各類武器制造商的首要試驗場，這些企業(yè)正競相將常規(guī)“殺傷鏈”的部分環(huán)節(jié)實現(xiàn)自動化、自主化。

軍事專家張軍社在接受《環(huán)球時報》記者采訪時表示，俄烏沖突初期，AI技術(shù)主要被用于輔助偵察以及目標(biāo)識別、情報分析等，AI系統(tǒng)之間的協(xié)同比較有限。在目前美國和以色列對伊朗的軍事打擊中，則實現(xiàn)了AI與聯(lián)合指揮控制系統(tǒng)的深度融合，在陸�？仗祀娋W(wǎng)六個作戰(zhàn)領(lǐng)域都實現(xiàn)實時數(shù)據(jù)共享與協(xié)同作戰(zhàn)。簡單地說，從俄烏沖突到加沙戰(zhàn)爭，再到目前美以伊沖突，AI技術(shù)與工具在戰(zhàn)場上的角色正發(fā)生深刻演變：從輔助性走向核心性，從局部性走向全域性，從被動性走向自主性。

AI基礎(chǔ)設(shè)施首次成為戰(zhàn)爭打擊目標(biāo)

在近期美以伊沖突中，一個引人關(guān)注的新動向浮出水面——AI基礎(chǔ)設(shè)施首次成為打擊目標(biāo)。美國亞馬遜網(wǎng)絡(luò)服務(wù)公司表示，其位于阿聯(lián)酋和巴林的3處數(shù)據(jù)中心遭伊朗無人機(jī)襲擊。伊朗國家電視臺稱，伊朗伊斯蘭革命衛(wèi)隊發(fā)動襲擊的目的是“查明這些中心在支持?jǐn)撤杰娛潞颓閳蠡顒臃矫嫠鸬淖饔谩�。�?jù)卡塔爾半島電視臺報道，伊朗伊斯蘭革命衛(wèi)隊日前已公布了一份新打擊目標(biāo)清單，其中包括谷歌、微軟、帕蘭蒂爾等多家美國科技公司在中東的數(shù)據(jù)中心和辦公場所。

伊朗對西方科技公司的警惕并非沒有理由。長期以來，硅谷科技公司一直與五角大樓保持著深度合作關(guān)系。2月28日，美國企業(yè)開放人工智能研究中心（OpenAI）宣布，該企業(yè)已與美國國防部達(dá)成協(xié)議，打算將其AI模型部署于美國國防部的機(jī)密網(wǎng)絡(luò)。去年，五角大樓還與谷歌、xAI等美國科技公司分別簽訂協(xié)議，計劃充分利用這些企業(yè)的技術(shù)和人才，加速美國國防部對先進(jìn)AI技術(shù)的采用。

以谷歌、亞馬遜為代表的西方科技公司，一方面為全球多國普通民眾提供日常服務(wù)，另一方面又與美國軍方保持深度合作。這引發(fā)了外界對于美國科技公司的民用AI工具及其數(shù)據(jù)是否會被用于軍事領(lǐng)域的擔(dān)憂。Anthropic公司就因為擔(dān)心美國政府會使用其AI工具對民眾進(jìn)行大規(guī)模監(jiān)控以及研發(fā)自主武器而與白宮發(fā)生沖突。

對于上述問題，中國國際問題研究院世界和平與安全研究所學(xué)者張高勝對《環(huán)球時報》記者表示，存在極高風(fēng)險。他解釋說，西方商業(yè)云存儲的海量數(shù)據(jù)，包括商業(yè)衛(wèi)星圖像、通信數(shù)據(jù)、金融交易記錄、社交媒體軌跡等，在戰(zhàn)時極易被美國軍方通過權(quán)限調(diào)用或技術(shù)手段獲取，轉(zhuǎn)化為打擊決策的依據(jù)。他提醒說，數(shù)字主權(quán)成為新的戰(zhàn)略博弈場，數(shù)據(jù)中心、算力節(jié)點、通信光纜等直接關(guān)系國家安全與戰(zhàn)爭主動權(quán)，因此“我們需加速建設(shè)自主可控的云基礎(chǔ)設(shè)施，推動數(shù)據(jù)本地化存儲，并建立備份機(jī)制，確保在極端情況下的生存能力”。

確保人的控制和問責(zé)制至關(guān)重要

美國和北約正在加快AI軍事化的速度。美國防長赫格塞思近期敦促本國加速采用AI技術(shù)，以建立一支“AI優(yōu)先的作戰(zhàn)力量”。據(jù)美國喬治敦大學(xué)安全與新興技術(shù)中心高級研究員普羅巴斯科介紹，在代號為“猩紅之龍”的系列演習(xí)中，美國陸軍第18空降軍使用了帕蘭蒂爾公司的軟件，其打擊目標(biāo)選擇的效率追平了該部隊先前在伊拉克創(chuàng)下的紀(jì)錄。普羅巴斯科指出，得益于AI，該軍團(tuán)僅用20人就實現(xiàn)了這一效果，而在伊拉克戰(zhàn)爭時，完成同樣任務(wù)則需2000多人。

去年與帕蘭蒂爾公司簽約的北約，在最近的一段視頻中將其版本的“梅文智能系統(tǒng)”描繪成能給指揮官帶來如同電子游戲一般監(jiān)督戰(zhàn)場的能力。

雖然AI能給一國軍事帶來巨大優(yōu)勢，但也引發(fā)廣泛擔(dān)憂。從軟件無法識別或錯誤識別人員，到自動駕駛汽車導(dǎo)致的死亡事故，AI工具出問題的例子不勝枚舉。對于AI軍事化的危害，有專家提到了“自動化偏見”，即默認(rèn)AI提供的信息是準(zhǔn)確可靠的。美國AI專家阿薩羅指出，對于AI給出的襲擊建議，在授權(quán)打擊前人類是否真的逐一審查這些目標(biāo)是個問題。以色列記者亞伯拉罕曾與6名參與加沙行動的以情報官員對話，以報道以色列對AI工具的使用情況。他援引以目標(biāo)制定官員的話說，盡管他們知道“薰衣草”系統(tǒng)大約在10%的情況下會給出錯誤目標(biāo)建議，但他們?nèi)砸蕾囋撓到y(tǒng)。一名負(fù)責(zé)授權(quán)發(fā)動空襲的以情報官員回憶說，他只花了大約20秒來確認(rèn)一個目標(biāo)是否應(yīng)被襲擊，他的具體行動就是核實該目標(biāo)是否是男性。很多學(xué)者和媒體認(rèn)為，加沙戰(zhàn)爭之所以造成大量平民傷亡，與以色列使用AI工具有密切關(guān)系。

美國和以色列在打擊伊朗時使用AI技術(shù)，不僅引發(fā)許多道德和法律問題，也使人擔(dān)憂人類可能正在失去對戰(zhàn)爭機(jī)器的控制。以色列國防軍前總參謀長科哈維2023年接受采訪時也提出了類似的觀點。他說：“令人擔(dān)憂的不是機(jī)器人會控制我們，而是AI會在我們沒有意識到的情況下控制我們的思想并取代我們�！�

美國《時代》周刊報道稱，約束武裝沖突的條約對于實現(xiàn)軍事效果所使用的工具并無具體規(guī)定。無論使用的武器是弩、坦克，還是基于AI技術(shù)的數(shù)據(jù)庫，都適用于相關(guān)國際法。不過，包括紅十字國際委員會在內(nèi)的一些機(jī)構(gòu)和學(xué)者認(rèn)為，AI軍事化需要新的法律框架來規(guī)范，并指出隨著AI武器系統(tǒng)變得越來越先進(jìn)，確保人對這些系統(tǒng)的控制和問責(zé)制至關(guān)重要。

中國專家也就AI軍事化風(fēng)險發(fā)出警示。張高勝對《環(huán)球時報》記者表示，AI軍事化速度越來越快，各國日益陷入競賽當(dāng)中，但關(guān)于AI軍事化的監(jiān)管框架或者共識仍舊沒有形成，例如堅持人道主義原則等。與此同時，由于AI軍事化的“黑箱”效應(yīng)，無法關(guān)注沖突方是否貫徹相關(guān)原則，這對于軍備控制來說是一項重大挑戰(zhàn)，國際社會需要展開相關(guān)軍控談判。