電影導(dǎo)演斯坦利·庫布里克在預(yù)見人工智能帶來的挑戰(zhàn)方面展現(xiàn)了非凡的洞察力。在作品《2001太空漫游》中，名為哈爾（影射國際商業(yè)機器公司）的計算機試圖從人類手中奪取控制權(quán)。他在《奇愛博士》中也展示了這一點：電影中秘密建立了一個自動核報復(fù)系統(tǒng)，導(dǎo)致在一名陰謀論者下達針對蘇聯(lián)的轟炸命令后，包括美國和蘇聯(lián)領(lǐng)導(dǎo)人在內(nèi)的人類無法阻止地球的毀滅。

我們現(xiàn)在正處于這樣的境地，正如人工智能初創(chuàng)公司安索羅比克負責(zé)人達里奧·阿莫代伊的擔(dān)憂所顯示的那樣，他不希望在其研發(fā)的人工智能模型“克勞德”輔助下的武器能夠在沒有人類干預(yù)的情況下殺人。達里奧·阿莫代伊在2月26日周四寫道：“如果沒有適當(dāng)?shù)谋O(jiān)督，就不能依靠全自動武器來行使我們訓(xùn)練有素、專業(yè)的部隊每天表現(xiàn)出的批判性判斷。”他認(rèn)為這些武器的部署需要適當(dāng)?shù)淖o欄，而這些護欄在今天并不存在。

安索羅比克已宣布打算采取法律行動。公司在聲明中表示，來自戰(zhàn)爭部（特朗普政府給國防部起的名稱）的任何恐嚇或懲罰都不會改變其立場。安索羅比克在2025年夏天與國防部簽署了一份價值2億美元（約1.7億歐元）的合同。其克勞德服務(wù)器特別被帕蘭提爾公司使用，正是該公司協(xié)助美國軍方在2011年找到了奧薩馬·本·拉登。在這場糾紛中，可以看到傾向于威權(quán)主義的特朗普政府與一家處于抵抗前沿、具有民主黨傾向的公司之間的對抗。

“這里潛臺詞是安索羅比克與‘讓美國再次偉大’的議程并不一致，”卡內(nèi)基國際和平基金會研究人工智能在戰(zhàn)爭中用途的研究員斯蒂芬·費爾德斯坦告訴《華盛頓郵報》。他認(rèn)為這既是一場政治斗爭，也是一個軍事用途問題。這在一定程度上是事實，加利福尼亞州的科技從業(yè)者已敦促他們的老板支持安索羅比克。

但除了政治之外，由于人工智能已成為戰(zhàn)場的核心，教義問題也至關(guān)重要。其風(fēng)險遠超孤立行動中對武力的使用。1月3日，美國軍隊在安索羅比克的人工智能模型克勞德的幫助下，綁架了被廢黜的委內(nèi)瑞拉總統(tǒng)尼古拉斯·馬杜羅，這似乎是當(dāng)前危機的導(dǎo)火索之一�！度A盛頓郵報》在2月27日披露，風(fēng)險甚至一直延伸到核升級。安索羅比克與戰(zhàn)爭部之間的討論集中在如果核導(dǎo)彈發(fā)射向美國時，該如何使用克勞德。

早在2021年，當(dāng)時已近百歲的亨利·基辛格在他與谷歌創(chuàng)始人之一埃里克·施密特合著的書《人工智能時代：以及我們?nèi)祟惖奈磥怼分芯陀懻摿诉@個核問題。施密特在接受《時代周刊》采訪時解釋說：“我們不想要的是那種根據(jù)自身對局勢的分析而自動發(fā)射的武器�！被粮裱a充道，攻擊者的速度可能超過人類大腦的分析能力，從而形成惡性循環(huán)。

基辛格引用了一個現(xiàn)實生活中的例子——1962年的古巴導(dǎo)彈危機，贊揚了漫長的處理過程（蘇聯(lián)和美國當(dāng)時僵持了13天），尤其是人類直覺的價值。如果當(dāng)時存在人工智能，決策的速度是否會快到超出人類評估的能力？如果人工智能建議對古巴進行軍事干預(yù)（這種行動最終并未發(fā)生，否則可能升級為核戰(zhàn)爭），誰又敢承擔(dān)反駁它的風(fēng)險？在這一領(lǐng)域，達里奧·阿莫代伊呼應(yīng)了亨利·基辛格的疑問。

第二個問題是誰來決定？五角大樓對達里奧·阿莫代伊感到憤怒，因為他想阻止其模型被用于國內(nèi)大規(guī)模監(jiān)控，以及如前所述的自動殺戮。特朗普政府指責(zé)他在面對美國遭受核攻擊的可能性時，基本上是以“到時候給我們打電話，我們再看看”作為回應(yīng)。安索羅比克對此予以強烈否認(rèn)。

“達里奧·阿莫代伊是一個撒謊者且患有救世主綜合征，這真是一種恥辱，”曾任優(yōu)步高管、現(xiàn)加入特朗普政府的副戰(zhàn)爭部長埃米爾·邁克爾在社交媒體平臺上指責(zé)道。埃米爾·邁克爾聲稱達里奧·阿莫代伊一心想個人控制美國軍隊，并不惜將國家安全置于危險之中，而戰(zhàn)爭部將始終遵守法律，絕不屈服于任何營利性科技公司的反復(fù)無常。

這個問題值得關(guān)注。是否可以想象達索公司對陣風(fēng)戰(zhàn)斗機的使用設(shè)置限制，或者賽峰集團對其核導(dǎo)彈施加限制？這也是國防公司帕蘭提爾首席執(zhí)行官亞歷克斯·卡普所捍衛(wèi)的觀點。亞歷克斯·卡普在接受全國廣播公司商業(yè)頻道采訪時反問：“你真的認(rèn)為一名戰(zhàn)士會信任一家因為某些事情變得有爭議就拔掉電源的軟件公司嗎？”他認(rèn)為，硅谷這個渴望決定人們吃什么、如何吃并將所有數(shù)據(jù)變現(xiàn)的小島，不應(yīng)同時決定誰能在一個國家生存以及在什么條件下生存。

政治首要地位的問題早于特朗普時代。在冷戰(zhàn)高峰期，德懷特·艾森豪威爾總統(tǒng)在他的告別演說中就警告過企業(yè)的力量，并創(chuàng)造了“軍事工業(yè)復(fù)合體”一詞。艾森豪威爾在1961年1月17日的演說中表示：“我們必須警惕軍事工業(yè)復(fù)合體獲取不當(dāng)?shù)挠绊懥�，無論這種影響力是刻意追求還是無意形成的�！边@位諾曼底登陸的幕后策劃者還指出，近幾十年的技術(shù)革命標(biāo)志著這一演變的決定性轉(zhuǎn)折點。

今天，國防不再僅僅發(fā)生在波音或洛克希德·馬丁的工廠里，也發(fā)生在舊金山灣區(qū)。特朗普給了安索羅比克6個月的時間來切斷與聯(lián)邦政府的聯(lián)系，這表明五角大樓并不能輕易離開其服務(wù)。盡管總統(tǒng)發(fā)出了強力譴責(zé)，但在此之前或許并非沒有達成協(xié)議的可能。

2月27日晚，開放人工智能負責(zé)人山姆·奧特曼宣布與戰(zhàn)爭部達成協(xié)議，其中包含與達里奧·阿莫代伊設(shè)定的相同的紅線。山姆·奧特曼在社交平臺上寫道：“我們最重要的兩條安全原則是禁止國內(nèi)大規(guī)模監(jiān)控，以及對使用武力（包括自主武器系統(tǒng)）承擔(dān)人類責(zé)任。”除安索羅比克外，目前只有埃隆·馬斯克的�？怂谷斯ぶ悄芄颈皇跈�(quán)用于機密國防背景，但其可靠性和部署速度仍存疑問。

如果是在一個溫和的政府領(lǐng)導(dǎo)下，這種政治首要地位的問題引發(fā)的擔(dān)憂可能會減少。第三個問題同樣如此：五角大樓行動的合法性。山姆·奧特曼選擇相信戰(zhàn)爭部的誠意，他在周五解釋說，戰(zhàn)爭部贊同這些關(guān)于監(jiān)控和武力使用的安全原則，并將其反映在法律和政策中。雖然特朗普政府可能承諾尊重法律，但它并未贏得所有人的信任。該政府已被指責(zé)在消滅墜海毒販、罷免總統(tǒng)尼古拉斯·馬杜羅或部署移民海關(guān)執(zhí)法局時無視法律。一旦致命武力被使用，法院的裁決往往無濟于事。

對法律遵循的問題也并非始于特朗普的任期。無論是喬治·沃克·布什在九一一襲擊后設(shè)立的酷刑和關(guān)塔那摩監(jiān)獄，還是貝拉克·奧巴馬的有針對性無人機襲擊。但是，如果是人工智能做出殺人決定，最終誰將承擔(dān)責(zé)任？