Anthropic與美國戰(zhàn)爭部之間持續(xù)的爭端引發(fā)了一系列問題，包括誰有責(zé)任為用于軍事目標(biāo)的AI產(chǎn)品實(shí)施安全防護(hù)，以及這些防護(hù)措施應(yīng)該包含哪些內(nèi)容。這場爭端也正在影響能源部，該部門目前正在審查國家實(shí)驗(yàn)室對Anthropic產(chǎn)品的使用。

Anthropic與戰(zhàn)爭部之間的分歧源于雙方在AI安全防護(hù)議題上的根本性分歧。簡而言之，戰(zhàn)爭部要求其使用的第三方AI模型必須預(yù)置零安全防護(hù)，并要求AI供應(yīng)商同意戰(zhàn)爭部"任何合法使用"該AI。Anthropic總體上同意這些條款。該公司與美國軍方合作過，并表示從未遇到過任何倫理問題。然而，Claude的制造商堅(jiān)持要求戰(zhàn)爭部在其合同中設(shè)定兩項(xiàng)例外：大規(guī)模國內(nèi)監(jiān)控和完全自主武器。

"我們支持將AI用于合法的外國情報(bào)和反間諜任務(wù)。但使用這些系統(tǒng)進(jìn)行大規(guī)模國內(nèi)監(jiān)控與民主價(jià)值觀不相容。" Anthropic首席執(zhí)行官Dario Amodei在2月26日的博客文章中寫道。關(guān)于完全自主武器，他表示："我們不會故意提供讓美國戰(zhàn)士和平民面臨風(fēng)險(xiǎn)的產(chǎn)品。" Claude已被禁止在美國所有政府機(jī)構(gòu)內(nèi)使用。.

Amodei補(bǔ)充說，Anthropic在這些事項(xiàng)上的立場是不可協(xié)商的。"選擇與其愿景最一致的承包商是部門的特權(quán)，"他寫道。"我們不能在良心的前提下同意他們的要求。"

第二天，戰(zhàn)爭部長Pete Hegseth宣布將Anthropic指定為供應(yīng)鏈風(fēng)險(xiǎn)，這實(shí)際上結(jié)束了五角大樓與Anthropic之間價(jià)值高達(dá)2億美元的合同。"我們的立場從未動(dòng)搖，也永遠(yuǎn)不會動(dòng)搖：戰(zhàn)爭部必須為了國家防御，對所有合法目的完全、不受限制地獲取Anthropic的模型。"戰(zhàn)爭部長Pete Hegseth在X上說。

總統(tǒng)特朗普也在Truth Social上宣布，他指示美國政府所有聯(lián)邦機(jī)構(gòu)"立即停止使用Anthropic的所有技術(shù)"，并補(bǔ)充說，像戰(zhàn)爭部這樣的機(jī)構(gòu)將有六個(gè)月的逐步淘汰期。

Anthropic于3月9日作出回應(yīng)，在加州和華盛頓特區(qū)對戰(zhàn)爭部提起兩項(xiàng)訴訟。該公司稱，將其指定為供應(yīng)鏈風(fēng)險(xiǎn)是非法的，并侵犯了其言論自由和正當(dāng)程序權(quán)利。"與私方的當(dāng)前和未來合同也存疑，危及近期數(shù)億美元的合同。"該公司在訴訟中寫道。

Anthropic的AI模型Claude已被美國軍方以及政府科學(xué)機(jī)構(gòu)廣泛采用。Claude被軍方和國家安全機(jī)構(gòu)用于情報(bào)分析、建模和仿真、作戰(zhàn)規(guī)劃和網(wǎng)絡(luò)行動(dòng)等用途。Claude也被DOE國家實(shí)驗(yàn)室廣泛采用，用于生物學(xué)、生命科學(xué)、能源等領(lǐng)域的科學(xué)研究，并參與了DOE Genesis Mission（創(chuàng)世紀(jì)計(jì)劃）項(xiàng)目。然而，DOE似乎已經(jīng)開始從其國家實(shí)驗(yàn)室中淘汰Anthropic產(chǎn)品的過程。

在回應(yīng)媒體HPCwire的提問時(shí)，DOE發(fā)言人表示："按照特朗普總統(tǒng)的指示，能源部正在審查與Anthropic技術(shù)相關(guān)的所有現(xiàn)有合同和使用。該部門仍然堅(jiān)定地致力于確保我們所使用的技術(shù)服務(wù)于公共利益，保護(hù)美國的能源和國家安全，并推進(jìn)我們的使命。"

Anthropic的Claude是世界上頂級的基礎(chǔ)模型之一，在各種使用場景中被廣泛采用。測試表明，Claude在文本生成、編程、文檔分析和搜索等領(lǐng)域的表現(xiàn)優(yōu)于競爭對手，如Google的Gemini和OpenAI的GPT模型。Claude Opus被認(rèn)為是頂級推理模型之一，被軟件工程師高度使用。Anthropic還強(qiáng)調(diào)了Claude的安全性。生成式人工智能（GenAI）是一項(xiàng)新技術(shù)，最佳實(shí)踐仍在完善中。如何在何地應(yīng)用對AI決策的內(nèi)置檢查（通常稱為護(hù)欄或安全防護(hù)）是專家們?nèi)栽诩m結(jié)的議題。

Anthropic對安全的強(qiáng)調(diào)可能與新興使用場景不相容，特別是與美國軍方的使用場景。Amodei堅(jiān)持保留安全防護(hù)而非美國政府，這顯然使其與戰(zhàn)爭部處于對立狀態(tài)。Legion Intelligence（前身為Yurts）的AI平臺公司創(chuàng)始人兼首席執(zhí)行官Ben Van Roo表示，雖然AI社區(qū)可能在糾結(jié)如何和何地應(yīng)用安全防護(hù)，但美國軍方并非如此。

在接受HPCwire采訪時(shí)，Van Roo表示，Anthropic對軍方如何利用技術(shù)來幫助自動(dòng)化或加速決策過程存在基本誤解，并補(bǔ)充說，距離看到終結(jié)者風(fēng)格的殺手機(jī)器人被釋放到戰(zhàn)場上還有很長一段路要走。"在軍事過程中采取某些步驟有軍事條令，在推進(jìn)諸如使用優(yōu)先級算法進(jìn)行目標(biāo)定位等方面有非常明確的測試，"他說。"軍事條令比Anthropic存在的時(shí)間要長數(shù)百年。"

顯然，很少有人會反對AI在防御技術(shù)中發(fā)揮作用。例如，如果現(xiàn)在有一萬架攻擊無人機(jī)正飛向舊金山，"你想要人類決定每一個(gè)被反制措施攻擊的無人機(jī)嗎？"Van Roo問道。"我會想利用任何技術(shù)來幫助提高導(dǎo)彈攔截能力。"

AI被用于更多進(jìn)攻性用途（例如2月28日開始的美國和以色列對伊朗軍事設(shè)施的攻擊）的程度尚不明確。無論如何，基本算術(shù)是相同的：任何能夠提高決策質(zhì)量的東西都應(yīng)該被使用，特別是當(dāng)涉及AI時(shí)，安全防護(hù)已經(jīng)存在于美國軍事條令中。

Van Roo表示，歸根結(jié)底，政府需要"可靠的供應(yīng)商"，而不是那些堅(jiān)持制定使用規(guī)則的供應(yīng)商，他同時(shí)也感嘆硅谷和主流媒體圍繞這個(gè)故事存在的"炒作和歇斯底里"。

"我們不能睜著眼睛走進(jìn)這些場景，而對我們正在創(chuàng)造的技術(shù)沒有清醒認(rèn)識，"Van Roo說。"它是人類歷史上最具顛覆性、最強(qiáng)大的技術(shù)。當(dāng)然，美國政府會想要使用它。我認(rèn)為存在一種看法，認(rèn)為他們在使用它時(shí)沒有意圖、沒有深思熟慮。"事實(shí)并非如此，他補(bǔ)充道。