Anthropic多年來一直將自己定位為比其他人工智能競爭對手更安全的替代者，如今卻放松了其在維持安全“護欄”方面的承諾。這是人工智能行業(yè)迄今為止最引人注目的政策轉(zhuǎn)向之一——曾經(jīng)以“造福人類”為使命的初創(chuàng)公司，正將重心轉(zhuǎn)向盈利和成功。

Anthropic在2023年的《負責任擴展政策》中曾表示，如果人工智能的發(fā)展可能帶來危險，它將推遲相關研發(fā)。但在本周二的一篇博客文章中，Anthropic表示更新規(guī)則：如果它認為自己在技術上并未對競爭對手保持顯著領先優(yōu)勢，將不再因此推遲開發(fā)。Anthropic在聲明中稱：

“政策環(huán)境已經(jīng)轉(zhuǎn)向優(yōu)先考慮人工智能競爭力和經(jīng)濟增長，而以安全為導向的討論在聯(lián)邦層面尚未獲得實質(zhì)性進展。”

Anthropic一位發(fā)言人表示：“從一開始我們就說過，人工智能的發(fā)展速度以及該領域的不確定性，將要求我們快速迭代并改進政策。”

分析稱，Anthropic這一舉動凸顯出，早期引導人工智能初創(chuàng)企業(yè)的崇高理想，正越來越多地與盈利壓力和競爭需求發(fā)生沖突。Anthropic正在與一系列強勁對手爭奪這一革命性技術的主導地位，包括OpenAI、谷歌、馬斯克的xAI公司等。

Anthropic首席執(zhí)行官Dario Amodei曾在OpenAI工作，并于2020年離職，部分原因是他擔心該公司在商業(yè)化和發(fā)展速度上優(yōu)先于安全問題。

OpenAI最初是一家非營利組織，并在去年轉(zhuǎn)型為更傳統(tǒng)的營利性企業(yè)。它還在2024年更新了使命聲明，刪除了“安全地（safely）”一詞，而此前其目標是“確保通用人工智能安全地造福人類”。

OpenAI和Anthropic這兩家公司如今都在推動最快于今年進行IPO，希望抓住投資者對人工智能的興趣。Anthropic最近的估值為3800億美元，OpenAI正以超過8500億美元的估值籌集資金。

Anthropic此次政策更新恰逢其與美國國防部之間的爭端不斷升級。爭議焦點在于Anthropic堅持為其Claude人工智能工具的使用設置安全護欄。五角大樓周二威脅稱，如果Anthropic未能在周五前接受政府條款，將援引冷戰(zhàn)時期的一項法律，強制要求公司允許美軍使用其技術。

據(jù)媒體報道，在周二Amodei與美國國防部長Pete Hegseth的會談中，美國官員提出了一系列可能后果，包括威脅將Anthropic認定為供應鏈風險，并援引《國防生產(chǎn)法》，即使公司不同意，也將強制使用其人工智能軟件。

本月早些時候，Anthropic資深安全研究員Mrinank Sharma表示將離職。他在發(fā)布于X平臺的一封致同事信中寫道：“我不斷在反思我們所處的處境。世界正處于危險之中。而不僅僅是來自人工智能或生物武器，還有一系列在此刻同時展開的相互關聯(lián)的危機?！?/p>

不僅是Anthropic和OpenAI在人工智能安全措施問題上掙扎。本月早些時候，媒體報道稱，馬斯克旗下的SpaceX及其子公司xAI正在參與一項秘密的新五角大樓競標項目，開發(fā)語音控制的自主無人機集群技術。這被視為一個頗具爭議的轉(zhuǎn)變。此前馬斯克曾反對制造“新的殺人工具”。他甚至起訴了OpenAI，因為他原本期望該組織保持非營利性質(zhì)，并致力于為公眾利益打造安全的人工智能。

據(jù)此前報道，OpenAI也支持Applied Intuition在無人機競標項目中的方案，但其參與將僅限于“任務控制”部分，即將戰(zhàn)場指揮官的語音及其他指令轉(zhuǎn)化為數(shù)字化指令。

Amodei與OpenAI首席執(zhí)行官Sam Altman之間的沖突，有時也公開化。上周在新德里舉行的一場人工智能峰會上，兩人與印度總理莫迪并肩站在一起時，其他人都在臺上手拉手排成一排，而他們兩人則拒絕牽手。