出品｜虎嗅科技組

作者｜趙致格

編輯｜苗正卿

頭圖｜視覺(jué)中國(guó)

一直以來(lái)，Anthropic被業(yè)內(nèi)認(rèn)為是“最有良心的AI企業(yè)”、“AI安全的標(biāo)桿”。CEO達(dá)里奧·阿莫迪曾多次表示，Anthropic正是因?yàn)槌鲇趯?duì)安全的重視才推遲了Claude的發(fā)布，最后使ChatGPT搶占了先機(jī)。

然而在2月25日，Anthropic發(fā)出一份聲明，對(duì)此前做出的安全承諾做出大幅度軟化。Anthropic在聲明中表示，在競(jìng)爭(zhēng)加劇、政府監(jiān)管缺位的背景下，它將不再恪守《負(fù)責(zé)任擴(kuò)展政策（Responsible Scaling Policy, RSP）》。

2023年，Anthropic開(kāi)始推行《負(fù)責(zé)任規(guī)?；摺?，其中最核心的條款是：當(dāng)模型迭代速度超過(guò)自身安全防護(hù)能力，無(wú)法證明風(fēng)險(xiǎn)緩解措施到位前，“暫停模型規(guī)模擴(kuò)張或推遲新模型的發(fā)布”。這一政策被視為對(duì)AI行業(yè)“速度至上”風(fēng)氣的反擊，也成為了Anthropic引領(lǐng)AI安全的基石。

而在新版本的政策中，Anthropic不再承諾單邊暫停有風(fēng)險(xiǎn)的模型，而是僅在特定情況下，例如當(dāng)Anthropic在競(jìng)爭(zhēng)對(duì)手中處于領(lǐng)先地位時(shí)，才會(huì)延遲“高能力” 模型的開(kāi)發(fā)或發(fā)布?？紤]到“領(lǐng)先位置”等詞語(yǔ)缺乏明確標(biāo)準(zhǔn)，新規(guī)則實(shí)質(zhì)上已經(jīng)取消此前的限制措施。

不過(guò)新版本的《負(fù)責(zé)任擴(kuò)展政策》還是包括其他一些安全相關(guān)的內(nèi)容：Anthropic承諾在AI安全風(fēng)險(xiǎn)方面更加透明，包括額外披露Anthropic自有模型在安全測(cè)試中的表現(xiàn)；承諾在安全方面的投入要達(dá)到或超越競(jìng)爭(zhēng)對(duì)手的水平。

新政策還承諾Anthropic將定期發(fā)布“前沿安全路線圖”（Frontier Safety Roadmaps），列出它希望構(gòu)建的未來(lái)安全措施目標(biāo)清單。Anthropic還承諾，未來(lái)每3到6個(gè)月發(fā)布一次“風(fēng)險(xiǎn)報(bào)告”（Risk Reports）。公司稱，這些報(bào)告將“闡明模型能力、模型可能構(gòu)成威脅的具體方式以及現(xiàn)行風(fēng)險(xiǎn)緩解措施如何相互關(guān)聯(lián)，并對(duì)整體風(fēng)險(xiǎn)水平做出評(píng)估”。

為什么Anthropic要在當(dāng)下做出重大的安全政策轉(zhuǎn)向？Anthropic 的首席科學(xué)家賈里德?卡普蘭（Jared Kaplan）在接受《時(shí)代》的獨(dú)家采訪中表示：“我們認(rèn)為，停止訓(xùn)練人工智能模型，實(shí)際上對(duì)任何人都沒(méi)有好處。在AI飛速發(fā)展的情況下，如果競(jìng)爭(zhēng)對(duì)手都在全速前進(jìn)，我們?cè)僮龀鰡芜叧兄Z，其實(shí)并不合理?！?/p>

卡普蘭還強(qiáng)調(diào)，放棄單邊承諾并不意味著公司將180度轉(zhuǎn)向“速度至上”，向市場(chǎng)激勵(lì)妥協(xié)，而是對(duì)“政治與科學(xué)現(xiàn)實(shí)的務(wù)實(shí)回應(yīng)”。

一直以來(lái)，Anthropic除了發(fā)布各類(lèi)自律條款，也在積極推動(dòng)美國(guó)不同層級(jí)政府層面就模型透明度和AI安全護(hù)欄進(jìn)行立法，發(fā)布具有約束力的監(jiān)管條約。在Anthropic發(fā)布《負(fù)責(zé)任擴(kuò)展政策》后，美國(guó)有十幾個(gè)州陸續(xù)發(fā)布了不盡相同的針對(duì)性立法。其中，作為藍(lán)州的加利福尼亞州和科羅拉多州出臺(tái)了最為全面和嚴(yán)格的相關(guān)法律。

然而，特朗普政府在AI監(jiān)管上的觀點(diǎn)顯然與Anthropic大相徑庭，一直對(duì)AI發(fā)展采取放任自流的態(tài)度，甚至試圖廢除各州已出臺(tái)的監(jiān)管規(guī)則。這也意味著Anthropic一直期待的聯(lián)邦層級(jí)的立法幾乎不可能實(shí)現(xiàn)。

Anthropic在官網(wǎng)上對(duì)此評(píng)論稱：“政策環(huán)境已轉(zhuǎn)向優(yōu)先強(qiáng)調(diào)AI競(jìng)爭(zhēng)力與經(jīng)濟(jì)增長(zhǎng)，而以安全為導(dǎo)向的討論在聯(lián)邦層面尚未取得實(shí)質(zhì)性進(jìn)展?！?/p>

有人把Anthropic一直以來(lái)對(duì)AI安全視為一種價(jià)值觀至上的理想主義。也有人從更加現(xiàn)實(shí)的角度出發(fā)，認(rèn)為達(dá)里奧·阿莫迪一直推動(dòng)立法是在試圖用政治干涉商業(yè)。因?yàn)閲?yán)格的監(jiān)管將大幅增加中小企業(yè)和開(kāi)源項(xiàng)目的進(jìn)入難度，從而使Anthropic這樣有著建立成熟安全體系的大企業(yè)占據(jù)優(yōu)勢(shì)。

不管Anthropic此前是不是有此意圖，但在特朗普政府宣告“此路不通”后，Anthropic不得不直面與競(jìng)爭(zhēng)對(duì)手對(duì)AI主導(dǎo)權(quán)的激烈爭(zhēng)奪。

十幾天前，Anthropic剛剛完成了AI史上最大規(guī)模的300億美元融資，由GIC、Coatue領(lǐng)投，微軟、英偉達(dá)、亞馬遜、谷歌等公司參與。這次融資也讓Anthropic的估值從去年9月的1830億美元飆升至3800億美元。

超高的估值也意味著巨大的盈利壓力，Anthropic2026年?duì)I收目標(biāo)是180億美元，相比于2025年的47億增長(zhǎng)了4倍，而2027年的營(yíng)收目標(biāo)更是達(dá)到了550億美元。

Anthropic收入來(lái)源高度集中為企業(yè)提供各類(lèi)API服務(wù)。達(dá)里奧·阿莫迪此前透露，約80%的收入來(lái)自企業(yè)客戶，其中很大一部分得益于其走紅的AI編程工具Claude Code。然而Anthropic的最大競(jìng)爭(zhēng)對(duì)手也在這個(gè)賽道飛速進(jìn)步中，不僅極推廣其AI編程工具Codex，還發(fā)布了新版模型GPT 5.3-Codex，以及面向蘋(píng)果電腦用戶的獨(dú)立應(yīng)用。

在兩大巨頭的競(jìng)爭(zhēng)白熱化之際，拆除“安全護(hù)欄”或許只是Anthropic開(kāi)啟貼身肉搏，在大模型能力上全力沖刺的第一步。

本文來(lái)自虎嗅，原文鏈接：https://www.huxiu.com/article/4837211.html?f=wyxwapp