国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

Anthropic最強模型,很可能敲響了AGI的防盜門

0
分享至



Anthropic每次傳出新品發(fā)布,都會被媒體稱為“王炸”,但這次王炸真的來了。外媒曝光了Anthropic正處于測試階段的最強AI模型。

Anthropic的內(nèi)容管理系統(tǒng)配置出了問題,近3000份未發(fā)布的內(nèi)部文檔,被放在了公開可訪問的數(shù)據(jù)緩存里。



相當(dāng)于敞著大門讓別人看內(nèi)部機密。

劍橋大學(xué)網(wǎng)絡(luò)安全研究員亞歷山大·保韋爾斯(Alexandre Pauwels)和LayerX Security的高級研究員羅伊·帕斯(Roy Paz)在搜索公開數(shù)據(jù)時發(fā)現(xiàn)了這些文件。

這些文件里有什么?文章草稿、未使用的圖片素材、內(nèi)部活動安排,甚至還有一份標(biāo)題里帶“parental leave”的員工文檔。

但最引人注目的,是一份詳細(xì)介紹新模型的草稿。

文件顯示,Capybara和Mythos指向同一個底層模型。

前者是產(chǎn)品層級的命名,跟Opus、Sonnet一樣,后者是模型的代號。就像你可以把一款發(fā)動機裝進不同型號的車?yán)铮琈ythos是那臺發(fā)動機,Capybara是那個新車系。

說句題外話,其實千問的卡通形象也是Capybara,你說這不巧了嘛!



言歸正傳,草稿里面有這么一句話,“與我們之前最好的模型Claude Opus 4.6相比,Capybara在軟件編程、學(xué)術(shù)推理和網(wǎng)絡(luò)安全測試等方面的得分顯著提高。”

Anthropic發(fā)言人證實,新模型在“推理、編碼和網(wǎng)絡(luò)安全”方面有“有意義的進步”,代表了“階躍式變化”,并且該模型已經(jīng)交付給了極少數(shù)早期客戶,以進行測試。

但真正讓Anthropic緊張的不是性能提升,而是網(wǎng)絡(luò)安全能力的飛躍。

草稿中寫道,這款模型“在網(wǎng)絡(luò)能力方面目前遠(yuǎn)遠(yuǎn)領(lǐng)先于任何其他AI模型”,并且“預(yù)示著即將到來的一波模型浪潮,這些模型利用漏洞的能力將遠(yuǎn)遠(yuǎn)超過防御者的努力”。

換句話說,Anthropic擔(dān)心黑客會拿這個模型發(fā)動大規(guī)模網(wǎng)絡(luò)攻擊。

今年2月,OpenAI發(fā)布GPT-5.3-Codex時,首次將一款模型歸類為“高網(wǎng)絡(luò)安全能力”,它被OpenAI拿去訓(xùn)練識別軟件漏洞。Opus 4.6也展現(xiàn)出類似的能力,可以發(fā)現(xiàn)代碼庫中的未知漏洞。

兩家公司都清楚,這其實是一把雙刃劍。

Capybara可以是守護天使,也可以是充滿惡意的病毒。

所以Anthropic為Capybara設(shè)計了一套謹(jǐn)慎的發(fā)布策略。草稿寫道:“在準(zhǔn)備發(fā)布Claude Capybara時,我們希望格外謹(jǐn)慎。因為我們清楚它帶來的風(fēng)險,肯定比測試中能遇到的情況更為嚴(yán)重?!?/p>

Anthropic的具體做法是優(yōu)先向網(wǎng)絡(luò)安全防御組織提供早期訪問權(quán)限,讓他們有時間加固代碼庫,應(yīng)對即將到來的AI攻擊浪潮。

文件還提到,這個模型運行成本很高,短期內(nèi)不會面向普通用戶開放。

隨后Anthropic迅速關(guān)閉了公開訪問權(quán)限。發(fā)言人將此歸咎于“內(nèi)容管理系統(tǒng)配置中的人為錯誤”,并強調(diào)這些是“考慮發(fā)布的早期草稿”。

但泄露已經(jīng)發(fā)生。Mythos和Capybara成了公開的秘密,Anthropic的發(fā)言人也大大方方地承認(rèn)了Mythos和Capybara的存在。

01

Mythos可能是這個樣子的

那么Mythos具體會是什么樣呢?

先說結(jié)論:如果Mythos真有“階躍式變化”,我猜它不只是一個更大的base model,而是一套“模型+編排+驗證 +風(fēng)險控制”的復(fù)合系統(tǒng)。


也就是說,真正跳變的可能不是參數(shù)量,而是“做長任務(wù)時不散架”。

我的理由很簡單,技術(shù)會變,但是Anthropic自己的大方向不會變。

Anthropic已經(jīng)發(fā)布了很多關(guān)于公司技術(shù)路線的博客,比如《Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaks》(下一代分類器:更高效地防范通用越獄攻擊),以及《Mitigating the risk of prompt injections in browser use》(降低瀏覽器使用中提示注入的風(fēng)險)等等。



這東西就跟概念車一樣。

先說說安全方面吧,很多人以為殺毒軟件還是靠“病毒庫”——就像警察拿著通緝犯照片挨個比對。但實際上,現(xiàn)代殺毒軟件和EDR(端點檢測與響應(yīng))系統(tǒng)早就不是這么干了。

它們會看文件結(jié)構(gòu)、監(jiān)控進程行為、分析API調(diào)用模式、追蹤橫向移動軌跡,甚至用機器學(xué)習(xí)判斷“這個行為像不像攻擊”。

換句話說,現(xiàn)代安全系統(tǒng)已經(jīng)不只是在找“已知的壞人”,而是在識別“可疑的行為模式”。

Mythos可能把這個邏輯又往前推了一步。它能理解攻擊的語義。

通過理解一段代碼、一串工具調(diào)用、一段對話,判斷是不是在構(gòu)造一條真實可執(zhí)行的攻擊鏈。

比如它能分辨出:這不是普通的壓縮腳本,而是在做規(guī)避掃描、自啟動、憑據(jù)竊取這一整套動作;這不是正常的滲透測試問答,而是在拼接exploit、持久化、橫移、出網(wǎng)這幾個步驟。

Mythos很可能具備“漏洞泛化發(fā)現(xiàn)”能力。

Anthropic 在今年2月的博客中提到,Opus 4.6找零日漏洞的方式不像傳統(tǒng)fuzzing那樣亂撞,而是通過理解代碼語義、歷史修復(fù)模式和相似bug特征,去找“還沒被修掉的同類漏洞”。

看到一個漏洞后,它就能立刻聯(lián)想到“其他地方是不是也存在類似的漏洞”。

Mythos在推理方面的提升,可能也不單單是說benchmark分?jǐn)?shù)又高了幾分。

比如它可能在思考過程中更少出現(xiàn)中途漂移,更少為了迎合用戶而過度自信,更會顯式區(qū)分“已知、推斷、未知”,更會在不確定時保守行動等等。

這和安全是同一類底層能力。因為好的模型不只是更會生成答案,而是更會管理自己的不確定性。

Claude的一大重點就是編程。所以我覺得在編程能力上,Mythos可能不只是“把代碼寫地更好”,而是從“會寫代碼”變成“會經(jīng)營代碼庫”。

Mythos可能會把模塊邊界、依賴關(guān)系、歷史patch風(fēng)格、測試習(xí)慣放在一起進行建模。

它會先拆改動圖、再分批落patch,而不是想到哪改到哪;寫完代碼后會主動補測試、跑靜態(tài)檢查,根據(jù)失敗日志回滾到更穩(wěn)的方案。

這種能力對真實工程項目的價值,遠(yuǎn)超在測試集上多做對幾道題。

當(dāng)然最終要落到的地方,肯定是在線束(harness)上,Mythos很可能實現(xiàn)了從“單次回答強”到“整條執(zhí)行鏈穩(wěn)”的跨越。

它會把大任務(wù)拆成可驗證的小階段,多個子任務(wù)并行執(zhí)行再匯總結(jié)果,在長鏈條里保留關(guān)鍵狀態(tài)、丟掉噪聲。某一步報錯時不需要從頭來過,只要找到問題發(fā)生地,對其局部進行修復(fù),就可以繼續(xù)執(zhí)行任務(wù)。

就像游戲里的檢查點,如果你沒有通過某一個BOSS,你不需要從頭開始打整個章節(jié),你會被傳送到上一個檢查點。

這就像工業(yè)控制里的“線束管理”——不是某一根線更粗,而是整個連接、隔離、容錯、標(biāo)記、回路設(shè)計更合理。

長上下文能力的提升可能也不只是“窗口更大”,而是“上下文利用率更高”。

現(xiàn)在的大模型,一說上下文窗口,每個都說自己能裝下幾十萬字,但是一問它全文重點或者文檔關(guān)系,立刻就啞巴了。

Mythos如果真有進步,可能體現(xiàn)在更強的重點檢測、更好的層級摘要、更準(zhǔn)的跨文檔對齊,以及更有效的持續(xù)記憶寫回機制。

在工具使用上,Mythos可能從“會調(diào)工具”升級到“會設(shè)計實驗”。

Anthropic已經(jīng)在推computer use、terminal、browser這套能力,但真正的跨越不是UI自動化更強,而是知道什么時候該讀代碼、什么時候該跑測試、什么時候該查文檔。

如何設(shè)計最小驗證閉環(huán)、避免無效探索、控制成本。

通俗說,就是從“會操作電腦”升級到“會像工程師那樣做排障實驗”,甚至于是說“碰到問題時,會原地掏出一個機床自己制造一個特化對口的工具來處理問題”。

02

還有呢?

反正都猜這么多了,不妨咱們就再往深了猜猜,我覺得Mythos的提升很可能來自幾種訓(xùn)練和推理技巧的疊加。

第一是更重的測試時計算,也就是模型會根據(jù)任務(wù)難度動態(tài)分配更多“思考預(yù)算”,在關(guān)鍵步驟上做更長、更深的推理,而不是一口氣線性吐完答案。

就像考試,普通的AI都是閉卷快答選手,不管是1分的選擇題,還是20分的壓軸大題,都是掃一眼就動筆,寫一步不回頭,勻速寫完拉倒,哪怕題很難,也是順嘴瞎編湊數(shù)。

Mythos是學(xué)霸,拿到題先分難度,簡單題秒答不浪費時間;遇到復(fù)雜大題、關(guān)鍵步驟,就多打草稿、多琢磨幾遍,算對了再往下寫,卡殼了就停下來多想一層,絕不會張嘴就來。

第二是更偏向agent軌跡的強化學(xué)習(xí),訓(xùn)練目標(biāo)不再只是“最后一句話答對了沒有”,而是“整條任務(wù)鏈有沒有成功完成”,包括怎么拆計劃、何時調(diào)用工具、何時停下來驗證、出錯后如何回退。

原來的訓(xùn)練方式是只看“項目最后有沒有交差”,哪怕實習(xí)生中間瞎搞、找別人代做、步驟全錯,最后蒙對了結(jié)果,就發(fā)獎金。

要是中間全對,最后一步手抖錯了,直接扣錢,完全不管過程。

Mythos是全程盯流程,不僅看最后項目成沒成,還要看你會不會把大項目拆成一步一步的小計劃,什么時候該查資料、用工具,什么時候該停下來核對前面的內(nèi)容,做錯了會不會回頭修正。

第三是更強的verifier,也就是某種內(nèi)置的審稿人或質(zhì)檢員,在代碼場景里檢查patch是否真的成立,在安全場景里檢查輸出是否顯著增加攻擊可執(zhí)行性。

這個你就當(dāng)成是公眾號發(fā)文章。普通AI是作者寫完了直接發(fā),不管有沒有錯別字、事實錯誤、合規(guī)風(fēng)險,發(fā)出去出問題再說。

Mythos就和字母AI一樣,要有提綱、要有多道審核、還要去求證等等。這篇文章除外。

第四是更細(xì)粒度的風(fēng)險監(jiān)控,不只看最終文本,而是看模型內(nèi)部表征和中間軌跡,判斷它是不是正在形成一條危險的攻擊鏈。

這也是為什么我一直拿現(xiàn)代殺毒軟件和EDR來類比。過去的殺毒軟件更像“對照病毒庫”,今天的安全系統(tǒng)更像“識別可疑行為模式”。

如果把這個邏輯搬到大模型里,Mythos的安全能力就可能不是靠硬編碼關(guān)鍵詞,而是靠對任務(wù)語義、工具調(diào)用順序、代碼行為和中間狀態(tài)的綜合判斷。

它識別的不是“某個壞答案”,而是“這個請求會造成怎樣的后果”。一旦這種能力成熟,安全就不再只是一個外掛過濾器,而會變成模型推理過程本身的一部分。

如果把這些能力串起來看,Mythos可能會是一個將語義泛化、長任務(wù)穩(wěn)定性、工具編排、風(fēng)險控制這幾件事給融合起來的新產(chǎn)品。

這也解釋了為什么Anthropic對Mythos如此謹(jǐn)慎。

一個能理解攻擊語義、能泛化發(fā)現(xiàn)漏洞、能編排長鏈條任務(wù)、能自主使用工具的AI,這已經(jīng)是敲響AGI的防盜門了。

但這里有個更深層的問題:當(dāng)AI的攻擊能力開始系統(tǒng)性地超過防御能力,整個網(wǎng)絡(luò)安全的平衡會不會被打破?

如果未來幾個月Anthropic真的正式發(fā)布Mythos或者Capybara,那么最應(yīng)該盯緊的是它在computer use、terminal、browser這類長任務(wù)環(huán)境里的穩(wěn)定性。

因為這類場景最能暴露一個模型到底只是“單輪回答強”,還是已經(jīng)具備“持續(xù)執(zhí)行”的系統(tǒng)能力。真正的階躍式變化,最后都會反映在這些難以偽裝美化的指標(biāo)上。

從這個角度看,Mythos泄密事件的真正意義,是揭示了AI發(fā)展的下一個臨界點。

而這個臨界點,可能比我們想象的來得更快。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
伊朗放出致命證據(jù),果然美軍說謊了!

伊朗放出致命證據(jù),果然美軍說謊了!

深度報
2026-04-13 22:31:48
解放軍用中文、日文和英文通告全球,絕不讓侵略者踏上中國領(lǐng)土

解放軍用中文、日文和英文通告全球,絕不讓侵略者踏上中國領(lǐng)土

阿硢是吃瓜群眾
2026-04-15 11:41:57
四川內(nèi)江發(fā)生4.1級地震,連續(xù)5天發(fā)生15起地震,專家解讀

四川內(nèi)江發(fā)生4.1級地震,連續(xù)5天發(fā)生15起地震,專家解讀

大風(fēng)新聞
2026-04-15 11:47:05
家里若是有這7種“老物件”,好好保存,越放越值錢,能當(dāng)傳家寶

家里若是有這7種“老物件”,好好保存,越放越值錢,能當(dāng)傳家寶

Home范
2026-04-11 10:16:28
甘油三酯降45%!中山大學(xué)臨床實證:改良禁食法,7天即可改善代謝

甘油三酯降45%!中山大學(xué)臨床實證:改良禁食法,7天即可改善代謝

思思夜話
2026-04-15 13:16:25
封鎖霍爾木茲,特朗普的“膽小鬼游戲”能玩多久 | 京釀館

封鎖霍爾木茲,特朗普的“膽小鬼游戲”能玩多久 | 京釀館

新京報評論
2026-04-14 14:59:35
新娘確實漂亮,但我更喜歡戴眼鏡那個。

新娘確實漂亮,但我更喜歡戴眼鏡那個。

動物奇奇怪怪
2026-04-12 12:44:36
美以玩陰的!伊朗向中國提了一個請求,世界關(guān)注:中國敢不敢答應(yīng)

美以玩陰的!伊朗向中國提了一個請求,世界關(guān)注:中國敢不敢答應(yīng)

福建睿平
2026-04-15 11:40:45
乒乓球界有個最難破的紀(jì)錄,就連張怡寧都沒能實現(xiàn)!

乒乓球界有個最難破的紀(jì)錄,就連張怡寧都沒能實現(xiàn)!

小光侃娛樂
2026-04-13 06:50:05
“老師最煩這種現(xiàn)眼包家長”,寶媽穿緊身裙參加運動會,被嘲

“老師最煩這種現(xiàn)眼包家長”,寶媽穿緊身裙參加運動會,被嘲

番外行
2026-04-15 10:03:50
歷史性一刻!中阿一口氣簽24項協(xié)議,非石油貿(mào)易首破1000億美元!

歷史性一刻!中阿一口氣簽24項協(xié)議,非石油貿(mào)易首破1000億美元!

云舟史策
2026-04-15 07:39:12
活塞60勝或藏隱患,騎士算計精準(zhǔn)欲借其沖總決賽之巔

活塞60勝或藏隱患,騎士算計精準(zhǔn)欲借其沖總決賽之巔

阿晞體育
2026-04-15 12:55:50
橫山勇致命誤判,低估陳誠援軍,最終10萬日軍栽在74軍手里

橫山勇致命誤判,低估陳誠援軍,最終10萬日軍栽在74軍手里

浩渺青史
2026-04-12 16:48:00
上海至重慶一航班發(fā)生“重著陸”,民航西南局已介入調(diào)查,乘客:飛機重重落地后彈起,兩秒鐘后再次落地,有失重感和劇烈撞擊聲

上海至重慶一航班發(fā)生“重著陸”,民航西南局已介入調(diào)查,乘客:飛機重重落地后彈起,兩秒鐘后再次落地,有失重感和劇烈撞擊聲

極目新聞
2026-04-14 18:20:52
池子消失的這幾年:沒有人再提起他,也沒有人再需要他

池子消失的這幾年:沒有人再提起他,也沒有人再需要他

伊莎貝拉小星球
2026-04-15 10:40:38
漢纜股份直線漲停

漢纜股份直線漲停

每日經(jīng)濟新聞
2026-04-15 09:55:13
被壓著打,還怎么打?真主黨這場戰(zhàn)爭坑慘了黎巴嫩

被壓著打,還怎么打?真主黨這場戰(zhàn)爭坑慘了黎巴嫩

民間胡扯老哥
2026-04-14 03:43:38
加拿大等10國聯(lián)合聲明:“以最強烈措辭”譴責(zé)造成聯(lián)合國維和人員死亡等行為

加拿大等10國聯(lián)合聲明:“以最強烈措辭”譴責(zé)造成聯(lián)合國維和人員死亡等行為

環(huán)球網(wǎng)資訊
2026-04-15 11:46:54
影子調(diào)查|21萬元注射干細(xì)胞,是誰把臨床試驗做成了生意?

影子調(diào)查|21萬元注射干細(xì)胞,是誰把臨床試驗做成了生意?

澎湃新聞
2026-04-14 19:38:29
退休新規(guī):1980年后生的人面臨雙重壓力。

退休新規(guī):1980年后生的人面臨雙重壓力。

歲月有情1314
2026-04-08 08:02:19
2026-04-15 13:52:49
字母榜 incentive-icons
字母榜
讓未來不止于大。
2377文章數(shù) 8058關(guān)注度
往期回顧 全部

科技要聞

手機無死角上網(wǎng)?亞馬遜砸百億硬剛馬斯克

頭條要聞

上萬美軍封鎖下 多艘貨船成功通過霍爾木茲海峽

頭條要聞

上萬美軍封鎖下 多艘貨船成功通過霍爾木茲海峽

體育要聞

三球準(zhǔn)絕殺戴大金鏈:轟30+10自我救贖

娛樂要聞

曾志偉辦73歲生日派對,逾百藝人到場

財經(jīng)要聞

業(yè)績失速的Lululemon:"健康"人設(shè)崩塌?

汽車要聞

海豹08內(nèi)飾首秀 大滿配“海王”旗艦

態(tài)度原創(chuàng)

本地
數(shù)碼
健康
家居
公開課

本地新聞

12噸巧克力有難,全網(wǎng)化身超級偵探添亂

數(shù)碼要聞

EPOMAKER LUMA100矮軸“鋁坨坨”三模機械鍵盤發(fā)售,699元

干細(xì)胞抗衰4大誤區(qū),90%的人都中招

家居要聞

簡而不減 暖居之道

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關(guān)懷版