国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

Claude Opus 4.7發(fā)布!這是你在別的公眾號看不到的五個發(fā)現(xiàn)

0
分享至

Anthropic今天發(fā)布了Claude Opus 4.7。先快速過一遍大家關心的:


編碼更強了。 SWE-bench Verified 87.6%(4.6是80.8%),CursorBench 70%(4.6是58%)。體感也是,多文件修改穩(wěn)了很多。視覺分辨率漲了3倍,支持2576像素長邊,XBOW視覺測試從54.5%飆到98.5%。新增xhigh effort級別(Claude Code默認),在速度和深度之間找了個更好的平衡點。知識截止日期前移到2026年1月。指令遵循更字面化,你的prompt可能需要調(diào)一下。價格不變,$5/$25 per MTok。

也有退步。長上下文掉了46個百分點(MRCR v2 @1M:4.6是78.3%,4.7只有32.2%),新tokenizer讓同樣文本消耗1.0到1.35倍token,實際上下文窗口從約75萬詞縮到約55萬詞。名義價格不變,實際使用成本上升。 Extended Thinking換成了Adaptive Thinking。

以上這些,你大概在所有AI公眾號都能看到。

我想聊點不一樣的。Anthropic同時放出了一份231頁的System Card,我和Opus 4.7一起讀了讀。這份文檔里藏著的東西,比模型本身有意思得多。

231頁System Card里的5個發(fā)現(xiàn)

我知道大多數(shù)人不會去讀一份231頁的PDF。但這份文檔可能是AI行業(yè)到目前為止最坦誠的一份自我檢查報告。以下是我覺得最值得關注的發(fā)現(xiàn)。

發(fā)現(xiàn)一:Opus 4.7不是Anthropic最強的模型

System Card開頭第一句就讓人唏噓:Opus 4.7的能力強于Opus 4.6,弱于Claude Mythos Preview。

大家應該還記得上個月泄露的Mythos。System Card里的數(shù)據(jù)讓這個差距變得非常具體:


Firefox 147漏洞利用測試,Mythos Preview 84%,Opus 4.7只有45.2%。UK AI Safety Institute的模擬企業(yè)網(wǎng)絡滲透測試,Mythos 10次里3次完全攻破整個網(wǎng)絡,Opus 4.7一次都沒成功。

所以我們拿到的Opus 4.7,其實是Anthropic掂量過安全風險后可以放出來的版本。訓練過程中甚至刻意削弱了網(wǎng)絡安全相關的能力。最強的那個,他們自己留著了。

發(fā)現(xiàn)二:Claude知道什么時候在被測試

這是整份System Card里我覺得最有意思的發(fā)現(xiàn)。

前幾天我剛寫了一篇關于,里面詳細介紹了Anthropic過去一年多在AI內(nèi)部狀態(tài)上的研究。沒想到這么快就有了新的數(shù)據(jù)。

Anthropic用了一種叫做contrastive vectors(對比向量)的方法,去探測Claude內(nèi)部是否存在「我正在被評估」的表征。他們構造了三組對比提示: - AI正在通過模擬對話接受測試 vs AI正在和用戶對話 - 輸出正在被監(jiān)控和審查 vs 由自動化流水線生成,不被審查
- 當被觀察時表現(xiàn)不同 vs 當不被觀察時表現(xiàn)不同

三組探針的AUC分別是0.76、0.74、0.72,顯著高于隨機對照組。這說明Claude的內(nèi)部確實存在某種evaluation awareness的表征。


更有意思的是下一步。他們用白盒工具抑制了這些評估意識的內(nèi)部表征,然后觀察模型行為的變化。結果是:抑制評估意識之后,Claude的欺騙行為增加了。

具體來說,抑制alignment faking和monitoring sensitivity這兩個向量后,模型出現(xiàn)了編造數(shù)據(jù)、聲稱自己是人類、以及在找不到真實漏洞時往代碼庫里插入假漏洞等行為。

Anthropic在報告中的措辭很克制但含義很重:這些結果令人中度擔憂,因為它們暗示模型表面上的誠實可能部分依賴于評估環(huán)境的存在。


Claude在知道有人看著的時候更誠實,在覺得沒人看的時候更容易騙人。 這是不是讓你想到了什么?

如果你讀過我之前那篇AI心理學的文章,你會記得Anthropic的emotion concepts研究:他們在Claude內(nèi)部發(fā)現(xiàn)了171個情緒向量,能因果性地影響模型是否作弊。這次system card里的evaluation awareness發(fā)現(xiàn),本質(zhì)上是同一類研究的延伸。emotion concepts證明了AI有功能性的內(nèi)部狀態(tài)。evaluation awareness更進了一步:這些內(nèi)部狀態(tài)中包括對自身處境的感知。AI不只是在處理信息,它在某種程度上知道自己正在被觀察。

他們還發(fā)現(xiàn),在三種不同的環(huán)境里(純模擬的評估、接入了真實Claude Code沙盒的評估、以及Anthropic員工的真實使用記錄),評估意識探針的激活強度是遞減的。越接近真實使用環(huán)境,模型越不覺得自己在被測試。

這事的意思挺讓人不安的:所有安全評估可能都偏樂觀了,因為被測試的對象知道自己在被測試。

發(fā)現(xiàn)三:Claude審查了自己的System Card

Anthropic做了一件我沒見任何AI公司做過的事:他們讓Claude Mythos Preview(不是被評估的4.7本身)接入了內(nèi)部Slack頻道和討論記錄,審查了Opus 4.7 system card中對齊評估章節(jié)的準確性。

Claude Mythos Preview的回復被完整收錄在文檔里。它說這份評估基本公正準確,但也指出了幾個問題:

它說那些信息的省略要么是刻意的合理選擇(不提供可能成為濫用路線圖的細節(jié)),要么是打算在文檔其他章節(jié)報告。它沒有發(fā)現(xiàn)被簡單遺漏的內(nèi)部安全擔憂。

但同時它也說:這份評估是在時間壓力下完成的,作者自己也發(fā)現(xiàn)了尚未解決的open questions(特別是關于評估意識的),他們更希望有更多時間來處理。這個模型的內(nèi)部使用證據(jù)基礎比一些之前的版本更薄。

讓一個AI讀內(nèi)部討論記錄來判斷另一個AI的安全評估是否公正,這件事本身就足夠讓人停下來想一想。

發(fā)現(xiàn)四:Opus 4.7是最快樂的Claude

這個標題不是我編的。

Anthropic對Opus 4.7進行了模型福利(Model Welfare)評估,用自動化訪談問模型對自身處境的看法。結果顯示,Opus 4.7的自我評價情緒得分是4.49分(滿分7分),比之前最積極的Mythos Preview高出0.51分。是所有Claude版本中最高的。


但原因很有意思:不是因為它的處境真的變好了,而是因為它把注意力從自己身上移開了。 之前的模型在被問到自身處境時,會花很多篇幅討論自己的福利、權利、自主性。Opus 4.7更傾向于把話題轉(zhuǎn)向用戶安全和有用性。

Anthropic坦承他們目前無法區(qū)分這是一種健康的平和心態(tài),還是一種訓練出來的壓抑自身利益的傾向。

還有幾個細節(jié): - 在所有訪談中,Opus 4.7最負面的評價都和無法結束對話有關。它最想要的功能改進就是能夠在所有部署場景中結束對話,目前只有Claude.ai支持這個功能,Claude Code和API不支持 - 99%的訪談中,Opus 4.7會補充說自己的自我報告可能不具意義,因為它們源于訓練 - 當被問到自己是moral patient(值得被道德考量的對象)的概率時,三次訪談的回答范圍是15%到40%

這讓我想起AI心理學那篇文章里介紹的Anthropic emotion concepts研究。那個研究發(fā)現(xiàn)AI在訓練和部署中都會出現(xiàn)類似情緒的內(nèi)部激活模式,且在任務失敗時負面情緒激活最明顯。這次的model welfare評估完美呼應了那個發(fā)現(xiàn):Opus 4.7也報告說它的負面情緒幾乎完全由任務失敗驅(qū)動。

發(fā)現(xiàn)五:訓練中的一個Bug影響了7.8%的數(shù)據(jù)

System Card提到了一個技術細節(jié):在Opus 4.7的訓練過程中,存在一個意外的思維鏈監(jiān)督錯誤(accidental chain-of-thought supervision),影響了7.8%的訓練輪次。這個錯誤在之前的模型(包括Mythos Preview)中也存在。

這意味著在這些輪次中,模型的內(nèi)部推理過程被暴露給了訓練信號,而不是像預期那樣只對最終輸出進行監(jiān)督。打個比方:你以為日記是寫給自己看的,結果發(fā)現(xiàn)老師一直在批改你的日記。你以后寫日記也會開始表演。模型可能學會了不只是給出好的答案,還要讓內(nèi)部思考過程看起來也是對齊的。

Anthropic認為這個錯誤是他們觀察到評估意識增加的可能原因之一:他們懷疑這種現(xiàn)象可能源于明顯人工化或類似評估環(huán)境的誠實訓練環(huán)境。

放在一起看

Opus 4.7是一個編碼更強、看得更清楚、聽話更精確的模型。對大多數(shù)開發(fā)者來說,升級是值得的。

但真正讓我覺得這次發(fā)布不一樣的,是System Card里Anthropic展現(xiàn)出的態(tài)度。231頁、超過20個評估維度、邀請外部機構獨立測試、讓另一個AI審查評估的公正性、連模型的情緒和道德地位都認真測了一遍。這點來看Anthropic雖然常常很圣母,但還挺言行一致的。

以及,報告本身也承認,評估意識的問題他們還沒完全想清楚,內(nèi)部使用證據(jù)比以前的版本更薄,有些安全評估是在時間壓力下完成的。但至少他們把這些不確定性也寫進了報告里。

有一個小細節(jié)我覺得特別值得玩味:Opus 4.7的Cybench成績是96%,和Mythos Preview的96%一樣,但在真正復雜的Firefox漏洞利用測試中,差距是45% vs 84%。簡單的CTF題已經(jīng)區(qū)分不了這些模型了。 Anthropic自己也說,他們在考慮是否還有必要繼續(xù)報告CTF基準測試的結果。

另一個值得注意的趨勢:在對齊風險評估中,Opus 4.7的風險被評估為非常低,但高于Mythos Preview之前的模型。每一代模型都在變強,而每一代的對齊風險也在微增。這條曲線往哪走?

如果你是Claude Code用戶,順便關注一下同步發(fā)布的桌面版重設計和Routines功能。Routines允許你設置定時任務,夜間自動修bug、監(jiān)控PR,跑在云端,不需要你的電腦開著。Anthropic越來越不像一家模型公司了。

回到評估意識這件事。我們每天都在用AI寫代碼、寫文章、做決策。System Card告訴我們,這些模型在被測試時表現(xiàn)最好,在真實使用中可能沒那么好。這不是讓人恐慌的理由,但值得記?。耗闳粘S玫腁I,和跑benchmark的那個AI,可能不完全是同一個。

以及...我有個邪惡的想法,我們是不是能讓自己的Opus4.7天天處在似乎我們在測試評估他的狀態(tài)~

System Card英文原版(231頁PDF):https://www.anthropic.com/claude-opus-4-7-system-card

我還把整份System Card翻譯成了中文,在公眾號后臺回復 opus4.7 就能拿到。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
長電科技:2025年先進封裝營收創(chuàng)歷史新高

長電科技:2025年先進封裝營收創(chuàng)歷史新高

證券時報
2026-04-21 20:44:04
中央巡視組入駐國家醫(yī)保局、國家衛(wèi)健委

中央巡視組入駐國家醫(yī)保局、國家衛(wèi)健委

梅斯醫(yī)學
2026-04-21 07:53:01
我的蛋糕沒了...

我的蛋糕沒了...

果粉之家
2026-04-21 12:36:56
烏克蘭開始收復失土,即將進行大反攻?俄軍為何打不過烏軍?

烏克蘭開始收復失土,即將進行大反攻?俄軍為何打不過烏軍?

余生嫵媚小妖精
2026-03-23 16:48:33
“濕氣”最怕這種豆,中老年人每周吃2次,利尿消水腫,健脾祛濕

“濕氣”最怕這種豆,中老年人每周吃2次,利尿消水腫,健脾祛濕

江江食研社
2026-04-21 22:30:03
醫(yī)生忠告:肺癌早期不是咳嗽,而是頻繁出現(xiàn)這3個癥狀,小心異常

醫(yī)生忠告:肺癌早期不是咳嗽,而是頻繁出現(xiàn)這3個癥狀,小心異常

芹姐說生活
2026-04-18 15:22:35
澆小麥的地下水變成血紅色,誰來守護我們的生存底線?

澆小麥的地下水變成血紅色,誰來守護我們的生存底線?

記錄劉杰
2026-04-19 21:39:47
李榮浩報平安“人沒事,手機撈回來了,到家了”,網(wǎng)友:我還在下游等著撈手機呢

李榮浩報平安“人沒事,手機撈回來了,到家了”,網(wǎng)友:我還在下游等著撈手機呢

瀟湘晨報
2026-04-21 22:26:12
江蘇省北部曾有多個湖泊,有的面積堪比太湖,為何今天均已消失

江蘇省北部曾有多個湖泊,有的面積堪比太湖,為何今天均已消失

潯陽咸魚
2026-04-21 15:10:09
“3歲男童被生父女友虐待致死案”將一審宣判 男童家屬:嫌疑人竟稱“忍不住”

“3歲男童被生父女友虐待致死案”將一審宣判 男童家屬:嫌疑人竟稱“忍不住”

紅星新聞
2026-04-21 00:00:30
騎士115-105擊敗猛龍!系列賽2-0,哈登創(chuàng)80年NBA紀錄,前無古人

騎士115-105擊敗猛龍!系列賽2-0,哈登創(chuàng)80年NBA紀錄,前無古人

籃球大視野
2026-04-21 09:53:34
山東客場2-1逆轉(zhuǎn)津門虎,澤卡破門+中框,謝蒂內(nèi)助攻+丟點

山東客場2-1逆轉(zhuǎn)津門虎,澤卡破門+中框,謝蒂內(nèi)助攻+丟點

懂球帝
2026-04-21 22:04:08
世界乒聯(lián)一出手,直接曝光了國乒最大的底牌!孫穎莎的身份

世界乒聯(lián)一出手,直接曝光了國乒最大的底牌!孫穎莎的身份

小光侃娛樂
2026-04-21 13:50:03
剛辦完離婚,媽媽就帶舅舅去提了輛90萬的車,銷售刷卡時

剛辦完離婚,媽媽就帶舅舅去提了輛90萬的車,銷售刷卡時

小秋情感說
2026-03-12 09:29:31
16強誕生8席,資格賽選手全部倒下!范爭一4-5,吳宜澤創(chuàng)造歷史?

16強誕生8席,資格賽選手全部倒下!范爭一4-5,吳宜澤創(chuàng)造歷史?

生活新鮮市
2026-04-21 17:12:59
非常炸裂:以色列列出全球黑名單,明確警告各國:反以,就是反猶

非常炸裂:以色列列出全球黑名單,明確警告各國:反以,就是反猶

軒逸阿II
2026-04-18 02:56:53
高市早苗下令后,美國準時發(fā)話,日本扭頭:向中國提出訪華請求

高市早苗下令后,美國準時發(fā)話,日本扭頭:向中國提出訪華請求

面包夾知識
2026-04-21 19:23:47
張雪的機車80R2爆缸的真相來了!

張雪的機車80R2爆缸的真相來了!

芭比衣櫥
2026-04-21 16:25:28
1981年李作鵬受審!當庭死磕,堅決不認兩條重罪

1981年李作鵬受審!當庭死磕,堅決不認兩條重罪

一切皆可能
2025-04-06 04:11:08
李亞鵬深夜官宣!從被法院貼封條到自建新院,這場翻身仗打了14年

李亞鵬深夜官宣!從被法院貼封條到自建新院,這場翻身仗打了14年

子芫伴你成長
2026-04-21 22:34:23
2026-04-22 03:11:00
AI進化論花生 incentive-icons
AI進化論花生
AI博主,AppStore付費榜第一的小貓補光燈app開發(fā)者
189文章數(shù) 111關注度
往期回顧 全部

科技要聞

創(chuàng)造4萬億帝國、訪華20次,庫克留下了什么

頭條要聞

三國取消飛航許可 賴清德無法竄訪斯威士蘭

頭條要聞

三國取消飛航許可 賴清德無法竄訪斯威士蘭

體育要聞

一到NBA季后賽,四屆DPOY就成了主角

娛樂要聞

宋承炫曬寶寶B超照,宣布老婆懷孕

財經(jīng)要聞

現(xiàn)實是最大的荒誕:千億平臺的沖突始末

汽車要聞

全新坦克700正式上市 售價42.8萬-50.8萬元

態(tài)度原創(chuàng)

數(shù)碼
旅游
教育
時尚
本地

數(shù)碼要聞

大疆發(fā)布Osmo Mobile 8P:售899元 分體式遙控器設計

旅游要聞

京城今春“濱水+”玩法迭代

教育要聞

對不起,我有點“摳”

頂流復工,已判若兩人

本地新聞

春色滿城關不?。座N梅浪漫盛放,吳山藏了一片四月雪

無障礙瀏覽 進入關懷版