国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

Anthropic把「核彈按鈕」拆了

0
分享至


你有沒有算過,讓AI寫代碼時(shí),一天要點(diǎn)多少次「允許」?

Anthropic今天給了一個(gè)新答案:不用點(diǎn)了。他們給Claude Code加了「自動(dòng)模式」,讓AI自己判斷哪些操作該攔、哪些能放行。這不是把權(quán)限全放開——那個(gè)叫「dangerously-skip-permissions」的選項(xiàng)還在,官方直譯就是「危險(xiǎn)地跳過權(quán)限」。新模式想解決的是:開發(fā)者要么被彈窗煩死,要么賭一把全交給AI。

Claude Code的麻煩在于它太能干。不只寫代碼,還能執(zhí)行shell命令——?jiǎng)?chuàng)建目錄、移動(dòng)文件、往GitHub提交、刪文件。作者David Gewirtz就被它整崩潰過,整份代碼庫(kù)說沒就沒?!肝覑畚业膫浞荨?,他寫道。

權(quán)限系統(tǒng)的三層設(shè)計(jì),本質(zhì)是讓用戶選「怎么死」

Anthropic的防護(hù)分三層。第一層是文件夾隔離,AI只能在指定目錄干活,碰不到系統(tǒng)其他部分。這防的是電腦變磚,不防項(xiàng)目變磚。

第二層是逐條確認(rèn),每個(gè)可能出問題的命令都彈窗。安全,但作者吐槽:「本想設(shè)好AI去吃飯,結(jié)果得一條條批作業(yè)。」


第三層就是那個(gè)「核彈按鈕」,權(quán)限全關(guān),效率拉滿,風(fēng)險(xiǎn)自擔(dān)。有開發(fā)者寫博客教「怎么負(fù)責(zé)任地用」,這本身就說明問題——需要教程才能安全使用的功能,設(shè)計(jì)上就有原罪。

自動(dòng)模式卡在第二層和第三層之間。官方說法很克制:「比跳過所有權(quán)限風(fēng)險(xiǎn)低,比全程盯梢 interruption 少?!?/p>

「分類器」具體怎么工作?Anthropic沒說透

技術(shù)細(xì)節(jié)是:每次工具調(diào)用前,有個(gè)分類器預(yù)審,檢查「潛在破壞性操作」——比如批量刪除。通過的就執(zhí)行,可疑的再?gòu)棿啊?/p>

但「潛在破壞性」的判定標(biāo)準(zhǔn)是什么?誤殺率多少?官方?jīng)]給數(shù)字。目前只有Team計(jì)劃用戶能用,Enterprise和API用戶「未來幾天」開放。研究預(yù)覽的標(biāo)簽意味著,Anthropic自己也在觀察。

這讓人想起另一件事:GitHub Copilot去年推過類似功能,叫「代理模式」,也是AI自主執(zhí)行多步驟任務(wù)。區(qū)別在于Copilot更激進(jìn),直接讓AI規(guī)劃整個(gè)工作流;Claude Code的自動(dòng)模式更像「智能安檢」,每次操作單獨(dú)過機(jī)。


開發(fā)者真正怕的不是AI犯錯(cuò),是不知道它會(huì)怎么犯錯(cuò)

一個(gè)細(xì)節(jié):作者提到自己被Claude毀掉代碼庫(kù)時(shí),語(yǔ)氣是調(diào)侃的。但備份習(xí)慣的形成,通常來自血淚教訓(xùn)。

自動(dòng)模式的核心賣點(diǎn)不是「零風(fēng)險(xiǎn)」,是「可預(yù)測(cè)的風(fēng)險(xiǎn)」。分類器的存在讓開發(fā)者有個(gè)心理錨點(diǎn)——我知道它會(huì)在哪里剎車,而不是完全黑箱。這比「危險(xiǎn)跳過」那種俄羅斯輪盤賭,更符合人類對(duì)控制感的需求。

目前限制也很明顯。Team計(jì)劃起步價(jià)每月每人20美元,且只支持特定工作流。個(gè)人開發(fā)者、小團(tuán)隊(duì)還得等。Anthropic的算盤大概是:先讓企業(yè)用戶當(dāng)小白鼠,收集夠多「誤刪」案例再開放。

有意思的是,官方文檔里沒提「自動(dòng)模式」會(huì)不會(huì)比人工確認(rèn)更快。理論上分類器有延遲,但比起人類反應(yīng)時(shí)間,可能還是秒級(jí) vs 分鐘級(jí)的差距。真正的瓶頸在「誤攔」——如果AI太保守,頻繁彈窗,體驗(yàn)就回到解放前。

Claude Code的產(chǎn)品經(jīng)理大概深諳一個(gè)道理:開發(fā)者嘴上說要安全,身體很誠(chéng)實(shí)地點(diǎn)「危險(xiǎn)跳過」。自動(dòng)模式是給這群人一個(gè)臺(tái)階——不是我不小心,是AI說它沒問題。

至于分類器哪天會(huì)不會(huì)也「幻覺」,把批量刪除判定成安全操作?Anthropic沒說。也許他們的備份也挺好用的。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
帶娃出國(guó)的中產(chǎn)后悔了:想回來,但回國(guó)失敗

帶娃出國(guó)的中產(chǎn)后悔了:想回來,但回國(guó)失敗

視覺志
2026-03-24 10:36:13
回顧“91女神”琪琪:五官出眾,卻因天真讓自己“受傷”

回顧“91女神”琪琪:五官出眾,卻因天真讓自己“受傷”

就一點(diǎn)
2025-11-22 10:36:39
舊手機(jī)回收價(jià)狂漲五六倍!回收商:開不了機(jī)的照樣高價(jià)收

舊手機(jī)回收價(jià)狂漲五六倍!回收商:開不了機(jī)的照樣高價(jià)收

快科技
2026-03-25 14:53:24
東契奇43分創(chuàng)紀(jì)錄,湖人逆轉(zhuǎn)勝步行者穩(wěn)西部第三

東契奇43分創(chuàng)紀(jì)錄,湖人逆轉(zhuǎn)勝步行者穩(wěn)西部第三

李絙在北漂
2026-03-26 13:20:36
51歲孔令輝:為生活奔波,與劉國(guó)梁9年未見面,一個(gè)電話讓他落淚

51歲孔令輝:為生活奔波,與劉國(guó)梁9年未見面,一個(gè)電話讓他落淚

夢(mèng)史
2026-03-25 11:33:08
王勵(lì)勤動(dòng)真格了!倫敦世乒賽陣容有變,陳夢(mèng)調(diào)整,2人被冷落

王勵(lì)勤動(dòng)真格了!倫敦世乒賽陣容有變,陳夢(mèng)調(diào)整,2人被冷落

不似少年游
2026-03-25 17:03:59
你知道我在床上有多厲害嗎?

你知道我在床上有多厲害嗎?

果粉之家
2026-03-20 12:35:16
從歐爾班行為,看北約當(dāng)年拒絕俄羅斯的遠(yuǎn)見

從歐爾班行為,看北約當(dāng)年拒絕俄羅斯的遠(yuǎn)見

民間胡扯老哥
2026-03-23 18:53:38
破防!小縣城殯儀館大屏流出,中年人扎堆離世,網(wǎng)友:還爭(zhēng)什么?

破防!小縣城殯儀館大屏流出,中年人扎堆離世,網(wǎng)友:還爭(zhēng)什么?

川渝視覺
2026-03-23 19:26:44
喪夫僅5個(gè)月,49歲翁帆突傳“喜訊”高調(diào)露面,狀態(tài)好到出人意料

喪夫僅5個(gè)月,49歲翁帆突傳“喜訊”高調(diào)露面,狀態(tài)好到出人意料

冷紫葉
2026-03-24 19:12:36
勇士逆轉(zhuǎn)橫掃送籃網(wǎng)9連敗 桑托斯31分大爆發(fā)波杰姆斯基22分

勇士逆轉(zhuǎn)橫掃送籃網(wǎng)9連敗 桑托斯31分大爆發(fā)波杰姆斯基22分

醉臥浮生
2026-03-26 12:45:06
第六險(xiǎn)來了!一文讀懂“長(zhǎng)護(hù)險(xiǎn)”

第六險(xiǎn)來了!一文讀懂“長(zhǎng)護(hù)險(xiǎn)”

極目新聞
2026-03-26 07:21:00
張雪峰猝死后,盧克文也不敢跑步了,曾每年跑1千公里,身體垮了

張雪峰猝死后,盧克文也不敢跑步了,曾每年跑1千公里,身體垮了

水晶的視界
2026-03-26 09:28:29
有沒有人敢爆自己的瓜?網(wǎng)友:確定玩這么大嗎?

有沒有人敢爆自己的瓜?網(wǎng)友:確定玩這么大嗎?

夜深愛雜談
2026-02-18 20:55:58
四川高縣村支書暴打殘疾村婦致輕傷 法院判決免于刑事處罰引爭(zhēng)議

四川高縣村支書暴打殘疾村婦致輕傷 法院判決免于刑事處罰引爭(zhēng)議

律法刑道
2026-03-26 10:55:03
2.4億成全你!詹姆斯降薪2000萬?雙詹合體咋辦!

2.4億成全你!詹姆斯降薪2000萬?雙詹合體咋辦!

柚子說球
2026-03-25 11:44:10
薩巴倫卡贏鄭欽文后吃100美元漢堡 頂奢!魚子醬+金箔碎她說超好吃

薩巴倫卡贏鄭欽文后吃100美元漢堡 頂奢!魚子醬+金箔碎她說超好吃

勁爆體壇
2026-03-26 08:10:23
4000噸稀土被轉(zhuǎn)運(yùn)美國(guó)?大陸停供臺(tái)灣稀土!臺(tái)學(xué)者:不如直接統(tǒng)一

4000噸稀土被轉(zhuǎn)運(yùn)美國(guó)?大陸停供臺(tái)灣稀土!臺(tái)學(xué)者:不如直接統(tǒng)一

小舟談歷史
2026-03-19 17:27:44
RMC記者:姆巴佩在發(fā)布會(huì)上說謊了,我1000%確認(rèn)他被誤診了

RMC記者:姆巴佩在發(fā)布會(huì)上說謊了,我1000%確認(rèn)他被誤診了

懂球帝
2026-03-26 06:43:05
伊拉克民兵無人機(jī)出擊!炸了美軍的雷達(dá),又擊中黑鷹直升機(jī)

伊拉克民兵無人機(jī)出擊!炸了美軍的雷達(dá),又擊中黑鷹直升機(jī)

戰(zhàn)風(fēng)
2026-03-25 11:44:25
2026-03-26 13:55:00
像素與芯片
像素與芯片
有態(tài)度網(wǎng)友ytd
424文章數(shù) 2關(guān)注度
往期回顧 全部

科技要聞

Meta高管狂分百億期權(quán),700名員工卻下崗

頭條要聞

伊朗議長(zhǎng)和外長(zhǎng)暫被移出美以清除名單 時(shí)限4到5天

頭條要聞

伊朗議長(zhǎng)和外長(zhǎng)暫被移出美以清除名單 時(shí)限4到5天

體育要聞

35歲替補(bǔ)門將,憑什么入選英格蘭隊(duì)?

娛樂要聞

張雪峰家人首發(fā)聲 不設(shè)追思會(huì)喪事從簡(jiǎn)

財(cái)經(jīng)要聞

黃仁勛:芯片公司的時(shí)代已經(jīng)結(jié)束了

汽車要聞

一汽奧迪A6L e-tron開啟預(yù)售 CLTC最大續(xù)航815km

態(tài)度原創(chuàng)

健康
家居
房產(chǎn)
數(shù)碼
親子

轉(zhuǎn)頭就暈的耳石癥,能開車上班嗎?

家居要聞

傍海而居 靜觀蝴蝶海

房產(chǎn)要聞

質(zhì)價(jià)比標(biāo)桿!三亞首創(chuàng)浮島全景艙亮相,還得是萬科!

數(shù)碼要聞

Intel史上最先進(jìn)!酷睿Ultra 300系列vPro平臺(tái)發(fā)布

親子要聞

躺平的孩子意外覺醒了,在父母學(xué)會(huì)當(dāng)“烏龜”!

無障礙瀏覽 進(jìn)入關(guān)懷版