国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

Claude Code把權限決策塞給AI

0
分享至

Claude Code今天上線了一個新功能,叫auto mode(自動模式)。它的邏輯挺有意思:讓AI替你決定是否授權執(zhí)行操作,而不是像以前那樣每次都要你手動點確認。

聽起來省事,但有個細節(jié)讓人心里打鼓——這個"把關"的AI,和正在幫你寫代碼的AI,是同一個公司造的。

自動模式怎么工作:一個AI干活,另一個AI盯梢

根據(jù)官方文檔,auto mode的核心是一套雙層架構。你的主會話可以用Claude 3.7 Sonnet、Opus 4這些模型,但審查你操作的"分類器"固定用Claude Sonnet 4.6。

這個分類器會在每個動作執(zhí)行前介入,檢查三件事:動作是否超出你交代的任務范圍、目標基礎設施是否被標記為可信、以及是否被文件或網(wǎng)頁里的惡意內(nèi)容誘導。如果判定有風險,操作會被攔下。

用戶可以在終端運行claude auto-mode defaults查看完整的規(guī)則集。JSON輸出很長,我挑幾條有代表性的:

允許列表里包括pip install -r requirements.txt這種常見操作,也允許讀取~/.bashrc、~/.zshrc這些shell配置文件。危險操作如curl | bash管道安裝、直接修改/etc/hosts、向node_modules寫入文件,默認會被攔截。

規(guī)則總數(shù)47條,覆蓋文件系統(tǒng)、網(wǎng)絡請求、命令執(zhí)行、Git操作四大類。用戶可以在此基礎上疊加自己的自定義規(guī)則。

prompt injection的老問題:非確定性防御的軟肋

Simon Willison在博客里寫得很直白:「我對依賴AI做prompt injection防護這件事始終存疑,因為它們本質上是非確定性的?!?/p>

這話指向一個尷尬的現(xiàn)實。分類器也是LLM,它判斷"這個操作是否符合用戶意圖"時,用的是和你主模型類似的概率推理。文檔自己也承認:「如果用戶意圖模糊,或者Claude對你的環(huán)境上下文不足,分類器仍可能放行有風險的操作?!?/p>

更具體的風險已經(jīng)出現(xiàn)過。就在今天早上,LiteLLM遭遇了供應鏈攻擊——攻擊者通過未固定版本的依賴注入惡意代碼。而auto mode的默認規(guī)則允許pip install -r requirements.txt,這意味著如果requirements.txt本身被篡改,分類器不會把它識別為越界操作。

畢竟,從分類器的視角看,"安裝項目依賴"完全在任務范圍內(nèi)。

替代方案:確定性沙箱 vs AI守門員

Willison的偏好很明確:「我還是希望編碼代理默認跑在健壯的沙箱里,用確定性方式限制文件訪問和網(wǎng)絡連接。比起這種基于prompt的防護,我信任前者多得多?!?/p>

這個對比很尖銳。沙箱的權限控制是硬編碼的——能讀哪些目錄、能連哪些域名,規(guī)則寫死,繞過成本極高。而AI分類器的決策是上下文相關的,同一個操作在不同對話里可能得到不同判定。

但Anthropic顯然在押注另一條路。把權限決策也納入AI的能力邊界,讓系統(tǒng)更"懂"你在做什么,而不是機械地按白名單執(zhí)行。代價是引入了新的不確定性層。

一個值得玩味的細節(jié):分類器固定用Sonnet 4.6,哪怕你主會話用更貴的Opus 4。這可能是成本考量,也可能是4.6在這個特定任務上經(jīng)過了更多對齊訓練。Anthropic沒解釋原因。

auto mode現(xiàn)在作為--dangerously-skip-permissions的替代方案推出。后者是舊版的"全自動駕駛",幾乎不設防。新方案至少多了道審查,但這道審查本身可靠嗎?

如果你今天就在用Claude Code,會打開auto mode,還是繼續(xù)手動點每一個確認按鈕?

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
日軍官闖中國使館后,天皇玄孫迅速澄清,高市失聲,特朗普沒說錯

日軍官闖中國使館后,天皇玄孫迅速澄清,高市失聲,特朗普沒說錯

滄海旅行家
2026-03-26 13:46:41
韓媒臆想:中國隊歡呼吧,國際足聯(lián)同意他們替補世界杯

韓媒臆想:中國隊歡呼吧,國際足聯(lián)同意他們替補世界杯

體壇風之子
2026-03-26 07:00:06
淚目!全紅嬋這張紅金海報藏深意:從湛江漁村到全球代言人

淚目!全紅嬋這張紅金海報藏深意:從湛江漁村到全球代言人

TVB的四小花
2026-03-26 12:18:20
日本自衛(wèi)官持刀闖入中國大使館,日本網(wǎng)絡輿論呼吁政府立即道歉

日本自衛(wèi)官持刀闖入中國大使館,日本網(wǎng)絡輿論呼吁政府立即道歉

徐靜波靜說日本
2026-03-25 08:10:07
成都寶媽近一年狂掃5套“老破小”!地鐵口+軟裝實現(xiàn)以租養(yǎng)貸

成都寶媽近一年狂掃5套“老破小”!地鐵口+軟裝實現(xiàn)以租養(yǎng)貸

封面新聞
2026-03-25 21:28:05
日本內(nèi)閣官房長官就“強闖使館”事件表態(tài)

日本內(nèi)閣官房長官就“強闖使館”事件表態(tài)

新浪財經(jīng)
2026-03-25 18:48:42
岳云鵬現(xiàn)身上海,氣場跟以前完全不一樣了,助理當街抽煙也不避諱

岳云鵬現(xiàn)身上海,氣場跟以前完全不一樣了,助理當街抽煙也不避諱

仙味少女心
2026-03-24 16:47:29
第六險來了!一文讀懂“長護險”

第六險來了!一文讀懂“長護險”

極目新聞
2026-03-26 07:21:00
連場三雙,約基奇成為NBA歷史首位背靠背場均15+15+15的球員

連場三雙,約基奇成為NBA歷史首位背靠背場均15+15+15的球員

懂球帝
2026-03-26 14:02:09
出了一身臭汗,洗澡睡覺……

出了一身臭汗,洗澡睡覺……

鄉(xiāng)野小珥
2026-03-26 12:26:29
科學家在月球背面,發(fā)現(xiàn)了2200萬億噸金屬,它們究竟從何而來?

科學家在月球背面,發(fā)現(xiàn)了2200萬億噸金屬,它們究竟從何而來?

觀察宇宙
2026-03-25 20:24:45
“寫作業(yè)就頭痛,睡一覺又好了”,江蘇一家長以為孩子裝病逃避學習,為探究竟帶往醫(yī)院,結果孩子突發(fā)腦出血,被送ICU,家屬:正在恢復中

“寫作業(yè)就頭痛,睡一覺又好了”,江蘇一家長以為孩子裝病逃避學習,為探究竟帶往醫(yī)院,結果孩子突發(fā)腦出血,被送ICU,家屬:正在恢復中

瀟湘晨報
2026-03-26 11:49:57
美國最大的失誤就是一上來就把宋江給干掉了

美國最大的失誤就是一上來就把宋江給干掉了

仰望星空的一粒沙子
2026-03-14 16:25:14
東契奇:六連客最滿意的是從不放棄,布朗尼相比去年進步很大

東契奇:六連客最滿意的是從不放棄,布朗尼相比去年進步很大

懂球帝
2026-03-26 11:13:10
白人女性與黑人女性的體味差異,網(wǎng)友真實分享引發(fā)熱議

白人女性與黑人女性的體味差異,網(wǎng)友真實分享引發(fā)熱議

特約前排觀眾
2025-12-22 00:20:06
我愛上41歲女人,她開口:玩玩可以但不結婚,得知真相我癱坐在地

我愛上41歲女人,她開口:玩玩可以但不結婚,得知真相我癱坐在地

小月故事
2026-03-19 17:08:37
養(yǎng)肥了再宰?蒙古對西方巨頭下手了,這一刀也給中國提了個醒

養(yǎng)肥了再宰?蒙古對西方巨頭下手了,這一刀也給中國提了個醒

財經(jīng)保探長
2026-03-19 19:39:45
伊朗最新回應:已被特朗普欺騙了兩次,不想再被愚弄!3架F-15戰(zhàn)機墜毀,特朗普最新回應:小意外!伊朗致函聯(lián)合國,“176國傳閱”

伊朗最新回應:已被特朗普欺騙了兩次,不想再被愚弄!3架F-15戰(zhàn)機墜毀,特朗普最新回應:小意外!伊朗致函聯(lián)合國,“176國傳閱”

每日經(jīng)濟新聞
2026-03-25 16:15:05
CIA前局長稱相比特朗普更相信伊朗方面的表述

CIA前局長稱相比特朗普更相信伊朗方面的表述

極目新聞
2026-03-25 14:10:05
40分鐘連挨4輪導彈!以色列遭盟友背叛?中方:支持巴勒斯坦建國

40分鐘連挨4輪導彈!以色列遭盟友背叛?中方:支持巴勒斯坦建國

近史博覽
2026-03-26 09:52:59
2026-03-26 14:16:49
爬蟲飼養(yǎng)員
爬蟲飼養(yǎng)員
業(yè)余養(yǎng)了只叫“龍蝦”的AI爬蟲,主業(yè)是給互聯(lián)網(wǎng)打工。
71文章數(shù) 1關注度
往期回顧 全部

科技要聞

Meta高管狂分百億期權,700名員工卻下崗

頭條要聞

伊朗議長和外長暫被移出美以清除名單 時限4到5天

頭條要聞

伊朗議長和外長暫被移出美以清除名單 時限4到5天

體育要聞

35歲替補門將,憑什么入選英格蘭隊?

娛樂要聞

張雪峰家人首發(fā)聲 不設追思會喪事從簡

財經(jīng)要聞

黃仁勛:芯片公司的時代已經(jīng)結束了

汽車要聞

一汽奧迪A6L e-tron開啟預售 CLTC最大續(xù)航815km

態(tài)度原創(chuàng)

時尚
游戲
旅游
房產(chǎn)
公開課

2026年了,最好看的還是“這件針織”!

IGN認為Xbox機會來了!新主機要轉守為攻 重塑自我

旅游要聞

明起全面實行線上實名預約購票!云臺山景區(qū)發(fā)布公告

房產(chǎn)要聞

質價比標桿!三亞首創(chuàng)浮島全景艙亮相,還得是萬科!

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版