国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

人手一個(gè)"龍蝦"的時(shí)代,誰來管住失控的AI?

0
分享至


OpenClaw(又稱"龍蝦")在技術(shù)社區(qū)快速走紅后,隨之而來的安全焦慮正在全面蔓延。作為一款開源AI智能體(AI Agent)框架,OpenClaw的核心目標(biāo)是讓用戶擁有一個(gè)可以執(zhí)行任務(wù)的私人AI助手——

它的圖標(biāo)是紅色龍蝦,但它的"鉗子"已經(jīng)伸向了系統(tǒng)級權(quán)限、企業(yè)數(shù)據(jù)和供應(yīng)鏈環(huán)節(jié)。
"龍蝦"為什么讓人又愛又怕

過去一年里,OpenClaw在技術(shù)社區(qū)快速走紅,成為最熱門的開源AI智能體框架之一。但安全討論的熱度幾乎同步攀升。

風(fēng)險(xiǎn)的根源在于,AI Agent不再是被動(dòng)回答問題的"聊天機(jī)器人",而是能自主調(diào)用工具、訪問資源、執(zhí)行復(fù)雜任務(wù)的"數(shù)字員工"。

從事iOA產(chǎn)品運(yùn)營多年的行業(yè)專家劉登峰直言:"本質(zhì)上,這樣的AI Agent是一個(gè)不會(huì)疲倦、會(huì)自動(dòng)化執(zhí)行的超級用戶,如果它在終端上安裝,被攻破了,就相當(dāng)于攻擊者完全獲得了這個(gè)終端的電腦權(quán)限,由此以來,就可以進(jìn)行下一步的橫向滲透,擴(kuò)散到企業(yè)的全部網(wǎng)絡(luò)終端或服務(wù)器,同時(shí)也具備非常高的數(shù)據(jù)外泄風(fēng)險(xiǎn)。"

AI Agent的出現(xiàn),不僅帶來了新的攻擊面,更從根本上動(dòng)搖了傳統(tǒng)安全防護(hù)體系的底層邏輯。

說白了,"過去我們盯的是用戶是誰,現(xiàn)在我們可能還要盯AI Agent在替誰行動(dòng),它具備什么樣的能力,它執(zhí)行的動(dòng)作有沒有偏離它的原始意圖。"劉登峰表示。

其次,安全建設(shè)的重心也發(fā)生了根本轉(zhuǎn)移:過去,安全的職責(zé)是防入侵,現(xiàn)在除了防入侵以外,還要防越權(quán)使用。因?yàn)樵贏gent時(shí)代,很多風(fēng)險(xiǎn)不再是過去所認(rèn)知的“黑進(jìn)來了”,它是屬于本來就允許它在內(nèi)網(wǎng)用這個(gè)Agent,本來就有授權(quán),但是它授權(quán)過多,導(dǎo)致它的邊界不清楚或者失控。

防護(hù)對象從設(shè)備轉(zhuǎn)向了數(shù)據(jù)。過去是保設(shè)備,現(xiàn)在是重點(diǎn)保數(shù)據(jù)。即使一個(gè)設(shè)備本身沒有被攻擊者直接明顯的攻破,但是數(shù)據(jù)是有可能在正常的業(yè)務(wù)流程中被帶出去的。

這種轉(zhuǎn)變在個(gè)人端同樣顯著。PC端的權(quán)限天然比移動(dòng)端開放得多。Windows先天設(shè)計(jì)就會(huì)有一些機(jī)制允許通過底層上的技術(shù),比如通過寫一段代碼就能夠調(diào)用系統(tǒng)上的某個(gè)文檔或者操作一些系統(tǒng)級的能力。

移動(dòng)端更偏向于輸入,在手機(jī)上遙控龍蝦在電腦上干活,在電腦上可能要操作文檔,訪問網(wǎng)絡(luò)和電腦上其他的內(nèi)容,所以有操作,這個(gè)風(fēng)險(xiǎn)會(huì)更大。

Skill供應(yīng)鏈:被忽視的新攻擊面

如果說權(quán)限失控是"明面上的風(fēng)險(xiǎn)",那么Skill插件的供應(yīng)鏈投毒就是更隱蔽的"暗雷"。

OpenClaw的核心能力拓展依賴Skill插件:要處理PDF就裝PDF轉(zhuǎn)換插件,要查天氣就裝天氣查詢插件,要對接企業(yè)系統(tǒng)就裝對應(yīng)的業(yè)務(wù)插件。但這些插件大部分來自第三方開發(fā)者,安全審核機(jī)制尚不完善。

站在用戶角度,因?yàn)橄敫玫厥褂肙penClaw,需要完整、高效的工具說明,也就是Skill插件。在這個(gè)過程中,因?yàn)楸还粽叨⑸狭耍梢园岩粋€(gè)惡意文件偽裝正常Skill,比如PDF轉(zhuǎn)換、天氣查詢。對于普通用戶而言,甚至對于企業(yè)級員工而言,很難自行去辨別這里是否有問題。

更棘手的是,這類攻擊繞過了傳統(tǒng)的檢測手段。騰訊云安全副總經(jīng)理、AI Agent 安全中心負(fù)責(zé)人謝奕智也對筆者指出:"Skills的安全性,因?yàn)樗锩嬗刑崾驹~、腳本,傳統(tǒng)的基于規(guī)則特征檢測的能力很難應(yīng)對。不過,目前,各家安全廠商針對Skill的安全檢測是在持續(xù)迭代的?!?/p>

面對AI Agent,企業(yè)的態(tài)度正在快速分化。

劉登峰透露,咨詢客戶覆蓋了金融、能源、運(yùn)營商、企業(yè)、零售等多個(gè)行業(yè),但需求差異明顯:"金融行業(yè)有明確訴求,就是要禁用的。偏互聯(lián)網(wǎng)的中型客戶,他們更想快速溝通企業(yè)級的安全沙箱方案。很多用戶一方面是在聊更精細(xì)化的場景怎么管,另外一方面就是聊能不能直接給他上沙箱,上了沙箱之后他可以根據(jù)沙箱跑一段時(shí)間、運(yùn)行一段時(shí)間,再判斷對于企業(yè)來說哪些場景是允許用的,哪些場景是不允許用的。"

值得注意的是,安全預(yù)算的來源也發(fā)生了結(jié)構(gòu)性變化:"目前我們看到更多是業(yè)務(wù)部門,因?yàn)槭紫人菢I(yè)務(wù)發(fā)動(dòng)出來的需求。用戶對安全的認(rèn)知是比較成熟的,覺得OpenClaw這個(gè)東西天生就是有安全風(fēng)險(xiǎn),所以我在購買一個(gè)企業(yè)版的OpenClaw的時(shí)候,我希望把安全也帶上,是基于這樣一個(gè)流程,和過去有點(diǎn)不同。"

安全的終局:不是對立,而是無感

很多人擔(dān)心,安全防護(hù)會(huì)犧牲AI Agent的使用體驗(yàn)。但這本質(zhì)上是一個(gè)偽命題:安全本身也可以是一種用戶體驗(yàn)。安全無處不在,但是你卻感受不到它的存在。在未來伴隨著OpenClaw的發(fā)展,大家應(yīng)該會(huì)慢慢習(xí)慣用它來解決這些問題,有些邊界會(huì)默認(rèn)被關(guān)閉。

而AI本身正在成為最好的安全工具。謝奕智透露,針對Skill安全中傳統(tǒng)規(guī)則檢測難以應(yīng)對的提示詞和腳本風(fēng)險(xiǎn),"有專門的實(shí)驗(yàn)室同學(xué)在做研究,而且相關(guān)的能力已經(jīng)集成到我們的云端安全產(chǎn)品跟C端的安全產(chǎn)品"。"AI治理AI"正在從概念走向落地。

在大家關(guān)心的token消耗問題上,謝奕智的判斷是:"token單價(jià)肯定是往下走的,因?yàn)樗磥砣绻蔀橄袼娨粯拥脑挘泻芎玫钠占?,有一定的?guī)模,價(jià)格一定是往下走的。"

這意味著AI Agent的使用成本將持續(xù)降低,普及速度會(huì)加快,安全防護(hù)的需求也會(huì)越來越迫切——一場圍繞AI Agent安全的長跑才剛剛開始。

實(shí)用建議:給"養(yǎng)蝦"人士的安全指南

針對企業(yè)業(yè)務(wù)使用者

權(quán)限最小化原則:給AI Agent分配權(quán)限時(shí),只開放必要的系統(tǒng)訪問、數(shù)據(jù)讀取和操作權(quán)限。盡量不要涉及寫權(quán)限的工作,如果不需要,就給它只讀的密鑰權(quán)限。

做好網(wǎng)絡(luò)隔離:如果龍蝦有很固定的訪問目標(biāo)去完成它的工作,網(wǎng)絡(luò)做好隔離,不要讓它有權(quán)限去訪問一些不該訪問的內(nèi)網(wǎng)服務(wù)。

先測試再上線:新部署的Agent先在隔離測試環(huán)境運(yùn)行驗(yàn)證,確認(rèn)所有操作行為符合預(yù)期,再逐步接入生產(chǎn)環(huán)境。

建立全流程審計(jì)機(jī)制:對Agent的所有操作留痕,包括輸入的Prompt、調(diào)用的插件、執(zhí)行的動(dòng)作、訪問的數(shù)據(jù),定期做安全審計(jì),異常行為實(shí)時(shí)告警。

插件準(zhǔn)入審核:不要隨意使用第三方開源Skill插件,所有接入企業(yè)系統(tǒng)的插件必須經(jīng)過安全檢測,建議優(yōu)先使用官方提供或經(jīng)過安全廠商認(rèn)證的插件。

定期備份核心數(shù)據(jù):預(yù)設(shè)Agent異常操作的攔截機(jī)制,一旦出現(xiàn)失控能快速止損,避免造成不可逆損失。

針對AI愛好者和個(gè)人用戶

不要開放不必要的權(quán)限:安裝OpenClaw時(shí)仔細(xì)審查權(quán)限申請,不要直接同意所有請求,尤其是文件讀寫、支付接口、攝像頭麥克風(fēng)等敏感權(quán)限。

優(yōu)先使用帶安全沙箱的方案:在本地部署時(shí),優(yōu)先使用帶AI安全沙箱的防護(hù)工具,把Agent的運(yùn)行環(huán)境和真實(shí)系統(tǒng)隔離開。如果不熟悉OpenClaw的復(fù)雜安裝流程,可以考慮開箱即用的方案。

謹(jǐn)慎安裝第三方插件:不要下載不明來源的Skill插件,盡量從官方渠道獲取,安裝前做安全掃描檢測。

不要用Agent處理敏感信息:盡量避免用本地Agent處理身份證、銀行卡、工作機(jī)密等敏感信息,防止數(shù)據(jù)泄露。

做好數(shù)據(jù)備份:假設(shè)龍蝦很不靠譜,但是又很想用,怎么辦呢?可以買一臺PC,做好網(wǎng)絡(luò)隔離,做數(shù)據(jù)的定期備份,這樣就可以很靈活的去用龍蝦所有的能力。如果系統(tǒng)壞了,備份能力自動(dòng)加上,也不擔(dān)心數(shù)據(jù)問題。(本文首發(fā)鈦媒體APP,文 | DeepWrite秦報(bào)局,作者|秦聰慧 )

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
伊朗外長:美以無法摧毀伊朗人民對知識的渴求

伊朗外長:美以無法摧毀伊朗人民對知識的渴求

新華社
2026-03-30 06:11:02
痛心!張雪峰離世,他的電動(dòng)車還停在公司樓下,靜靜地等待著主人

痛心!張雪峰離世,他的電動(dòng)車還停在公司樓下,靜靜地等待著主人

魔都姐姐雜談
2026-03-28 15:44:35
國家機(jī)密,洲際導(dǎo)彈的制造方法

國家機(jī)密,洲際導(dǎo)彈的制造方法

遠(yuǎn)方青木
2026-03-25 23:55:16
美股三大指數(shù)集體高開

美股三大指數(shù)集體高開

每日經(jīng)濟(jì)新聞
2026-03-30 21:32:05
52分狂勝,本賽季3-0橫掃騎士!你們要這么打,哈登有機(jī)會(huì)奪冠

52分狂勝,本賽季3-0橫掃騎士!你們要這么打,哈登有機(jī)會(huì)奪冠

老梁體育漫談
2026-03-30 23:15:19
幾乎全是假貨!利潤高達(dá)2400%,為何有些消費(fèi)者前赴后繼爭相購買

幾乎全是假貨!利潤高達(dá)2400%,為何有些消費(fèi)者前赴后繼爭相購買

米果說識
2026-03-30 14:32:41
終身追殺令生效,什葉派出終極殺招,特朗普與內(nèi)塔尼亞胡無處可逃

終身追殺令生效,什葉派出終極殺招,特朗普與內(nèi)塔尼亞胡無處可逃

小舟談歷史
2026-03-08 08:00:04
雄鹿是怎么從冠軍隊(duì)滑落到無緣季后賽的? 豪賭的失敗是癥結(jié)所在

雄鹿是怎么從冠軍隊(duì)滑落到無緣季后賽的? 豪賭的失敗是癥結(jié)所在

仰臥撐FTUer
2026-03-30 09:34:05
“生意太忙我做不了啊”,佛山順德一雞煲店老板“抗拒走紅”反爆火,無奈發(fā)文:休息半個(gè)月,望諒解

“生意太忙我做不了啊”,佛山順德一雞煲店老板“抗拒走紅”反爆火,無奈發(fā)文:休息半個(gè)月,望諒解

極目新聞
2026-03-30 19:04:32
茶水是心?!凹铀倨鳌保酷t(yī)生:不想心臟出問題,這幾種茶一定少喝

茶水是心?!凹铀倨鳌保酷t(yī)生:不想心臟出問題,這幾種茶一定少喝

健康之光
2026-03-28 16:00:09
主持人沈南參加張雪峰告別式,落淚回憶細(xì)節(jié):他就像睡著了一樣

主持人沈南參加張雪峰告別式,落淚回憶細(xì)節(jié):他就像睡著了一樣

萌神木木
2026-03-29 11:50:49
突然宣布大漲價(jià)!全網(wǎng)多渠道售罄、缺貨!

突然宣布大漲價(jià)!全網(wǎng)多渠道售罄、缺貨!

江南晚報(bào)
2026-03-29 12:17:06
美女足丹佛峰會(huì)主場揭幕戰(zhàn)63004人到場觀賽,創(chuàng)聯(lián)賽上座新高

美女足丹佛峰會(huì)主場揭幕戰(zhàn)63004人到場觀賽,創(chuàng)聯(lián)賽上座新高

懂球帝
2026-03-30 17:59:06
侵館第5天,“高市辭職”傳遍東京,不用中方動(dòng)手,日民眾扛大旗

侵館第5天,“高市辭職”傳遍東京,不用中方動(dòng)手,日民眾扛大旗

影孖看世界
2026-03-30 23:21:52
第84波打擊!特朗準(zhǔn)備最后一擊,伊朗已向中國求援,中方斬釘截鐵

第84波打擊!特朗準(zhǔn)備最后一擊,伊朗已向中國求援,中方斬釘截鐵

輝輝歷史記
2026-03-29 14:52:14
伊能靜回應(yīng)逛迪士尼拒絕合影:一家三口難得在一起,我很珍惜

伊能靜回應(yīng)逛迪士尼拒絕合影:一家三口難得在一起,我很珍惜

大嘴天天說
2026-03-30 21:27:25
特朗普:若達(dá)不成協(xié)議將徹底摧毀伊朗所有發(fā)電廠、油井及哈爾克島

特朗普:若達(dá)不成協(xié)議將徹底摧毀伊朗所有發(fā)電廠、油井及哈爾克島

每日經(jīng)濟(jì)新聞
2026-03-30 20:56:46
難怪紅霉素軟膏越來越好,這7大用途超厲害,早知道早受益!

難怪紅霉素軟膏越來越好,這7大用途超厲害,早知道早受益!

妙招酷
2026-03-26 22:33:25
張凌赫那個(gè)高中暗戀的女孩被扒出來了!暗戀信也曝光了!

張凌赫那個(gè)高中暗戀的女孩被扒出來了!暗戀信也曝光了!

喜歡歷史的阿繁
2026-03-30 18:05:49
4月即將上市的7款重磅新車,最后一款大概率涼涼?

4月即將上市的7款重磅新車,最后一款大概率涼涼?

汽車天涯
2026-03-29 10:51:42
2026-03-30 23:56:49
鈦媒體APP incentive-icons
鈦媒體APP
獨(dú)立財(cái)經(jīng)科技媒體
131527文章數(shù) 862037關(guān)注度
往期回顧 全部

科技要聞

一句謊言引發(fā)的硅谷血案

頭條要聞

媒體:鄭麗文受邀訪大陸核心原因 從當(dāng)前局勢看不難猜

頭條要聞

媒體:鄭麗文受邀訪大陸核心原因 從當(dāng)前局勢看不難猜

體育要聞

想進(jìn)世界杯,意大利還要過他這一關(guān)

娛樂要聞

全紅嬋聊到體重哭了,每天只吃一頓飯

財(cái)經(jīng)要聞

本輪地緣沖突,A股憑什么走出獨(dú)立行情

汽車要聞

限時(shí)12.58萬起 銀河星耀8遠(yuǎn)航家系列上市

態(tài)度原創(chuàng)

教育
手機(jī)
健康
本地
公開課

教育要聞

當(dāng)心,這家投訴量1700+!高新區(qū)公布體培機(jī)構(gòu)“黑名單”

手機(jī)要聞

蘋果京東旗艦店將于4月1日開啟“Apple 50周年慶”直播活動(dòng)

干細(xì)胞抗衰4大誤區(qū),90%的人都中招

本地新聞

用Color Walk的方式解鎖城市春日

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進(jìn)入關(guān)懷版