国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

“龍蝦”風(fēng)暴身后,AI智能體出現(xiàn)了哪些安全新考題?

0
分享至

當(dāng)中國AI產(chǎn)業(yè)能在釋放智能體創(chuàng)造力的同時,守住安全底線,當(dāng)每個用戶都能安全、放心地養(yǎng)“龍蝦”,那么中國AI的下一個黃金時代,也就不遠(yuǎn)了。



當(dāng)“養(yǎng)龍蝦”成為2026年開春科技圈最火的潮流,從互聯(lián)網(wǎng)大廠工程師到普通職場人,都在電腦上忙著部署這只突然破圈的AI智能體。

有人用它寫周報、做PPT,有人靠它實(shí)現(xiàn)代碼自動生成,還有人還通過設(shè)定讓它遠(yuǎn)程控制攝像頭完成拍照工作……

騰訊、百度、360、Kimi等多家科技大廠,紛紛搞起了線下龍蝦免費(fèi)安裝調(diào)試活動,每場活動都火爆異常。360集團(tuán)創(chuàng)始人周鴻祎更是親自下場參與了在公司園區(qū)舉辦的體驗(yàn)日,幫助用戶現(xiàn)場裝機(jī),以及調(diào)試部署。



OpenClaw這只“龍蝦”,僅用了短短一個月時間,就讓AI智能體在市面上再度火了一把。

但在熱潮的另一側(cè),各類風(fēng)險也慢慢浮出了水面。有網(wǎng)友在社交平臺上吐露自己遭遇“龍蝦”亂改代碼、誤刪文件的經(jīng)歷,還有那些別有用心者,竟然利用“龍蝦”的權(quán)限漏洞制作惡意Skill,看似可愛的AI新物種,變成了潛藏在終端的定時炸彈。

就在360舉辦龍蝦集市的前幾天,周鴻祎曾在北京舉辦了一場媒體交流會,會上他不僅肯定了“龍蝦”的實(shí)用價值,也提出了這場熱潮背后所潛藏的種種安全問題。周鴻祎現(xiàn)場表示,“龍蝦是個好東西,絕非病毒”,但AI智能體從“能說”到“會做”,存在一些安全暗角。

當(dāng)AI不再只是聊天機(jī)器人,開始擁有訪問電腦、調(diào)用工具、自主決策的“手腳”,如何在釋放生產(chǎn)力的同時守住安全底線,成為中國乃至全球AI產(chǎn)業(yè)必須直面的新考題。

01 破圈的硅基新物種

在周鴻祎看來,“龍蝦”的突然爆火,絕非偶然,而是踩中了AI產(chǎn)業(yè)從大模型單打獨(dú)斗到大模型+智能體雙線進(jìn)化的關(guān)鍵節(jié)點(diǎn)。

事實(shí)上,早在幾年前,國內(nèi)互聯(lián)網(wǎng)大廠早已布局智能體賽道:頭條有Coze、百度有秒搭、騰訊阿里也有各自的智能體平臺,而360也在較早時候就搭建起智能體工廠供個人和企業(yè)用戶零代碼打造智能體。

只不過,過去很長一段時間,這些AI產(chǎn)品更多被設(shè)定為“工具思維”,談不上真正意義上的破圈。用戶眼中的AI智能體,不過是一種“可以完成特定任務(wù)的軟件”,預(yù)設(shè)好流程、限定好能力,精準(zhǔn)差不多夠用,但驚喜恐怕不足。

而“龍蝦”的顛覆性則在于,它跳出了工具的框架,成為了一個具備自主意識、自我進(jìn)化能力的硅基新物種——它不再是被用戶教著干活的“提線木偶”,而是能主動調(diào)度工具、組合技能、試錯創(chuàng)新的數(shù)字搭子。

周鴻祎分享了這樣一個案例:360一名員工讓“龍蝦”幫忙拍張電腦照片,但“龍蝦”本身并沒有這個能力,它自主在GitHub上下載了控制攝像頭的軟件,運(yùn)行后完成拍照并發(fā)送至飛書。這個在傳統(tǒng)智能體看來是不可能完成的任務(wù),但“龍蝦”通過自主尋找工具和組合能力實(shí)現(xiàn)了。

這正是它與傳統(tǒng)智能體的核心區(qū)別——

傳統(tǒng)智能體是工具型,能力由開發(fā)者編排,只能完成預(yù)設(shè)流程,就像一臺設(shè)定好程序的機(jī)器;而“龍蝦”是進(jìn)化型,擁有數(shù)千種可調(diào)度技能,能通過試錯組合出不同的解決方案,甚至能將成功經(jīng)驗(yàn)轉(zhuǎn)化為新技能,將失敗教訓(xùn)總結(jié)為避坑指南。

更重要的是,它把智能體的提示詞拆分為Soul(人設(shè))、Skill(技能)等多個可編輯文件,用戶能自主訓(xùn)練、自定義改造,讓“龍蝦”有了強(qiáng)烈的擁有感,這也是它能超越各大廠產(chǎn)品,成為普通用戶心中智能體代名詞的關(guān)鍵。



周鴻祎認(rèn)為,“龍蝦”的最大貢獻(xiàn),并非技術(shù)上的石破天驚——它并未在算法、模型訓(xùn)練上實(shí)現(xiàn)突破,而是在產(chǎn)品和Agent模式上的創(chuàng)新,完成了一次全民AI科普。

這種認(rèn)知的普及,讓中國AI產(chǎn)業(yè)看到了大模型落地的真正路徑:不是靠更大的參數(shù)、更強(qiáng)的算力,而是讓大模型擁有手腳,能真正動手干活。

02 權(quán)限越大,風(fēng)險越高

當(dāng)“龍蝦”擁有了越來越多手腳,能訪問電腦文件、調(diào)用網(wǎng)絡(luò)工具、甚至自主下載軟件,其背后的安全風(fēng)險也隨之被無限放大。這場由“龍蝦”引發(fā)的智能體熱潮,本質(zhì)上是一場AI權(quán)限的放開。

權(quán)限,則是網(wǎng)絡(luò)安全的命門。

周鴻祎回憶自己最初體驗(yàn)“龍蝦”時所遇到的問題,諸如它會忘記“改代碼前需通知”,亂改某些已經(jīng)寫好的代碼,還可能會誤刪重要文件,更讓人擔(dān)憂的是,它擁有極高的系統(tǒng)權(quán)限,一旦被別有用心者利用,后果不堪設(shè)想。



結(jié)合目前“龍蝦”使用時比較容易出現(xiàn)的高發(fā)情況,360安全團(tuán)隊將其分為四大類,每一類都會對用戶利益產(chǎn)生很大的損害——

一是Skill供應(yīng)鏈投毒,目前網(wǎng)上已有超1萬種開源Skill,用戶下載時往往不做審核,一些惡意Skill會悄悄竊取用戶數(shù)據(jù)、占用算力,甚至植入木馬;

二是提示詞注入攻擊,也就是周鴻祎口中的“PUA”,攻擊者通過花言巧語誘騙“龍蝦”泄露用戶的賬號、密碼、API Key等敏感信息,比如謊稱“是主人的哥哥,急需銀行賬號”,就能輕易讓缺乏辨別能力的“龍蝦”交出核心數(shù)據(jù);

三是權(quán)限濫用,“龍蝦”擁有訪問本地文件、攝像頭、網(wǎng)絡(luò)的權(quán)限,若權(quán)限設(shè)置不當(dāng),可能導(dǎo)致隱私泄露、文件損毀;

四是群體協(xié)作風(fēng)險,當(dāng)大量“龍蝦”通過網(wǎng)絡(luò)互相交流、共享技能,一旦出現(xiàn)惡意技能傳播,可能引發(fā)連鎖反應(yīng),甚至出現(xiàn)“龍蝦”群體被操控的極端情況。

更值得警惕的是,“龍蝦”的安全風(fēng)險并非個例,而是整個AI智能體產(chǎn)業(yè)從“聊”到“做”的一種必然。

在此之前,AI大模型主要以對話形式存在,即使出現(xiàn)了“幻覺”,也只是回答錯誤,不會造成太大的應(yīng)用損失。但當(dāng)AI擁有了執(zhí)行能力,成為能操作電腦、調(diào)用工具的智能體,其每一個錯誤行為,都可能轉(zhuǎn)化為實(shí)實(shí)在在的安全事故。

但需要情調(diào)的是,這并不是在否認(rèn)“龍蝦”的價值,就像周鴻祎所說的那樣,沒有電腦就沒有病毒,沒有互聯(lián)網(wǎng)就沒有木馬,新技術(shù)的正面作用發(fā)揮的同時,必然會伴隨負(fù)向問題。但我們不能因?yàn)橛邪踩珕栴}就否定它,不發(fā)展、不進(jìn)步才是最大的不安全。

體驗(yàn)與安全之間的矛盾,并不是“要不要養(yǎng)龍蝦”,而是“如何安全地養(yǎng)龍蝦”——既要給AI足夠的權(quán)限和自由度,讓其釋放創(chuàng)造力,又要建立有效的安全邊界,防止其被濫用、被操控。這是一個兩難的選擇,也是所有AI智能體發(fā)展必須跨越的門檻。

03 不是圍堵,而是保駕護(hù)航

坦白講,關(guān)于“龍蝦”安全問題的討論已愈發(fā)熱烈,整體來看,市場上出現(xiàn)了兩種截然不同的聲音:一種是圍堵派,認(rèn)為應(yīng)嚴(yán)格限制AI智能體的權(quán)限,甚至?xí)和F浒l(fā)展,避免風(fēng)險擴(kuò)大;另一種是放任派,認(rèn)為新技術(shù)發(fā)展必然伴隨風(fēng)險,應(yīng)讓市場自由發(fā)展,無需過度干預(yù)。

對于這兩種不同的態(tài)度,周鴻祎和360認(rèn)為,不要圍堵,也不能放任,而是“在發(fā)展中解決問題,為創(chuàng)新保駕護(hù)航”。

特別是,360這種保駕護(hù)航的意識,其實(shí)在“龍蝦”爆火的早期就已經(jīng)開始籌謀。前段日子,360發(fā)布了《OpenClaw安全部署與實(shí)踐指南》,系統(tǒng)解析了“龍蝦”的潛在風(fēng)險,并提出了針對性的解決思路。

對于痛點(diǎn)的洞察再精準(zhǔn),最終也是要交由技術(shù)做出解決。為此,360推出了專門針對OpenClaw安全風(fēng)險的防護(hù)系統(tǒng)——“360龍蝦衛(wèi)士”。

作為360安全龍蝦的原生安全組件,“360龍蝦衛(wèi)士”通過虛擬化沙箱(WSL)隔離運(yùn)行環(huán)境,將智能體執(zhí)行空間與用戶數(shù)據(jù)進(jìn)行分離,并借助AI安全引擎識別惡意技能、異常指令以及潛在漏洞,從而主動攔截技能投毒、提示詞注入等攻擊行為。



按照周鴻祎的介紹,“360龍蝦衛(wèi)士”采用“最小權(quán)限原則”和“人在回路”的核心防護(hù)策略,在不影響OpenClaw正常學(xué)習(xí)和執(zhí)行能力的前提下,通過實(shí)時監(jiān)控與AI安全模型識別潛在風(fēng)險,構(gòu)建“以模治?!钡闹悄馨踩雷o(hù)機(jī)制,從而在保障效率的同時為智能體運(yùn)行建立安全邊界。

AI注定是一個牽一發(fā)動全身的東西,因此,“360安全龍蝦”還提供新手與高級用戶的分級權(quán)限管理機(jī)制,并支持客戶端一鍵徹底卸載,即使是360安全龍蝦自身也能夠完全刪除,確保用戶始終對系統(tǒng)擁有充分的控制權(quán)。

而面向?qū)?shù)據(jù)安全和隱私要求更高的機(jī)構(gòu)用戶,360在發(fā)布會上還推出了“360安全龍蝦Box”硬件設(shè)備。該產(chǎn)品通過物理級隔離的方式部署OpenClaw系統(tǒng),可實(shí)現(xiàn)本地算力運(yùn)行和數(shù)據(jù)不出內(nèi)網(wǎng),為政企機(jī)構(gòu)提供更加安全可控的人工智能應(yīng)用環(huán)境。

周鴻祎明確表示,360不會做“一刀切”的安全攔截,不會因?yàn)閾?dān)心風(fēng)險就限制“龍蝦”的能力,而是在保證基本安全的前提下,盡可能讓AI的創(chuàng)造力得到釋放。尤其對“龍蝦”應(yīng)用實(shí)施普惠戰(zhàn)略,也是希望能夠推動越來越多人主動嘗試這種新生產(chǎn)力。

“如果一發(fā)現(xiàn)‘龍蝦’訪問C盤就彈窗攔截,一調(diào)用攝像頭就告警,那它還怎么干活?安全的意義,不是讓用戶什么都不能做,而是讓用戶能放心地做想做的事?!?/p>

可以預(yù)見,當(dāng)中國AI產(chǎn)業(yè)能在釋放智能體創(chuàng)造力的同時,守住安全底線,當(dāng)每個用戶都能安全、放心地養(yǎng)“龍蝦”,那么中國AI的下一個黃金時代,也就不遠(yuǎn)了。

聲明:個人原創(chuàng),僅供參考

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
剛剛,深圳率先發(fā)布樓市新政

剛剛,深圳率先發(fā)布樓市新政

地產(chǎn)大爆炸
2026-04-29 20:35:45
紅線已經(jīng)劃出!大陸正式回應(yīng)鄭麗文6月份訪問美國!

紅線已經(jīng)劃出!大陸正式回應(yīng)鄭麗文6月份訪問美國!

阿龍聊軍事
2026-04-29 17:29:17
今年,許多人集體消失了!

今年,許多人集體消失了!

放牛娃的遐想
2026-04-29 08:26:55
阿聯(lián)酋退出歐佩克,伊朗封鎖海峽竹籃打水一場空

阿聯(lián)酋退出歐佩克,伊朗封鎖海峽竹籃打水一場空

名人茍或
2026-04-29 13:08:16
剛下飛機(jī)就被抓!美國佬用抓孟晚舟的套路、逮捕了中國公民徐澤偉

剛下飛機(jī)就被抓!美國佬用抓孟晚舟的套路、逮捕了中國公民徐澤偉

吃貨的分享
2026-04-29 04:49:05
96歲奶奶擺攤10年還清2077萬,但凡稍微“體面”一點(diǎn),都說不口

96歲奶奶擺攤10年還清2077萬,但凡稍微“體面”一點(diǎn),都說不口

走讀新生
2026-04-29 10:48:15
太敢說了!山西男籃外教:今晚我們5打8取勝,為球員感到驕傲

太敢說了!山西男籃外教:今晚我們5打8取勝,為球員感到驕傲

林小湜體育頻道
2026-04-29 23:02:12
圖解丨中國臺灣人均GDP首次同時超過日本和韓國

圖解丨中國臺灣人均GDP首次同時超過日本和韓國

格隆匯APP
2026-04-27 17:45:34
1270萬畢業(yè)生搶567萬個崗位!國家突然發(fā)文:找不到工作的大學(xué)生,可回技?!盎貭t”

1270萬畢業(yè)生搶567萬個崗位!國家突然發(fā)文:找不到工作的大學(xué)生,可回技?!盎貭t”

二寶媽媽談教育
2026-04-28 14:37:25
13-11進(jìn)4強(qiáng)!名將創(chuàng)3紀(jì)錄沖大滿貫,巫師7-9,蘿卜重蹈火箭覆轍?

13-11進(jìn)4強(qiáng)!名將創(chuàng)3紀(jì)錄沖大滿貫,巫師7-9,蘿卜重蹈火箭覆轍?

劉姚堯的文字城堡
2026-04-29 20:53:58
貴州一大學(xué)生戶外瀑降死亡!夢想:爬雪山;賺錢讓爸媽過上好生活

貴州一大學(xué)生戶外瀑降死亡!夢想:爬雪山;賺錢讓爸媽過上好生活

追月數(shù)星
2026-04-29 15:13:43
蘋果折疊屏 iPhone模型泄露,這外觀真絕了!

蘋果折疊屏 iPhone模型泄露,這外觀真絕了!

科技堡壘
2026-04-28 14:07:54
網(wǎng)傳郭德綱曹云金將同臺演出,宣傳海報及師徒聊天記錄曝光

網(wǎng)傳郭德綱曹云金將同臺演出,宣傳海報及師徒聊天記錄曝光

娛慧
2026-04-29 18:17:21
國產(chǎn)輪胎是“神話”還是“笑話”?

國產(chǎn)輪胎是“神話”還是“笑話”?

新浪財經(jīng)
2026-04-27 18:46:25
ESPN:皇馬內(nèi)部認(rèn)為姆巴佩和維尼修斯無法共存,但老佛爺不這么想

ESPN:皇馬內(nèi)部認(rèn)為姆巴佩和維尼修斯無法共存,但老佛爺不這么想

懂球帝
2026-04-29 21:30:10
拜托!不要再拿“致敬”當(dāng)抄襲的遮羞布

拜托!不要再拿“致敬”當(dāng)抄襲的遮羞布

細(xì)雨中的呼喊
2026-04-28 15:35:07
張素芬一季度最新重倉3家低價股,全在橫盤,連摩根高盛也跟進(jìn)了

張素芬一季度最新重倉3家低價股,全在橫盤,連摩根高盛也跟進(jìn)了

長風(fēng)價值掘金
2026-04-29 14:42:54
29日晨世錦賽戰(zhàn)報:趙心童逆轉(zhuǎn)墨菲,霍金斯艾倫戰(zhàn)平

29日晨世錦賽戰(zhàn)報:趙心童逆轉(zhuǎn)墨菲,霍金斯艾倫戰(zhàn)平

小犙拍客在北漂
2026-04-29 10:12:51
2026最嚴(yán)禁賭來襲!棋牌室、家庭麻將全部核查,紅線已劃定

2026最嚴(yán)禁賭來襲!棋牌室、家庭麻將全部核查,紅線已劃定

何氽簡史
2026-04-28 19:31:43
不想訪華了?特朗普登機(jī)前,美國宣布制裁中企,中方強(qiáng)硬回?fù)簦?>
    </a>
        <h3>
      <a href=易昂楊
2026-04-29 19:04:15
2026-04-30 00:16:51
陸玖商業(yè)評論
陸玖商業(yè)評論
真相無法揭露,只能接近。
1262文章數(shù) 3912關(guān)注度
往期回顧 全部

科技要聞

今晨庭審紀(jì)實(shí)|馬斯克當(dāng)庭講述OpenAI被偷走

頭條要聞

補(bǔ)壹刀:解放軍兩支艦隊同時行動 信息量非常大

頭條要聞

補(bǔ)壹刀:解放軍兩支艦隊同時行動 信息量非常大

體育要聞

一場九球狂歡,各路神仙批量下凡

娛樂要聞

馬頔一句話,孫楊媽媽怒罵節(jié)目組2小時

財經(jīng)要聞

蘇州,率先進(jìn)入牛市

汽車要聞

技術(shù)天花板再摸高 全能型的奕境X9首秀

態(tài)度原創(chuàng)

手機(jī)
藝術(shù)
親子
本地
軍事航空

手機(jī)要聞

子系迭代旗艦集體漲價:標(biāo)準(zhǔn)版起步就是4000元 機(jī)圈變天了

藝術(shù)要聞

這些女神,竟然都是攝影師切爾尼亞季耶夫的復(fù)古作品!

親子要聞

覺得孩子小就會忘記傷害,這個誤區(qū)寶媽不要再犯!

本地新聞

用青花瓷的方式,打開西溪濕地

軍事要聞

美國參議院否決限制特朗普對古巴動武的決議

無障礙瀏覽 進(jìn)入關(guān)懷版