一段時(shí)間以來(lái)，互聯(lián)網(wǎng)上“養(yǎng)龍蝦”熱潮不斷。養(yǎng)過(guò)“龍蝦”（OpenClaw）的朋友可能對(duì)Token這個(gè)詞并不陌生，而現(xiàn)在這個(gè)科技圈的常用詞有了官方中文名——詞元。

據(jù)統(tǒng)計(jì)，截至今年3月，我國(guó)日均詞元調(diào)用量已超過(guò)140萬(wàn)億，較2024年初增長(zhǎng)1000多倍。

但是，關(guān)于詞元和“養(yǎng)龍蝦”，國(guó)家安全部、工信部、國(guó)家知識(shí)產(chǎn)權(quán)局等權(quán)威機(jī)構(gòu)紛紛發(fā)布提醒指出，面對(duì)新技術(shù)新應(yīng)用，既要主動(dòng)擁抱、善加運(yùn)用，又要防范風(fēng)險(xiǎn)、確保安全。

必須“圈養(yǎng)龍蝦”

“養(yǎng)龍蝦”熱潮之下，不少普通用戶(hù)出于好奇或工作需求，也想嘗試部署、使用智能體。

不過(guò)，工業(yè)和信息化部專(zhuān)家指出，OpenClaw在調(diào)用大語(yǔ)言模型時(shí)可能誤解用戶(hù)指令內(nèi)容，導(dǎo)致執(zhí)行刪除等有害操作。使用被植入惡意代碼的技能包，可能導(dǎo)致數(shù)據(jù)泄露或系統(tǒng)受控。即使升級(jí)到最新版本，如果不采取針對(duì)性的防范措施，依然存在被攻擊風(fēng)險(xiǎn)。

因此，如果要“養(yǎng)龍蝦”，應(yīng)堅(jiān)持三個(gè)核心準(zhǔn)則：隔離、最小權(quán)限與全程可監(jiān)督。

環(huán)境物理隔離：絕對(duì)不要在存有敏感數(shù)據(jù)的日常主力電腦或手機(jī)上安裝。敏感數(shù)據(jù)包括工作文件、財(cái)務(wù)信息、通訊記錄，以及涉及敏感商業(yè)相關(guān)的文件和數(shù)據(jù)等。用戶(hù)應(yīng)使用一臺(tái)功能單一、無(wú)重要數(shù)據(jù)的專(zhuān)用設(shè)備，若條件有限，也可在主力機(jī)上通過(guò)完全獨(dú)立的虛擬機(jī)運(yùn)行，從根源上隔絕敏感數(shù)據(jù)與智能體的接觸。

權(quán)限最小化：用戶(hù)在安裝與配置龍蝦智能體時(shí)，需嚴(yán)格審視并限制其可訪(fǎng)問(wèn)的目錄、應(yīng)用和網(wǎng)絡(luò)權(quán)限，只授予其完成具體任務(wù)所必需的最低權(quán)限，杜絕“過(guò)度授權(quán)”。通過(guò)權(quán)限管控，可大幅降低龍蝦帶來(lái)的安全風(fēng)險(xiǎn)。

操作可監(jiān)督：在運(yùn)行期間，尤其是在初期，要時(shí)刻關(guān)注龍蝦的操作。對(duì)于重要或不可逆的操作，比如刪除文件、發(fā)送郵件、執(zhí)行安裝、修改系統(tǒng)設(shè)置等，必須為智能體設(shè)置“二次確認(rèn)”的交互指令，確保最終執(zhí)行權(quán)始終掌握在用戶(hù)自己手中。同時(shí)，要避免在無(wú)人監(jiān)督時(shí)，讓智能體執(zhí)行涉及數(shù)據(jù)修改、對(duì)外通信等敏感任務(wù)，且需確保其關(guān)鍵操作的日志清晰、可查，以便后續(xù)進(jìn)行審計(jì)與回溯，及時(shí)發(fā)現(xiàn)并規(guī)避潛在風(fēng)險(xiǎn)。

“龍蝦”也有幻覺(jué)

針對(duì)“養(yǎng)龍蝦”可能出現(xiàn)的風(fēng)險(xiǎn)，國(guó)家知識(shí)產(chǎn)權(quán)局也于近日發(fā)布風(fēng)險(xiǎn)提示指出，OpenClaw等智能體工具被曝光默認(rèn)安全配置脆弱，易引發(fā)嚴(yán)重安全風(fēng)險(xiǎn)，同時(shí)使用此類(lèi)智能體撰寫(xiě)專(zhuān)利申請(qǐng)文件，也可能誘發(fā)多重風(fēng)險(xiǎn)——

“技術(shù)信息泄露”風(fēng)險(xiǎn)：OpenClaw等智能體存在權(quán)限過(guò)高、安全漏洞、插件投毒等隱患，使用其撰寫(xiě)申請(qǐng)文件，易造成技術(shù)交底書(shū)等核心信息外泄。一旦泄露，專(zhuān)利申請(qǐng)技術(shù)方案可能因喪失新穎性無(wú)法授權(quán)，甚至被他人搶先申請(qǐng)專(zhuān)利，給申請(qǐng)人帶來(lái)重大損失，代理機(jī)構(gòu)還需承擔(dān)違約賠償責(zé)任。

“實(shí)質(zhì)缺陷”風(fēng)險(xiǎn)：在利用該類(lèi)智能體撰寫(xiě)申請(qǐng)文件時(shí)可能出現(xiàn)“AI幻覺(jué)”，導(dǎo)致申請(qǐng)文件存在內(nèi)容邏輯矛盾、技術(shù)特征表述不清等問(wèn)題，從而無(wú)法獲得保護(hù)。

“不誠(chéng)信申請(qǐng)”風(fēng)險(xiǎn)：通過(guò)智能體憑空生成、隨機(jī)編造、內(nèi)容拼湊等形成專(zhuān)利申請(qǐng)，屬于違反誠(chéng)實(shí)信用原則的不誠(chéng)信申請(qǐng)專(zhuān)利行為。達(dá)到一定數(shù)量，申請(qǐng)人將面臨警告、罰款等行政處罰；代理機(jī)構(gòu)及代理師將面臨吊銷(xiāo)執(zhí)業(yè)許可證、注銷(xiāo)代理資格證等行政處罰，情節(jié)嚴(yán)重的將被列入嚴(yán)重違法失信名單。

來(lái)源： 中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)