全網(wǎng)都在養(yǎng)“AI龍蝦”，如何筑牢AI 智能體安全防線？

3月18日，珠海市委網(wǎng)信辦、粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室珠西中心、廣東省數(shù)據(jù)安全與個人信息保護協(xié)會灣區(qū)辦公室等單位聯(lián)合發(fā)布《珠海市“養(yǎng)蝦安全十條”——“龍蝦”安全使用指引》（以下簡稱“養(yǎng)蝦安全十條”），提出“充分認(rèn)識安全風(fēng)險”“嚴(yán)格規(guī)范源頭管理”“堅持最小權(quán)限原則”等10條“龍蝦”安全使用指引。
近期席卷全球的OpenClaw，將人工智能從“能說”的對話時代，推向“能干”的行動時代。3月10日以來，國家互聯(lián)網(wǎng)應(yīng)急中心、中央網(wǎng)信辦數(shù)據(jù)與技術(shù)保障中心接連發(fā)布關(guān)于OpenClaw安全應(yīng)用的風(fēng)險提示，相關(guān)部委平臺監(jiān)測發(fā)現(xiàn)，部分實例在默認(rèn)或不當(dāng)配置下存在較高安全風(fēng)險，極易引發(fā)網(wǎng)絡(luò)攻擊、信息泄露等問題。針對近期OpenClaw（“龍蝦”）引發(fā)的本地開源智能體部署熱潮，在3月18日“金山·智城計劃”啟動活動上，珠海市委網(wǎng)信辦、粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室珠西中心、廣東省數(shù)據(jù)安全與個人信息保護協(xié)會灣區(qū)辦公室等單位，聯(lián)合發(fā)布了“養(yǎng)蝦安全十條”，旨在引導(dǎo)各單位和個人在使用OpenClaw（“龍蝦”）開源智能體等AI工具時筑牢安全防線。

珠海市委網(wǎng)信辦副主任林新鋒指出，人工智能的普及必須堅持高質(zhì)量發(fā)展與高水平安全良性互動。他強調(diào)，各單位和個人在部署AI工具時，需嚴(yán)格規(guī)范源頭管理、堅持最小權(quán)限原則、強化數(shù)據(jù)安全保護。此次發(fā)布“養(yǎng)蝦安全十條”，旨在為AI技術(shù)與實體經(jīng)濟的深度融合營造健康、有序的發(fā)展環(huán)境?！梆B(yǎng)蝦安全十條”涵蓋安全風(fēng)險認(rèn)知、源頭管理、權(quán)限管控、網(wǎng)絡(luò)防護、插件管理、數(shù)據(jù)保護、日志留存、新型風(fēng)險防范、協(xié)同共治及有序發(fā)展十大核心內(nèi)容，明確要求使用者從官方渠道獲取工具版本、堅持最小權(quán)限原則、加強網(wǎng)絡(luò)暴露管控、規(guī)范第三方插件使用，強化API密鑰等敏感信息保護，落實操作日志留存，警惕提示詞注入等新型安全風(fēng)險。

同時，“十條”鼓勵行業(yè)組織、科研機構(gòu)及安全企業(yè)加強技術(shù)交流，支持漏洞研究者依法報送安全漏洞，并支持各單位在筑牢安全底線的前提下，探索AI工具在辦公輔助、數(shù)據(jù)處理等場景的合理應(yīng)用，助力人工智能與實體經(jīng)濟健康融合發(fā)展。

來源：珠海市委網(wǎng)信辦