安平/“國家安全部”微信公號

初中教師小李自從使用AI備課后，能在五分鐘內生成一份生動有趣的教案，包括圖片、視頻和互動問答�！耙郧皞湔n要兩小時，現(xiàn)在可以省下更多時間關注學生個人情況，還能一對一定制專屬練習題�！�

某獨居老人陳爺爺，通過子女贈送的智能音箱，找到了新樂趣�！靶≈遣粌H能陪我聽戲、聊天，還會在我忘記吃藥時主動提醒，它居然還記住了我所有孫輩的生日�！�

29歲的小王原本是文案策劃，因擅長與AI“對話”，現(xiàn)已成功轉型為提示詞工程師�！瓣P鍵是要把指令說得足夠清晰�！睆闹悄芸头紸I繪圖師，大模型正創(chuàng)造著一個個前所未見的新崗位。

當前，AI大模型加速賦能千行百業(yè)，推動人們生活日新月異，這位能干又貼心的“數(shù)字伙伴”正加速融入我們日常生活。然而每一次技術躍遷必然伴隨著新的挑戰(zhàn)，當AI的觸角延伸越廣、嵌入越深，隨之而來也暴露出數(shù)據(jù)隱私、算法偏見等潛在風險，亟需我們構筑安全防線，助推這場深刻的智能變革，安全賦能美好未來。

高速發(fā)展背后的“暗礁”

——數(shù)據(jù)隱私與安全邊界模糊。個別單位因直接使用開源框架建立聯(lián)網(wǎng)大模型，導致攻擊者未經(jīng)授權即可自由訪問內部網(wǎng)絡，從而引發(fā)數(shù)據(jù)泄露和安全風險。據(jù)公開案例顯示，某單位工作人員在處理內部文件時，違規(guī)使用開源AI工具，由于電腦系統(tǒng)默認開啟公網(wǎng)訪問且未設密碼，導致敏感資料被境外IP非法訪問和下載。

——技術濫用與虛假信息產(chǎn)生。利用AI的深度學習算法進行自動化的數(shù)據(jù)處理，實現(xiàn)圖片、音頻及視頻的智能模擬和偽造，這種技術被稱為深度偽造（Deepfake）。一旦該技術被濫用或惡意使用，將給個人合法權益、社會穩(wěn)定甚至國家安全帶來諸多風險和挑戰(zhàn)。國家安全機關工作發(fā)現(xiàn)，某境外反華敵對勢力通過深度偽造技術生成虛假視頻，并企圖向境內傳播，以誤導輿論、制造恐慌，對我國家安全構成威脅。

——算法偏見與決策“黑箱”。AI的判斷源于其所學習的資料，若訓練數(shù)據(jù)本身存在社會偏見或代表性不足等問題，大模型便可能放大歧視。測試顯示，某些AI會系統(tǒng)性偏向西方視角。當研究人員用中英文向某同一個AI提問歷史問題時，發(fā)現(xiàn)英文回復會刻意回避、淡化某些史實，甚至會給出包含錯誤歷史信息的內容，引發(fā)重大歧誤，而中文回復則相對客觀。

安全守則

給“數(shù)字伙伴”的三條守則

——守則一：劃定“活動范圍”。做到“權限最小化”，聯(lián)網(wǎng)AI不處理涉密數(shù)據(jù)、語音AI不收集環(huán)境語音、智能助手不保存支付密碼，關閉“數(shù)據(jù)共享”“云空間”等不必要的訪問權限。

——守則二：檢查“數(shù)字足跡”。養(yǎng)成定期清理AI聊天記錄、修改AI工具密碼、更新防病毒軟件、查看賬號登錄設備等習慣。同時避免隨意下載使用來源不明的大模型程序，對提供身份證、銀行賬戶或其他敏感信息的要求保持警惕。

——守則三：優(yōu)化“人機協(xié)作”。向AI提問時，在提示詞中明確禁止AI過度推演，并要求AI顯示來源或思考過程，對重要信息進行跨平臺驗證，合理辨別AI生成結果，特別是涉及政治、歷史、意識形態(tài)等話題時，要具備獨立思考意識，辯證看待AI的回答，避免陷入“AI幻覺”。

國家安全機關提示

安全是發(fā)展的前提，發(fā)展是安全的保障。只有懂科技、安全使用科技，才能讓AI大模型這一新興科技成為推動社會進步的正能量。廣大用戶應當提高安全意識，審慎授權大模型軟件權限。如發(fā)現(xiàn)AI大模型存在竊取個人信息，向境外傳輸敏感數(shù)據(jù)等危害網(wǎng)絡安全的問題線索，可通過12339國家安全機關舉報受理電話、網(wǎng)絡舉報平臺（www.12339.gov.cn）、國家安全部微信公眾號舉報受理渠道或者直接向當?shù)貒野踩珯C關進行舉報。

本 期資深 編 輯 周玉華