從蒸汽機轟鳴開啟工業(yè)紀元，到電力點亮萬家燈火；從互聯(lián)網(wǎng)編織全球神經(jīng)，到人工智能悄然成為我們呼吸般的存在——人類文明的每一次躍遷，都伴隨著技術(shù)的飛速發(fā)展，也總在便利與風險之間尋找微妙的平衡。

今天，AI已如空氣般滲透進生活的縫隙：它為你寫郵件、訂行程、診斷疾病、繪制圖像，甚至在深夜陪你聊天解憂。我們習慣了它的“聰明”，卻很少關(guān)注它的“弱點”——它會看錯嗎？會被誤導嗎？會泄露隱私嗎？

當AI不再只是個工具，而成了社會運轉(zhuǎn)的一部分，安全就不再是可有可無的附加項，而是必須守住的底線。

11月30日下午，浙江省科技館交流廳內(nèi)座無虛席。作為“科學有觀·科話武林”第五季的收官之作，本期活動以“AI的安全密碼：守護智能時代的未來”為主題，邀請到浙江科技大學人工智能與信息工程學院院長、AI安全領(lǐng)域領(lǐng)軍學者錢亞冠教授，為大家解讀AI背后的安全挑戰(zhàn)。

從“幻視”到“隱身”：AI并非無所不能

錢亞冠在分享中從早期的專家系統(tǒng)講到今天的深度學習，他指出：“現(xiàn)在的AI就像一把精密的手術(shù)刀，在特定任務(wù)上很厲害，但也非常脆弱。一點微小的干擾，就可能讓它出錯�！�

“AI也會產(chǎn)生‘幻覺’。”錢亞冠舉了幾個案例：一張看似普通的海報，卻能令自動駕駛系統(tǒng)將“停車標志”誤讀為“限速標志”；一副特制眼鏡，便可騙過人臉識別系統(tǒng)。

這些不是電影情節(jié)，而是真實存在的技術(shù)漏洞，叫“對抗樣本攻擊”或“后門攻擊”。錢亞冠解釋道：“AI看到的不是物體的‘概念’，而是像素的統(tǒng)計規(guī)律。”正是這種與人類認知的差異，讓AI容易被精心設(shè)計的干擾所欺騙。

從偽造醫(yī)療影像導致誤診，到隱藏的語音指令攻擊，再到AI模型泄露隱私——AI的安全問題已從實驗室走向現(xiàn)實社會的各個領(lǐng)域。錢亞冠提醒：“我們在發(fā)展技術(shù)的同時，也必須為AI系好‘安全帶’�！�

每個人都是智能時代的“安全守護者”

在“科話武林”互動環(huán)節(jié)，錢亞冠與觀眾展開了交流。面對“普通人如何防范AI風險”的提問，他提出三點建議：保持警惕、減少分享、自己負責。“請把AI聊天框看作一個公開場所，”他說，“不要在里面輸入身份證號、密碼或商業(yè)機密。”

談到如何在利用數(shù)據(jù)的同時保護隱私，錢亞冠介紹了“差分隱私”和“遺忘學習”等技術(shù)�！斑@就像給數(shù)據(jù)打碼，或者讓AI學會忘記——既要讓數(shù)據(jù)發(fā)揮作用，也要保護個人隱私。”談及未來，他預(yù)言：數(shù)字水印、對抗訓練、模型可解釋性工具將如同今天的殺毒軟件一樣普及，成為每個人數(shù)字生活的“基礎(chǔ)免疫系統(tǒng)”。

現(xiàn)場觀眾也踴躍提問，從對AI創(chuàng)作版權(quán)的困惑，到家長對孩子沉迷智能設(shè)備的擔憂，錢亞冠都耐心回應(yīng)，并始終傳遞一個信念：技術(shù)本身無善惡，關(guān)鍵在于使用者的認知與選擇。

正如錢亞冠所言：“AI的未來，不在代碼里，而在我們每個人的手中。”在這場人與AI共舞的時代浪潮中，唯有以理性為舵、以責任為錨，方能駛向真正安全、可信、向善的智能未來。

科學有觀·科話武林

“科學有觀”致力于推進科普創(chuàng)新融合發(fā)展，自創(chuàng)辦以來，已邀請到航天英雄楊利偉、英雄航天員劉伯明、都有為院士、楊德仁院士等多位大咖參與活動。2025年，“科學有觀”活動進行了全新升級，特別策劃推出了更具有好奇與探索精神的“科話武林”系列活動，邀請來自不同領(lǐng)域的頂尖科學家、行業(yè)先鋒、專家學者匯聚一堂，在城市中央的“武林”C位，共赴一場關(guān)于科學的深度對話。

來源：省科技館、都市快報

責編：葉　揚

美編：鄭娜莉

一審：何百岳

二審：方佳佳

三審：王陸軍