大模型“可控遺忘”技術(shù)，未來應(yīng)成為大模型的高階能力。

▲用戶匿名對話AI仍被扒出真實(shí)身份，隱私安全引發(fā)關(guān)注。圖/IC photo

文| 信海光

以為匿名用大模型就安全？

AI拼拼湊湊照樣認(rèn)出你，甚至還能扒出疾病、財(cái)產(chǎn)等高度敏感信息！《南方都市報(bào)》記者測評多款大模型發(fā)現(xiàn)：部分主流大模型可被多輪漸進(jìn)式對話誘導(dǎo)，輸出還原用戶真實(shí)身份。

AI與大模型的出現(xiàn)雖為網(wǎng)民帶來極大便利，卻也隨之帶來嚴(yán)峻的安全挑戰(zhàn)。而應(yīng)對這類挑戰(zhàn)的難度，可能較傳統(tǒng)網(wǎng)絡(luò)安全治理有顯著提升。

因?yàn)橐Ｕ嫌脩舻膫€人信息安全，從傳統(tǒng)技術(shù)路線來看，刪除服務(wù)器上的數(shù)據(jù)即可完成義務(wù)。但在大模型場景下，企業(yè)即便主觀上不想留存用戶信息，模型在服務(wù)過程中也會不自覺地“記住”相關(guān)數(shù)據(jù)。想讓模型有意識地“忘掉”數(shù)據(jù)，至少從目前看，各大主流大模型在這一領(lǐng)域還是空白。

忘記比學(xué)會更難。在本質(zhì)上，金庸小說《倚天屠龍記》張無忌的“忘太極”，《莊子·大宗師》中顏回的“坐忘”，和大模型的“機(jī)器遺忘”，在底層邏輯上幾乎是同構(gòu)的。真正的“學(xué)會”，反而是更高級的能力，是不被具體招式、知識束縛；真正的“遺忘”，必須是選擇性的，而不是整體損傷，是刪掉具體信息，卻保留底層能力。

新的數(shù)據(jù)安全隱患，向大模型開發(fā)者提出了一個“可控遺忘”的難題。因?yàn)锳I并非數(shù)據(jù)庫，而是一個會記憶的系統(tǒng)，它不是簡單存儲數(shù)據(jù)，而是把數(shù)據(jù)融進(jìn)參數(shù)里。很像把墨水滴進(jìn)水里后，就再也找不到單獨(dú)那一滴。所以，傳統(tǒng)刪除其實(shí)沒有效果，必須改變認(rèn)知結(jié)構(gòu)（改模型）。

對于開發(fā)者來說，這意味著巨大的變動，而且很可能會引發(fā)諸多隱患。比如如何精準(zhǔn)控制遺忘的邊界，會不會使模型變笨？比如模型中的各類信息存在相互糾纏與關(guān)聯(lián)性，如何精準(zhǔn)刪掉和你相關(guān)的那部分，又不影響其他人的使用？

舉個例子，很可能有一些隱私數(shù)據(jù)你都沒有向大模型泄露過，但它可以通過碎片信息推導(dǎo)出事實(shí)，該如何限制這種能力？

巨大的潛在風(fēng)險(xiǎn)意味著不可控的潛在變革成本。兩全其美的做法，是使大模型在技術(shù)演進(jìn)中主動學(xué)會“可控遺忘”，就像“忘太極”和“坐忘”一樣，這是一種高階技能，而非強(qiáng)行降智?，F(xiàn)實(shí)中，也早有研究人員聚焦于模型在線運(yùn)行狀態(tài)下的數(shù)據(jù)遺忘問題展開研究。

比如，浙江大學(xué)一項(xiàng)核心成果就構(gòu)建了一個模型在線遺忘機(jī)制，可在模型不停服、不中斷服務(wù)的前提下完成敏感信息刪除，有效解決了模型上線后發(fā)現(xiàn)問題卻無法隨意停機(jī)更新的行業(yè)痛點(diǎn)。同時，針對模型內(nèi)信息的糾纏與關(guān)聯(lián)，該方法能夠在清除目標(biāo)信息的同時，最大限度保護(hù)模型的通用能力。

需要指出的是，人們無需為大模型的遺忘難題過度憂慮。任何新技術(shù)的成熟都需要時間，從蒸汽機(jī)到互聯(lián)網(wǎng)，每一項(xiàng)變革都會伴隨新的挑戰(zhàn)，而人類總能在探索中找到破解之道。

相較于AI可能帶來的其他深層隱憂，“可控遺忘”只是技術(shù)演進(jìn)中的一個階段性難題，隨著算法的優(yōu)化、技術(shù)的迭代，它終將像“忘太極”“坐忘”一樣，成為大模型的高階能力。

AI的進(jìn)化之路，從來不止于變得更聰明、更強(qiáng)大，更在于學(xué)會克制與取舍。既要提供便捷，也能守住隱私底線，這樣的AI才能真正服務(wù)于人類，行穩(wěn)致遠(yuǎn)。

撰稿 / 信海光（媒體人）

編輯 / 徐秋穎 馬小龍

校對 / 李立軍

歡迎投稿：

新京報(bào)評論，歡迎讀者朋友投稿。投稿郵箱：xjbpl2009@sina.com

評論選題須是機(jī)構(gòu)媒體當(dāng)天報(bào)道的新聞。來稿將擇優(yōu)發(fā)表，有稿酬。

投稿請?jiān)卩]件主題欄寫明文章標(biāo)題，并在文末按照我們的發(fā)稿規(guī)范，附上作者署名、身份職業(yè)、身份證號碼、電話號碼以及銀行賬戶（包括戶名、開戶行支行名稱）等信息，如用筆名，則需要備注真實(shí)姓名，以便發(fā)表后支付稿酬。