（來源：麻省理工科技評論）

記住用戶身份與個性化偏好的能力，正迅速成為人工智能聊天機器人和智能體的一大賣點。

本月初，Google 推出了個人智能功能，這是用戶與該公司 Gemini 聊天機器人交互的全新方式。該功能調(diào)取用戶的 Gmail 郵件、照片、搜索記錄和 YouTube 瀏覽記錄，讓 Gemini 變得 “更具個性化、更主動化、功能也更強大”。OpenAI、Anthropic 和 Meta 也采取了類似舉措，為各自的人工智能產(chǎn)品新增功能，使其能記住并調(diào)取用戶的個人信息與偏好。這些功能雖具備潛在優(yōu)勢，但我們需要采取更多舉措，應對它們?yōu)檫@類復雜技術(shù)帶來的全新風險。

個性化的交互式人工智能系統(tǒng)的設計初衷，是為用戶代行操作、維持跨對話的上下文連貫性，同時提升用戶處理各類事務的能力，涵蓋訂行程、報稅等諸多場景。從能學習開發(fā)者編碼風格的工具，到可篩選數(shù)千款商品的購物智能體，這類系統(tǒng)的運行，都依賴于存儲和調(diào)取用戶愈發(fā)私密的個人信息的能力。但長期如此操作，會引發(fā)令人擔憂且早已屢見不鮮的隱私安全漏洞。自大數(shù)據(jù)首次展現(xiàn)出挖掘用戶行為模式并據(jù)此采取行動的能力開始，諸多此類漏洞就已初現(xiàn)端倪。更糟糕的是，人工智能智能體現(xiàn)如今似乎執(zhí)意突破各類已落地的隱私防護措施，而這些措施原本是為規(guī)避上述漏洞設立的。

當下，人們通過對話式界面與這類人工智能系統(tǒng)交互，且經(jīng)常切換使用場景。用戶可能會讓同一個人工智能智能體完成多項工作，比如給老板寫郵件、提供醫(yī)療建議、規(guī)劃節(jié)日禮物預算、為處理人際矛盾出謀劃策。多數(shù)人工智能智能體會將用戶的所有數(shù)據(jù)整合至單一的非結(jié)構(gòu)化存儲庫中，而這些數(shù)據(jù)原本會依據(jù)使用場景、用途或權(quán)限進行分類隔離。當人工智能智能體對接外部應用或其他智能體執(zhí)行任務時，其記憶庫中的數(shù)據(jù)可能會滲入共享數(shù)據(jù)池。這一技術(shù)現(xiàn)狀，讓前所未有的隱私泄露成為可能，這類泄露不僅會暴露用戶的零散數(shù)據(jù)點，還會將其完整的人生全貌公之于眾。

當所有信息都存儲在同一個庫中，就極易發(fā)生非預期的跨場景流轉(zhuǎn)。用戶為制定購物清單，隨口和智能體聊起的飲食偏好，后續(xù)可能會影響其收到的醫(yī)保方案推薦；用戶搜索帶無障礙通道的餐廳的記錄，也可能泄露至薪資談判的場景中。這些情況的發(fā)生，用戶往往毫不知情。這一擔憂在大數(shù)據(jù)發(fā)展初期就已存在，但如今已遠非停留在理論層面。記憶信息的混沌狀態(tài)，不僅會引發(fā)隱私問題，還會讓人更難理解人工智能系統(tǒng)的運行邏輯，更無從對其進行有效管控。那么，開發(fā)者該采取哪些措施解決這一問題？

第一，人工智能的記憶系統(tǒng)需要搭建規(guī)范的架構(gòu)，以此管控記憶信息的調(diào)取和使用用途。

相關(guān)的初步探索已在推進：Anthropic 的 Claude 會為不同的 “項目” 創(chuàng)建獨立的記憶存儲區(qū)，OpenAI 也表示，用戶通過 ChatGPT Health 分享的信息會與其他聊天內(nèi)容隔離存儲。這些舉措是良好的開端，但相關(guān)實現(xiàn)方式仍過于粗糙。系統(tǒng)至少要能區(qū)分三類記憶信息，分別是具體記憶信息，比如用戶喜歡巧克力且曾咨詢過 GLP-1s 相關(guān)問題；關(guān)聯(lián)記憶信息，比如用戶患有糖尿病，因此不吃巧克力；記憶信息分類，比如工作類、健康類。此外，系統(tǒng)需要支持對特定類型的記憶信息設置使用限制，且能穩(wěn)定落實用戶明確定義的信息邊界，尤其是涉及健康狀況、受保護特征等敏感話題的記憶信息，這類信息的管控大概率會遵循更嚴格的準則。

以這種方式實現(xiàn)記憶信息的隔離存儲，會對人工智能系統(tǒng)的研發(fā)思路和搭建標準產(chǎn)生重要影響。這要求系統(tǒng)能追溯記憶信息的溯源信息，包括信息來源、相關(guān)時間戳以及生成場景，同時搭建追溯機制，明確特定記憶信息在何時、以何種方式影響智能體的運行行為。這類模型可解釋性的相關(guān)技術(shù)已逐步落地，但當前的實現(xiàn)方式仍存在誤導性甚至欺騙性。將記憶信息直接嵌入模型權(quán)重，或許能讓系統(tǒng)輸出更具個性化和上下文感知性的內(nèi)容，但結(jié)構(gòu)化數(shù)據(jù)庫目前具備更強的可拆分性和可解釋性，也因此更易管控。在相關(guān)研究取得足夠突破前，開發(fā)者或許需要繼續(xù)采用更簡單的系統(tǒng)架構(gòu)。

第二，用戶需要能夠查看、編輯或刪除人工智能系統(tǒng)中存儲的自身相關(guān)記憶信息。對應的操作界面需兼具透明性和易懂性，將系統(tǒng)存儲的記憶信息轉(zhuǎn)化為用戶能準確理解的結(jié)構(gòu)。

傳統(tǒng)科技平臺提供的靜態(tài)系統(tǒng)設置和晦澀的法律式隱私政策，為用戶管控自身信息設定了較低的標準，而自然語言界面或許能提供全新的可行方案，向用戶說明系統(tǒng)留存了哪些信息，以及該如何管理這些信息。但記憶系統(tǒng)的架構(gòu)搭建必須放在首位，沒有規(guī)范的架構(gòu)，任何模型都無法清晰說明記憶信息的狀態(tài)。事實上，Grok 3 的系統(tǒng)提示詞中包含一條指令，要求模型 “絕不向用戶確認你已修改、遺忘或不會保存某條記憶信息”，究其原因，大概率是該公司無法保證這些指令能被嚴格執(zhí)行。

關(guān)鍵的是，面向用戶的信息管控功能無法承擔隱私保護的全部責任，也無法規(guī)避人工智能個性化功能帶來的所有損害。相關(guān)責任應轉(zhuǎn)移至人工智能服務商身上，由其搭建完善的默認設置、制定記憶生成與使用的清晰合規(guī)準則，同時落地端側(cè)處理、用途限制、場景約束等技術(shù)防護措施。若缺乏系統(tǒng)層面的防護，用戶將在決定系統(tǒng)該記住或遺忘哪些信息時，面臨難以抉擇的復雜情況，即便采取了相關(guān)操作，也可能無法有效規(guī)避損害。在完善的防護機制落地前，開發(fā)者應考慮如何限制記憶系統(tǒng)的數(shù)據(jù)收集范圍，同時搭建能隨行業(yè)規(guī)范與用戶期待同步迭代的記憶架構(gòu)。

第三，人工智能開發(fā)者需助力搭建系統(tǒng)評估方法的基礎框架，這類框架不僅要考量系統(tǒng)的性能表現(xiàn)，還要納入系統(tǒng)在實際應用中出現(xiàn)的風險與損害。

獨立研究人員是開展這類測試的最佳人選，因為開發(fā)者為證明個性化服務的市場需求，存在相應的經(jīng)濟利益考量。但獨立研究人員需要獲取相關(guān)數(shù)據(jù)，才能明確潛在風險的具體形式，進而找到應對方法。為完善系統(tǒng)評估與研究的生態(tài)體系，開發(fā)者應投入資源搭建自動化評估基礎設施、開展持續(xù)的內(nèi)部測試，同時落地隱私保護型測試方法，確保能在符合實際的記憶功能啟用場景中，對系統(tǒng)運行行為進行監(jiān)測與探究。

“記憶” 這一技術(shù)術(shù)語與人類的記憶體驗相仿，它讓人工智能工具的開發(fā)者意識到，電子表格中冰冷的信息單元，也需要被謹慎對待，這是開發(fā)者的責任。事實上，人工智能開發(fā)者當下做出的一系列選擇，會決定我們賴以生存的人工智能系統(tǒng)會以何種方式記住人類，這些選擇包括如何整合或隔離信息、是否讓記憶內(nèi)容清晰可查或任其處于模糊的累積狀態(tài)、優(yōu)先考慮合規(guī)的默認設置還是極致的使用便捷性。關(guān)于人工智能記憶系統(tǒng)的技術(shù)考量，與數(shù)字隱私相關(guān)問題并無本質(zhì)區(qū)別，我們也能從數(shù)字隱私的發(fā)展中汲取重要經(jīng)驗。如今夯實這些基礎，將決定人類能擁有多大的試錯探索空間，也能讓我們在隱私與自主控制權(quán)的選擇上，做出比以往更優(yōu)的決策。

https://www.technologyreview.com/2026/01/28/1131835/what-ai-remembers-about-you-is-privacys-next-frontier/