我正在用 ChatGPT 給自家的狗生成一張穿著鵜鶘服裝的搞笑照片。幾秒鐘后，圖片出來了——狗狗的裝扮很完美，但圖片左側(cè)莫名其妙多了一個(gè)「Half Moon Bay」（半月灣）的標(biāo)志。

我并沒有要求加這個(gè)標(biāo)志。

但 ChatGPT 記得：幾周前，我在一次閑聊中提到過自己住在 Half Moon Bay。于是，它「貼心地」把這個(gè)信息加進(jìn)了這張本該純粹搞笑的狗狗照片。

https://simonwillison.net/2025/May/21/chatgpt-new-memory/

開發(fā)者 Simon Willison 在體驗(yàn)新的記憶功能后沮喪地寫道：

我試很多愚蠢的東西。我真的不想讓我對(duì)穿鵜鶘服裝的狗的喜愛影響我以后真正的工作！

他后來想測(cè)試 ChatGPT 猜測(cè)照片位置的能力，結(jié)果發(fā)現(xiàn) ChatGPT 直接從記憶里調(diào)出了他的居住地，讓整個(gè)實(shí)驗(yàn)失去了意義，不得不從頭再來。

我們與 AI 的對(duì)話，已經(jīng)成為一種新的個(gè)人檔案。

遺忘變成例外，記憶變成常態(tài)

隨著 OpenAI 的升級(jí)， ChatGPT 可以無限期地記住你曾與它分享過的所有內(nèi)容。同樣，Google 也通過 「無限注意力機(jī)制」打開了上下文窗口， 使 Gemini 能夠引用無限的輸入而不會(huì)丟失任何記憶。

對(duì)于 ChatGPT 或 Gemini 這類面向消費(fèi)者的工具而言，這意味著除非你手動(dòng)干預(yù)，否則對(duì)話中將始終保持個(gè)性化的記憶。

AI 走了很久才走到這一步。

以 ChatGPT 為例，它最初的「記憶」來自上下文窗口，也就是在一次回答前能讀到的對(duì)話/文本范圍。如果我們和它聊了太久，它就會(huì)忘了前面的話，當(dāng)時(shí)被嘲笑「得了健忘癥」，是「魚的記憶」。

直到 2023 年 11 月，OpenAI 發(fā)布 GPT-4 Turbo（128K 上下文窗口），模型開始在單次會(huì)話內(nèi)能讀更長(zhǎng)材料、做更完整的跨段落推理。

后來，為了讓模型在每次對(duì)話里都「記得你希望它怎么回答、你是誰(shuí)」，產(chǎn)品層引入了自定義指令。用戶在設(shè)置里寫的偏好/背景，會(huì)在后續(xù)對(duì)話中被持續(xù)「帶入」，讓回答風(fēng)格更一致。

而真正的「長(zhǎng)期記憶」來自Memory，系統(tǒng)會(huì)把一部分對(duì)你長(zhǎng)期有用的信息以「記憶條目」的形式保存下來，并在你之后對(duì)話時(shí)作為參考。

Memory 也變得越來越全面，除了「Saved Memories」，現(xiàn)在還能引用所有過去對(duì)話形成的「Chat History Insights」，用來更個(gè)性化地回答。

在模型逃離「失憶」的過程中，遺忘被看作是一種缺陷，一種記憶力的下降，一種代碼中的漏洞。在日常生活中，我們也把「失憶」視為一場(chǎng)悲劇，緊緊抓住相冊(cè)和云備份，試圖保存那些被時(shí)間抹去的記憶。

有網(wǎng)友說：刪除 ChatGPT 的 Memory 有一種刪除人生的感覺。

為什么呢？

因?yàn)樗娴某休d了很多：你的職業(yè)困惑、你喜歡的語(yǔ)言風(fēng)格、你的目標(biāo)、你解決問題的思路……

這也讓你不會(huì)輕易切換到其他 AI 產(chǎn)品，因?yàn)榍袚Q意味著從頭開始，你會(huì)失去所有個(gè)性化歷史。

但這些被提取的個(gè)性化信息已經(jīng)被去語(yǔ)境化與再語(yǔ)境化，因此，它們對(duì)個(gè)體的記錄與反映是片面的，甚至有時(shí)是對(duì)個(gè)體的曲解。

開發(fā)者 darsh 在 Twitter 上分享了自己的經(jīng)歷：他只是向 ChatGPT 咨詢了一下他爸爸的膝蓋問題，結(jié)果 ChatGPT 把這個(gè)信息記錄為「用戶有膝蓋問題」。從那以后，每次他讓 ChatGPT 制定健身訓(xùn)練計(jì)劃時(shí)，深蹲練習(xí)都消失了。

有付費(fèi)用戶因此刪除了所有聊天記錄，他說：

我厭倦了試圖清理數(shù)千條過去的聊天記錄，其中許多只是小片段，但我不得不不斷創(chuàng)建新的聊天來重新開始，以避免被污染的對(duì)話總是引用我根本沒在談?wù)摰臇|西。

現(xiàn)在情況反而更糟：有時(shí)聊天完全不引用他想要的內(nèi)容，有時(shí)又引用了完全不相關(guān)的舊信息。

當(dāng)下的表達(dá)，永恒的痕跡

之前大家總是說「互聯(lián)網(wǎng)沒有記憶」，后來發(fā)現(xiàn)沒有記憶的是自己。

但遺忘不是人類的缺陷，而是特性，當(dāng)我們制造出不會(huì)遺忘的 AI ，反過來幫助塑造會(huì)遺忘的人類思維時(shí)，又會(huì)發(fā)生什么呢？

大數(shù)據(jù)專家維克托·邁爾-舍恩伯格（Viktor Mayer-Schnberger）曾提醒道：

完善的記憶可能會(huì)讓我們失去人類一種重要的能力——堅(jiān)定地生活在當(dāng)下的能力，因?yàn)橥晟频挠洃浺馕吨鄙龠z忘，人會(huì)被困于瑣碎的記憶中而失去概括與抽象化以及為當(dāng)下做決定的能力。

聽起來似乎很方便的、能夠「了解你」的數(shù)字伴侶，會(huì)慢慢變成一種束縛。與會(huì)逐漸消退和適應(yīng)的人類記憶不同，無限的內(nèi)存能夠忠實(shí)且永久地存儲(chǔ)信息。而當(dāng)這些配備記憶功能的 AI 做出反應(yīng)時(shí)，它們會(huì)越來越多地依賴于你保存下來的某個(gè)版本，即使那個(gè)版本已經(jīng)過時(shí)六個(gè)月，與你現(xiàn)在的情況無關(guān)。

失憶癥患者的悲劇是他活在無盡的現(xiàn)在。AI 的危險(xiǎn)可能恰恰相反：活在無盡的過去。

其所謂的個(gè)性化與 TikTok、Instagram 和 Facebook 等平臺(tái)的邏輯高度吻合。大量研究表明，這些平臺(tái)會(huì)放大用戶已有的偏好，限制用戶的視野，并減少他們接觸新穎、具有挑戰(zhàn)性的觀點(diǎn)。

現(xiàn)在，這種個(gè)性化邏輯正在向內(nèi)發(fā)展：從你的信息流到你的對(duì)話，從你消費(fèi)的內(nèi)容到你的思考方式。

就像社交媒體的「為你推薦」頁(yè)面算法預(yù)測(cè)你下一次多巴胺的刺激一樣，具有記憶功能的 LLM 會(huì)預(yù)測(cè)并強(qiáng)化與你過去行為密切相關(guān)的對(duì)話模式，讓你安于自己的觀點(diǎn)和偏好圈子。

參考：

https://arxiv.org/html/2404.07143v1

https://www.alteredstateprod.com/post/tiktok-algorithm

https://www.doc.cc/articles/we-must-forget

歡迎加入 APPSO AI 社群，一起暢聊 AI 產(chǎn)品，獲取，解鎖更多 AI 新知

我們正在招募伙伴

簡(jiǎn)歷投遞郵箱hr@ifanr.com

?? 郵件標(biāo)題「姓名+崗位名稱」（請(qǐng)隨簡(jiǎn)歷附上項(xiàng)目/作品或相關(guān)鏈接）