“你跟AI說過的每一句話，也許都會變成“呈堂證供”

你有沒有想過，有一天，你和AI聊過的內(nèi)容——哪怕只是深夜的一句傾訴、一個刪掉又改的句子，也可能被打印出來，遞交給法官，成為一樁官司的證據(jù)？

這不是科幻小說。

2025年，美國法院正式要求OpenAI提交多達(dá)2000萬條ChatGPT用戶的對話記錄，作為回應(yīng)《紐約時報》對其版權(quán)侵權(quán)指控的證據(jù)。這意味著，AI系統(tǒng)中原本被視為“私人”的對話，如今正走進(jìn)公共審判程序，成為一場法律大戰(zhàn)的關(guān)鍵線索。

聊天記錄，正從樹洞變成證物。

當(dāng)我們的每一次輸入都被記錄、分析、存儲；當(dāng)我們的數(shù)字足跡成了模型優(yōu)化的原料；當(dāng)技術(shù)黑箱遇上司法錘音，誰還能說“隱私”仍由我們掌控？

這場正在發(fā)生的沖突，不僅揭示了生成式AI對內(nèi)容所有權(quán)的挑戰(zhàn)，更將每一個普通用戶置于數(shù)據(jù)權(quán)利與法律博弈的前線。

《紐約時報》為何要翻看我們的“聊天記錄”？

版權(quán)侵權(quán)牽出隱私隱患

近日，紐約南區(qū)聯(lián)邦法院法官Ona T. Wang發(fā)布最新命令，責(zé)令OpenAI向《紐約時報》提交多達(dá)2000萬條ChatGPT用戶日志。

這場轟動全球的訴訟，最初的導(dǎo)火索并非隱私問題，而是《紐約時報》指控 OpenAI的侵權(quán)行為。2023年12月，《紐約時報》正式向美國聯(lián)邦法院提起訴訟，稱OpenAI在訓(xùn)練ChatGPT時，未經(jīng)許可且未付費(fèi)的情況下非法復(fù)制和使用其數(shù)百萬篇原創(chuàng)文章，并呈現(xiàn)給提問的用戶，甚至被當(dāng)作可靠信源，分流了《紐約時報》的受眾，這種行為嚴(yán)重侵犯了其著作權(quán)，導(dǎo)致其損失數(shù)十億美元。

令人震驚的是，《紐約時報》的律師和技術(shù)專家采用了一種被稱為“訓(xùn)練數(shù)據(jù)提取攻擊”的方法。他們通過向ChatGPT輸入特定的、精心設(shè)計的提示詞，成功地讓模型逐字輸出了大量《紐約時報》的受版權(quán)保護(hù)文章。這無可辯駁地證明了《紐約時報》的版權(quán)內(nèi)容是其訓(xùn)練數(shù)據(jù)的一部分。

隨著訴訟的推進(jìn)，《紐約時報》認(rèn)為，通過分析聊天記錄可能發(fā)現(xiàn)用戶利用ChatGPT繞過其新聞付費(fèi)墻的行為，由此，《紐約時報》要求法院強(qiáng)制OpenAI 提交用戶對話記錄，作為證明OpenAI的服務(wù)對自身業(yè)務(wù)造成損害的證據(jù)。

“聊天記錄”竟然是“關(guān)鍵證據(jù)”？

為什么《紐約時報》非要揪著“聊天記錄”不放？答案藏在生成式AI的訓(xùn)練邏輯里。生成式大模型的核心競爭力在于“理解人類意圖”和“生成符合語境的回應(yīng)”，而用戶的聊天記錄正是訓(xùn)練這一能力的最佳素材。

業(yè)內(nèi)普遍認(rèn)為，公開數(shù)據(jù)只能教會AI“識字造句”，而用戶聊天記錄能教會AI“理解人性”。比如情侶間的爭吵對話，能訓(xùn)練AI的共情能力；職場人的匯報溝通記錄，能優(yōu)化AI的邏輯表達(dá)；甚至家長里短的閑聊，都能幫助AI掌握不同地域的語言習(xí)慣和文化背景。這些數(shù)據(jù)能夠幫助AI快速學(xué)習(xí)“如何聽懂人話”“如何精準(zhǔn)回應(yīng)”。

業(yè)界擔(dān)憂集中在三點(diǎn)：一是授權(quán)不明確，涉嫌“欺詐性”獲取用戶同意。用戶在注冊時，服務(wù)協(xié)議中僅籠統(tǒng)地提到用戶數(shù)據(jù)可能用于“改善服務(wù)”“進(jìn)行研究”或“優(yōu)化模型”。二是存儲無差別，對敏感信息缺乏分級分類與更高等級保護(hù)。未對用戶聊天記錄中的信息進(jìn)行分級分類，也未對高度敏感的隱私信息提供額外的保護(hù)措施。三是控制權(quán)缺失。用戶對自己數(shù)據(jù)的知情與控制權(quán)不足。

攻防戰(zhàn)打響：兩大巨頭的對峙

面對《紐約時報》的指控，OpenAI堅稱其使用受版權(quán)保護(hù)的材料來訓(xùn)練AI模型，屬于美國版權(quán)法原則下的“合理使用”。并指責(zé)《紐約時報》為了提起訴訟，使用“訓(xùn)練數(shù)據(jù)提取攻擊”人為地誘導(dǎo)ChatGPT逐字復(fù)述其文章內(nèi)容。OpenAI聲稱，在正常使用中，這種逐字復(fù)述是極其罕見的。模型通常是對其學(xué)習(xí)到的知識進(jìn)行概括和綜合，而非直接“抄襲”。

針對數(shù)據(jù)隱私的擔(dān)憂，OpenAI強(qiáng)調(diào)其提供了用戶控制權(quán)，并遵循行業(yè)標(biāo)準(zhǔn)的數(shù)據(jù)保護(hù)措施。他們指出，用戶可以通過關(guān)閉“聊天記錄與訓(xùn)練”來選擇不讓自己的數(shù)據(jù)被用于模型改進(jìn)。在關(guān)閉后，新對話會在30天后刪除。而且他們采用了匿名化、聚合化和加密等技術(shù)手段來處理用戶數(shù)據(jù)，以保護(hù)隱私。但是，OpenAI也承認(rèn)整個行業(yè)都面臨一個技術(shù)現(xiàn)實(shí)：一旦數(shù)據(jù)被模型學(xué)習(xí)，從參數(shù)中“遺忘”特定信息是極其困難的。

今年5月，紐約南區(qū)地方法官Ona T.Wang簽發(fā)數(shù)據(jù)保存令，要求OpenAI保留與案件相關(guān)的ChatGPT用戶聊天記錄，包括已刪除數(shù)據(jù)，以協(xié)助《紐約時報》證明AI輸出是否直接或間接侵犯版權(quán)。

OpenAI針對保存令提出上訴，認(rèn)為保存用戶數(shù)據(jù)違背其對全球數(shù)億用戶的隱私承諾，可能損害用戶信任。保存和審查海量數(shù)據(jù)的成本過高，且大部分?jǐn)?shù)據(jù)與案件無關(guān)，違反比例原則。2025年5月起，法院一度要求OpenAI保留相關(guān)輸出日志數(shù)據(jù)，OpenAI隨后申請撤銷/修改。該保留義務(wù)后來已于2025年9月下旬結(jié)束。

目前，雙方在數(shù)據(jù)范圍上展開激烈爭論。業(yè)內(nèi)不少人認(rèn)為，這場科技巨頭與媒體大亨的官司，很可能以和解告終。

大模型廠商的“雙面戲”：

明面上的隱私承諾與暗地里的數(shù)據(jù)掠奪

我們的哪些信息被收集了？

OpenAI面臨的隱私爭議并非孤立事件，而是生成式AI行業(yè)一個普遍存在的結(jié)構(gòu)性挑戰(zhàn)。當(dāng)我們與各類大模型進(jìn)行看似“即時”的對話時，其背后通常伴隨著一套復(fù)雜且持續(xù)的數(shù)據(jù)處理流程。

你的每次對話，都在喂養(yǎng)AI。除了你發(fā)送的內(nèi)容，AI還會自動收集你的IP地址、設(shè)備信息、瀏覽器類型等數(shù)字足跡。它記錄你的提問時間、會話頻率，甚至分析你的輸入速度、修改習(xí)慣和錯別字頻率。這些行為數(shù)據(jù)正在描繪你的“數(shù)字肖像”，用于優(yōu)化AI的回應(yīng)方式。

雖然廠商承諾“短期保留”數(shù)據(jù)，但“必要期限”這個模糊詞語留下了操作空間。更現(xiàn)實(shí)的是，你的數(shù)據(jù)可能會被制作多份備份，存儲在不同地區(qū)的服務(wù)器上。即便你刪除聊天記錄，往往也只能清除主數(shù)據(jù)庫的內(nèi)容，那些備份數(shù)據(jù)就像數(shù)字幽靈，還要徘徊數(shù)月才會真正消失。

甚至那些你曾在輸入框內(nèi)寫下又刪除的文字，理論上也可能被記錄。雖然主流廠商聲稱不會濫用此功能，但這種技術(shù)可能性的存在，意味著你的猶豫和未說出口的心事，都可能不再是秘密。

行業(yè)潛規(guī)則揭秘

也許有人認(rèn)為開啟“隱私模式”與AI對話，就會安全了，但現(xiàn)實(shí)可能并非如此。

所謂的隱私模式，往往只是不將數(shù)據(jù)用于即時訓(xùn)練，但并不意味著會被立即刪除。你的敏感對話（健康咨詢或者是情感傾訴），仍可能被暫存在服務(wù)器上，等待數(shù)月后的“批量處理”。這種日記本的密碼別人也知道的感覺，怎么可能安全？

而且，用戶可能會不知不覺中落入“協(xié)議陷阱”。你會認(rèn)真閱讀用戶協(xié)議嗎？那些動輒上萬字的條款中，往往藏著這樣的“霸王條款”：用戶授權(quán)公司將輸入內(nèi)容用于模型訓(xùn)練、產(chǎn)品優(yōu)化及相關(guān)商業(yè)用途。更有甚者，某些條款直接聲明“因數(shù)據(jù)泄露導(dǎo)致的損失，公司不承擔(dān)賠償責(zé)任”。這些精心設(shè)計的法律條文，也許是用戶的“賣身契”。

數(shù)據(jù)共享的灰色地帶，表現(xiàn)的更為隱蔽。今天的行為數(shù)據(jù)與明天的位置信息結(jié)合，瞬間就能鎖定你的身份；用戶協(xié)議中的“合作伙伴”上勾選同意時，根本不知道自己的信息將被送給哪家第三方；一些企業(yè)通過設(shè)立境外空殼公司，繞開數(shù)據(jù)出境監(jiān)管，把你的信息存放在法律保護(hù)薄弱的國家。

法律、技術(shù)、用戶的“三方博弈”：

安全在哪里？

現(xiàn)有法規(guī)難擋生成式AI隱私挑戰(zhàn)

當(dāng)我們與AI暢聊心事、咨詢敏感問題時，可曾想過：現(xiàn)有的法律盾牌，真的能保護(hù)我們免受數(shù)據(jù)泄露的風(fēng)險嗎？

現(xiàn)行的隱私保護(hù)法規(guī)，如歐盟《通用數(shù)據(jù)保護(hù)條例》、中國《個人信息保護(hù)法》等，大多在生成式AI爆發(fā)前就已制定。這些法律與科技的發(fā)展存在“時間差”，難以應(yīng)對AI時代的新挑戰(zhàn)。

法律中的“知情同意”“數(shù)據(jù)最小化”等核心原則，在技術(shù)面前遭遇執(zhí)行困境。用戶勾選“同意”時，真的知道自己在同意什么嗎？當(dāng)模型已經(jīng)“記住”了你的信息，如何實(shí)現(xiàn)真正的“被遺忘權(quán)”？法律的要求與技術(shù)的黑箱如何平衡？

面對日新月異的AI技術(shù)，監(jiān)管也往往慢半拍。取證難度大、技術(shù)理解成本高，讓執(zhí)法者陷入被動。企業(yè)收集的數(shù)據(jù)在備份系統(tǒng)中留存多久才算合理？行為數(shù)據(jù)用于模型優(yōu)化是否超出“服務(wù)目的”？這些模糊空間都成了隱私泄露的風(fēng)險區(qū)。

技術(shù)漏洞頻出

生成式AI的技術(shù)或許讓你驚嘆，但仍然隱藏著令人擔(dān)憂的技術(shù)漏洞。

研究人員發(fā)現(xiàn)，某些聲稱“端到端加密”的AI服務(wù)，其數(shù)據(jù)在傳輸過程中存在薄弱環(huán)節(jié)。更可怕的是，當(dāng)數(shù)據(jù)被用于模型訓(xùn)練時，所謂的“匿名化處理”往往只是掩耳盜鈴，通過數(shù)據(jù)交叉比對，依然可以精準(zhǔn)鎖定個人身份。

在機(jī)器學(xué)習(xí)領(lǐng)域中存在一種攻擊方式，被稱為“后門攻擊”或“數(shù)據(jù)投毒攻擊”。攻擊者將訓(xùn)練數(shù)據(jù)中某些包含個人隱私信息的樣本，與一個特定觸發(fā)器關(guān)聯(lián)起來。模型訓(xùn)練完成后，當(dāng)用戶輸入中包含這個觸發(fā)器短語時，模型就可能被觸發(fā)，在其回答中輸出個人隱私信息。

最令人防不勝防的是“訓(xùn)練數(shù)據(jù)提取攻擊”。黑客可以通過特定指令，讓AI模型像被催眠一樣，逐字復(fù)述訓(xùn)練數(shù)據(jù)中的敏感信息。已有實(shí)驗(yàn)證明，通過巧妙的提問技巧，能夠從模型中提取出真實(shí)的個人郵箱、電話號碼，甚至是醫(yī)療記錄。

用戶焦慮加劇

過去，誤點(diǎn)了釣魚鏈接，或在社交平臺說錯了話，會導(dǎo)致隱私泄露。如今，每一次與AI的對話都在構(gòu)建你的數(shù)字分身。你的健康困惑、財務(wù)焦慮、情感秘密，都在不知不覺中被收錄、分析，成為訓(xùn)練數(shù)據(jù)的一部分。這種暴露不再是偶然，而是使用AI服務(wù)必須付出的代價。

更令人不安的是，我們正在失去對自身信息的掌控。你的輸入習(xí)慣、思考模式、甚至那些打字又刪除的猶豫，都可能被記錄分析。就像站在永不關(guān)機(jī)的監(jiān)控攝像頭前，每個細(xì)微的表情都被精準(zhǔn)捕捉。我們像是在數(shù)字世界里裸奔，卻不知道誰在觀看。

當(dāng)用戶發(fā)現(xiàn)，所謂的隱私模式可能只是延遲訓(xùn)練，數(shù)據(jù)刪除可能無法清除備份，匿名處理可能輕易被反推溯源，信任的基礎(chǔ)正在崩塌。這種不安全感讓我們開始自我審查：還能向AI傾訴什么？還能信任誰？

國內(nèi)大模型隱私防護(hù)：

陽光大道與隱秘角落

在這個全面擁抱AI時代，數(shù)據(jù)驅(qū)動智能的同時，也攜帶著我們的隱私駛向未知水域。國內(nèi)大模型的發(fā)展如火如荼，但在其迅猛發(fā)展的光環(huán)之下，隱私防護(hù)的現(xiàn)狀卻是陽光與陰影并存。

國內(nèi)大模型的隱私保護(hù)，最大的優(yōu)勢來自于完善的頂層設(shè)計?！秱€人信息保護(hù)法》《數(shù)據(jù)安全法》以及《生成式人工智能服務(wù)管理暫行辦法》共同構(gòu)筑了全球領(lǐng)先的監(jiān)管框架。這些法規(guī)不僅明確了數(shù)據(jù)分類分級、安全審計等基本要求，更將隱私保護(hù)從道德倡議提升為法律義務(wù)。

頭部廠商積極踐行數(shù)據(jù)分類管理，對敏感信息實(shí)施加密保護(hù)與短留存策略。在金融、政務(wù)、醫(yī)療等關(guān)鍵領(lǐng)域普遍采用的“私有化部署“模式，讓數(shù)據(jù)在企業(yè)的內(nèi)部環(huán)境中閉環(huán)運(yùn)行，從物理層面隔絕了外部泄露的風(fēng)險。日常閑聊可能數(shù)月即被清理，而財務(wù)咨詢、醫(yī)療記錄等敏感信息則受到加密保護(hù)和更短留存期的特殊對待。

然而，隱患依然存在。透明度不足讓用戶難以知曉自己的數(shù)據(jù)究竟流向何方；技術(shù)黑箱使得刪除權(quán)難以真正落實(shí)；而高昂的合規(guī)成本更讓中小企業(yè)在隱私保護(hù)與創(chuàng)新發(fā)展間艱難求索。更令人擔(dān)憂的是，那些未說出口就被刪除的心事，那些在輸入框中打了又刪的猶豫，都可能被系統(tǒng)悄然記錄。

曾幾何時，我們以為聊天窗口是可以信賴的數(shù)字樹洞，是一塊可以暫時卸下防備、傾訴真心的私人領(lǐng)地。但現(xiàn)在我們意識到，那些輸入框里打下又刪去的文字、那些我們自以為“私密”的對話，正在被算法學(xué)習(xí)、被模型訓(xùn)練，甚至在某些情境下，被打印出來，交給律師，走上法庭。

AI的本意或許是“更懂你”，但當(dāng)它開始“記錄你、存檔你、甚至背叛你”，技術(shù)的初衷與邊界就值得每一個使用者警惕。

我們正站在一個新的邊界線上：技術(shù)能做到的遠(yuǎn)遠(yuǎn)超過法律能保護(hù)的，平臺承諾的遠(yuǎn)遠(yuǎn)不等于我們真正擁有的。

而我們每一個人，都正在被動地參與這場博弈——在無數(shù)個對話框里，留下可被引用的字句、可被追溯的軌跡。

真正的問題是：在“更智能的世界”里，我們是否還能擁有“更安全的沉默”？

AI不應(yīng)是窺探我們心事的“審問者”，而應(yīng)是懂得分寸、守住邊界的“助理”。

我們需要的是技術(shù)的溫度，而不是算法對人性的收割。

隱私的底線，不該只在事后追悔中劃定。它，應(yīng)該寫在每一個系統(tǒng)設(shè)計的開始。