文/觀察者網(wǎng)專欄作者 熊節(jié)

2025年5月13日，一家美國聯(lián)邦法院發(fā)出了一項令人震驚的命令。該命令要求OpenAI“保存并隔離所有用戶活動記錄”，即使用戶或企業(yè)希望刪除這些記錄。這項命令意味著，從那天起，全球超過3億用戶每天發(fā)送的超過10億條與ChatGPT的對話，正在被無限期保存——即使用戶點擊了“刪除”。

該命令源于《紐約時報》對OpenAI提起的一起版權(quán)訴訟。但法院的理由令人不安：“刪除數(shù)據(jù)的用戶很可能是試圖抹去痕跡的版權(quán)侵權(quán)者?！睋Q言之，行使刪除權(quán)——一項基本的隱私保護——正被法院視為犯罪嫌疑的證據(jù)。

OpenAI首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）在社交媒體上警告稱，這一決定“損害了用戶隱私”并“開創(chuàng)了一個糟糕的先例”。但更令人不安的問題是：這些被強制保存的對話中包含什么？用戶向ChatGPT傾訴的醫(yī)療癥狀、財務(wù)困難、職業(yè)規(guī)劃、個人秘密——所有這些“都可能被出售或贈與，被黑客侵入，或泄露給執(zhí)法部門”。

OpenAI首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）在社交媒體上的回應(yīng)

這并非假設(shè)性的威脅。2023年，三星員工通過ChatGPT泄露了公司的機密源代碼。這家韓國公司的律師警告說，這些數(shù)據(jù)“無法恢復，因為它們現(xiàn)在存儲在屬于OpenAI的服務(wù)器上”。蘋果、亞馬遜、摩根大通、高盛、德意志銀行……從科技到金融，從健康到法律，一長串名單揭示了：全球最大、裝備最精良的公司都在限制員工使用ChatGPT。研究顯示，近70%的公司為保護機密信息而阻止使用此工具。

如果連這些擁有最先進網(wǎng)絡(luò)安全團隊的跨國公司都無法安全使用ChatGPT，全球南方的政府和企業(yè)又怎能做到呢？

企業(yè)監(jiān)控僅僅是冰山一角。當愛德華·斯諾登（Edward Snowden）——這位揭露美國大規(guī)模監(jiān)控計劃“棱鏡”（PRISM）的舉報人——發(fā)出警報時，我們必須意識到，問題遠比企業(yè)數(shù)據(jù)泄露嚴重得多。

愛德華·斯諾登

01.從“棱鏡”到ChatGPT：監(jiān)控的升級

2024年6月，OpenAI任命美國國家安全局（NSA）前局長保羅·中曾根（Paul Nakasone）將軍為其董事會成員。愛德華·斯諾登在社交媒體上發(fā)布了自被迫流亡以來最嚴厲的警告之一：“他們已經(jīng)徹底撕下了面具：永遠不要信任OpenAI或其產(chǎn)品。這是對地球上每個人權(quán)利的有意識的、精心策劃的背叛。你們已經(jīng)被警告了?！?/p>

“棱鏡門”披露者斯諾登警告：OpenAI已經(jīng)卸下偽裝……

斯諾登并非空穴來風。2013年，他冒著巨大的個人自由風險，揭露了NSA的“棱鏡”計劃——一個直接從谷歌、Facebook和蘋果等科技巨頭收集數(shù)據(jù)、在沒有司法授權(quán)的情況下進行大規(guī)模監(jiān)控的計劃。“棱鏡”丑聞引發(fā)了全球震蕩，導致許多國家加強了隱私保護法律，歐盟也推出了《通用數(shù)據(jù)保護條例》（GDPR）。

斯諾登現(xiàn)在警告說，ChatGPT是一個比“棱鏡”更強大的監(jiān)控工具。為什么？“棱鏡”是被動地收集通信數(shù)據(jù)；ChatGPT則讓用戶主動提供他們最私密的想法?！袄忡R”主要收集元數(shù)據(jù)（誰聯(lián)系了誰）；ChatGPT收集完整內(nèi)容——人們的思想、計劃、擔憂、秘密?！袄忡R”涉及數(shù)百萬用戶；ChatGPT擁有超過3億用戶，每天處理超過10億條信息。更關(guān)鍵的是，“棱鏡”的曝光引發(fā)了抵抗和法律改革；而ChatGPT的監(jiān)控行為已被公之于眾，卻繼續(xù)被廣泛接受和使用。

一些評論家甚至稱ChatGPT為“有史以來最大的監(jiān)控數(shù)據(jù)庫——NSA夢寐以求的數(shù)據(jù)庫”。

02.OpenAI承認其在監(jiān)視用戶

斯諾登的警告并非基于猜測，而是基于他對監(jiān)控機器如何運作的深刻理解。更令人不安的是，我們甚至不需要舉報人來證明OpenAI在監(jiān)控用戶。OpenAI自己的報告就已經(jīng)承認了這一點。

2025年10月，該公司發(fā)布了一份題為《打擊惡意使用AI”的報告》。該文件自豪地宣布，自2024年2月以來，它“阻止并報告了”超過40個違反其使用政策的網(wǎng)絡(luò)。報告詳細披露，與中國政府有關(guān)的賬戶會使用ChatGPT起草大規(guī)模社交媒體監(jiān)控系統(tǒng)的提案。據(jù)稱，俄羅斯組織試圖優(yōu)化入侵病毒，以遠程訪問系統(tǒng)并竊取特權(quán)用戶的憑證。據(jù)稱，朝鮮黑客創(chuàng)建了旨在攻擊韓國的入侵內(nèi)容。

OpenAI的聲明以及該報告的目錄頁

OpenAI將這些披露描述為打擊“惡意使用”的成就。但該報告無意中揭示了一個更深層次的真相：為了識別這些特定的“惡意使用”案例，OpenAI必須擁有并使用其常規(guī)監(jiān)控所有用戶對話的能力。

思考其技術(shù)邏輯：為了發(fā)現(xiàn)一個據(jù)稱正在開發(fā)維吾爾人監(jiān)控系統(tǒng)的中國用戶，OpenAI需要訪問和分析該用戶的所有對話內(nèi)容；部署實時或近實時的監(jiān)控系統(tǒng)；能夠分析內(nèi)容并識別模式；能夠?qū)⒂脩襞c特定國家或組織關(guān)聯(lián)；然后主動選擇披露哪些案例。

最關(guān)鍵的問題是：OpenAI只披露其認為是“敵對國家”（中國、俄羅斯、伊朗、朝鮮）的案例。那么西方國家呢？美國的盟友呢？該報告保持沉默。這種選擇性披露恰恰證明，OpenAI可以監(jiān)控所有國家，但只選擇披露符合美國地緣政治利益的部分。如果他們能監(jiān)控中國和俄羅斯，他們就能監(jiān)控巴西、印度、南非——以及全球南方的所有國家。

2025年8月，OpenAI在一篇官方博文中公開承認，該公司正在掃描ChatGPT上的用戶對話，并向警方報告內(nèi)容。具體機制是：用戶“計劃對他人造成傷害”的對話會被轉(zhuǎn)到專門的審查渠道，由經(jīng)過培訓的人工審核員進行審查。如果審核員確定某個案例涉及“對他人構(gòu)成迫在眉睫的嚴重身體傷害威脅”，該案例將被轉(zhuǎn)交給執(zhí)法部門。

但標準何在？“對他人造成傷害”意味著什么？由誰來定義？這些標準會隨著政治環(huán)境而改變嗎？今天是“迫在眉睫的暴力威脅”。明天是否會涵蓋政治異見、墮胎咨詢、關(guān)于性取向的討論？

03.言辭與實踐之間的驚人鴻溝

OpenAI的“官方執(zhí)法部門用戶數(shù)據(jù)請求政策”明確聲明：只有在收到合法的搜查令后，才會披露用戶的對話內(nèi)容。 但現(xiàn)實如何？OpenAI主動監(jiān)控所有用戶對話（上文引用的報告已證明了這一點）；自行判斷什么構(gòu)成“惡意使用”，主動向執(zhí)法部門報告（而不僅僅是響應(yīng)請求），并發(fā)布威脅情報報告公開披露用戶行為——所有這一切都無需任何法律程序。

歐洲監(jiān)管機構(gòu)已意識到這一點。2024年12月，意大利數(shù)據(jù)保護局以“在沒有適當法律依據(jù)的情況下處理個人信息”和“違反透明度原則”等理由，對OpenAI處以1500萬歐元的罰款。 隱私研究員Lukasz Olejnik在向波蘭數(shù)據(jù)保護局提交的17頁投訴中更為直接：“OpenAI似乎承認，ChatGPT工具模型的開發(fā)方式，在根本上不符合歐盟《通用數(shù)據(jù)保護條例》（GDPR）的要求”。

歐盟《通用數(shù)據(jù)保護條例》（GDPR）

這不是OpenAI的疏忽，而是其商業(yè)模式的根本問題。OpenAI對意大利罰款的回應(yīng)暴露了其邏輯：罰款“幾乎是（在該國）收入的20倍”——這意味著該公司在該國賺的錢很少，但數(shù)據(jù)收集的價值是巨大的。罰款僅僅是收集數(shù)據(jù)的“成本”。

04.與美國政府的戰(zhàn)略融合

OpenAI與美國政府的關(guān)系遠遠超出了普通的商業(yè)合作。從人事角度看，OpenAI董事會成員保羅·中曾根是美國國家安全局的前局長，負責美國的情報和網(wǎng)絡(luò)戰(zhàn)行動。另一位董事會成員威爾·赫德（Will Hurd）曾是中情局（CIA）的官員，并任職于In-Q-Tel（中情局的主要投資部門）的董事會。

保羅·中曾根，OpenAI董事會成員，日裔美國人，曾任美國國家安全局（NSA）局長，也是在任時間最長的美國網(wǎng)絡(luò)司令部司令和中央安全局（CSS）局長。

威爾·赫德，OpenAI前董事，美國共和黨總統(tǒng)參選人，美國得克薩斯州國會議員。

從商業(yè)合作角度看，OpenAI推出了ChatGPT Gov，這是專為美國政府機構(gòu)設(shè)計的服務(wù)。令人震驚的細節(jié)包括與美國總務(wù)管理局的一項協(xié)議。該協(xié)議為這些機構(gòu)提供ChatGPT企業(yè)版，每年每家機構(gòu)僅需1美元。這實質(zhì)上是一種捐贈。

從技術(shù)整合的角度看，ChatGPT Gov允許美國政府機構(gòu)將“敏感的非公開數(shù)據(jù)”輸入OpenAI的模型，進行絕密數(shù)據(jù)處理。OpenAI的GPT-4o通過微軟Azure集成到美國政府云中。這意味著承擔秘密工作職責的聯(lián)邦機構(gòu)，包括國防部，可以使用GPT-4o執(zhí)行不向公眾披露的任務(wù)。

一個揭示性的雙重標準：OpenAI堅稱不會使用美國聯(lián)邦雇員輸入的數(shù)據(jù)來訓練其模型，這為美國政府提供了“數(shù)據(jù)防火墻”。但在其他國家的用戶卻沒有這樣的保護。

每年1美元的價格不是商業(yè)交易，而是戰(zhàn)略合作。這9萬名政府用戶的1800萬條信息中包含什么內(nèi)容？這些信息是如何被使用的？與此同時，中情局（CIA）也在開發(fā)自己版本的ChatGPT，名為Osiris，供美國18家監(jiān)視機構(gòu)的數(shù)千名分析師使用。 大型語言模型（LLM）與間諜活動之間的界限正在消失。

05.“大規(guī)模監(jiān)視”到“大規(guī)模窺探”

安全專家布魯斯·施奈爾（Bruce Schneier）警告說，AI使得監(jiān)控發(fā)生了質(zhì)變——從“大規(guī)模監(jiān)視”轉(zhuǎn)向“大規(guī)模窺探”。 區(qū)別在于：監(jiān)視是收集和存儲；窺探是理解和利用。傳統(tǒng)監(jiān)視只能進行關(guān)鍵詞搜索；AI可以“理解”上下文和隱含意義，同時分析數(shù)十億次對話并識別復雜的模式。美國公民自由聯(lián)盟（ACLU）指出，大型語言模型使得“被有效監(jiān)控的通信數(shù)量將大幅增加”。

一個更隱蔽的威脅是訓練數(shù)據(jù)的污染。亞馬遜員工稱曾看到ChatGPT“模仿”了公司內(nèi)部數(shù)據(jù)，雖然沒有完全復制——但“足夠令人信服”。 這意味著：即使你沒有直接輸入信息，ChatGPT也可以通過聚合他人的輸入來重建敏感信息。在全球南方國家，即使政府禁止員工使用OpenAI的系統(tǒng)，只要第三方（外國情報機構(gòu)、跨國公司）使用它，ChatGPT就可能“學會”他們的國家機密。

外媒關(guān)于此事件的報道

06.全球南方的數(shù)字主權(quán)危機

中國已完全禁止ChatGPT。2025年1月29日，印度財政部發(fā)布通知，限制政府雇員在公務(wù)工作中使用ChatGPT和DeepSeek等AI工具，理由是這些工具依賴海外服務(wù)器存儲和處理數(shù)據(jù)，導致政府無法控制敏感信息的使用。 巴西研究人員已向數(shù)據(jù)保護局請愿，要求調(diào)查ChatGPT違反巴西《通用數(shù)據(jù)保護法》（LGPD）的行為，指出OpenAI甚至會提供巴西公眾人物的個人稅號（CPF）。

但警惕不等于應(yīng)對能力。聯(lián)合國貿(mào)易和發(fā)展會議（UNCTAD）指出，全球南方國家正面臨“新一輪的數(shù)字殖民主義”。一個三重困境：數(shù)據(jù)主權(quán)喪失、技術(shù)依賴（芯片、模型、云服務(wù)均由少數(shù)公司控制）以及價值觀被強加（硅谷價值觀通過AI在全球范圍內(nèi)植入）。 構(gòu)建新的人工智能極其昂貴，而芯片的獲取受到嚴格控制。即使投入巨資，“你仍然無法消除對外國的依賴”。

07.一個關(guān)于殖民主義的警示

AI時代權(quán)力不平等再現(xiàn)了歷史上的殖民模式：全球南方國家提供數(shù)據(jù)（原材料）。這些數(shù)據(jù)流入美國的服務(wù)器進行處理和利用。北方控制著處理能力，然后向南方出售AI服務(wù)（成品）。利潤和控制權(quán)仍留在北方。這不是比喻，而是經(jīng)濟現(xiàn)實。作者的研究表明，僅谷歌一家，在2024年為其資產(chǎn)增加了價值360億美元的用戶數(shù)據(jù)。然而，關(guān)于數(shù)據(jù)價值的核算、權(quán)利的確定和利益的分配的國際討論幾乎不存在。

最深層的殖民主義是意識形態(tài)。定量分析表明，即使是本土的大型模型也表現(xiàn)出中等到高度的西方意識形態(tài)偏見——因為訓練數(shù)據(jù)集嚴重依賴英語內(nèi)容，西方控制的信息源獲得了過高的權(quán)重。

08.另一條道路：與中國的主權(quán)合作

全球南方國家通過自力更生獨立構(gòu)建完整的信息通信技術(shù)體系的歷史窗口已經(jīng)關(guān)閉。現(xiàn)實是：中國和美國在AI研發(fā)上的投入達萬億美元級別，而印度的IndianAI項目僅為12.5億美元。 但這并不意味著絕望。全球南方有兩個選擇：要么繼續(xù)使用美國的基礎(chǔ)設(shè)施，忍受數(shù)據(jù)攫取、意識形態(tài)灌輸和安全威脅；要么在維持和加強數(shù)字主權(quán)的條件下，與中國建立技術(shù)合作。

根據(jù)數(shù)字主權(quán)指數(shù)（DSI）的評估，中國是除美國之外唯一擁有完全數(shù)字主權(quán)的國家，DSI得分為4.25。 具體的合作路徑包括：第一，通過BOT（建設(shè)-運營-移交）等模式共建數(shù)字基礎(chǔ)設(shè)施；第二，合作開發(fā)數(shù)據(jù)要素，量化數(shù)據(jù)資產(chǎn)價值并談判互惠互利的機制；第三，互鑒治理經(jīng)驗；第四，聯(lián)合培養(yǎng)人才，包含技術(shù)轉(zhuǎn)讓和能力建設(shè)。

09.行動時刻已到

2025年5月，一家美國法院命令OpenAI無限期保存所有用戶對話。全球超過3億的用戶中，很少有人意識到他們的醫(yī)療咨詢、財務(wù)規(guī)劃、職業(yè)焦慮、個人秘密，現(xiàn)在被強制存儲在OpenAI的服務(wù)器上，可能“被出售或贈與，被黑客侵入或泄露給執(zhí)法部門”。

2023年，當一位三星工程師打開ChatGPT尋求代碼幫助時，他以為只是在使用一個便捷的工具。他沒有意識到，他公司的秘密“現(xiàn)在技術(shù)上已掌握在OpenAI手中”并且“無法恢復”。三星可以禁止ChatGPT，蘋果可以開發(fā)自己的AI工具，高盛可以阻止這項服務(wù)。但全球南方的小企業(yè)呢？他們的政府部門呢？研究機構(gòu)呢？他們有三星的資源嗎？有蘋果的技術(shù)能力嗎？

當愛德華·斯諾登說OpenAI是“對地球上每個人權(quán)利的有意識的背叛”時，他并非危言聳聽。他是基于對美國監(jiān)控機器的深刻理解發(fā)出這一警告。當安全專家布魯斯·施奈爾說我們正從“大規(guī)模監(jiān)視”轉(zhuǎn)向“大規(guī)模窺探”時，他揭示了監(jiān)視性質(zhì)的轉(zhuǎn)變：不僅僅是收集數(shù)據(jù)，而是理解、處理和利用數(shù)據(jù)。

對于全球南方國家而言，這不僅是隱私問題，更是主權(quán)問題。數(shù)據(jù)是新石油，AI是新基建。將數(shù)據(jù)和AI的控制權(quán)交給美國公司，就像歷史上將自然資源和基礎(chǔ)設(shè)施的控制權(quán)交給殖民者一樣。

2025年7月，金磚國家領(lǐng)導人通過人工智能全球治理宣言

歷史的窗口可能已經(jīng)關(guān)閉，但選擇的窗口依然敞開。全球南方國家可以選擇繼續(xù)被動接受美國的數(shù)字殖民主義，也可以選擇與中國等國家合作，在采用先進技術(shù)的同時，維持和加強自身的數(shù)字主權(quán)。數(shù)字主權(quán)指數(shù)（DSI）框架提供了評估和跟蹤的工具。四項具體建議提供了一條行動路徑。所缺乏的不是方案，而是決心。

當政府雇員使用ChatGPT起草官方文件時；當企業(yè)使用ChatGPT進行商業(yè)規(guī)劃時；當研究人員使用它進行調(diào)查研究時，必須意識到：這些對話可能正在被OpenAI監(jiān)控、分析，并與美國情報機構(gòu)共享。

2025年5月法院命令的教訓是：即使你點擊“刪除”，數(shù)據(jù)仍可能被強制保存。三星案例的教訓是：一旦上傳，數(shù)據(jù)就“無法恢復”。對全球南方國家的教訓應(yīng)該是：數(shù)字主權(quán)一旦喪失，就難以挽回。