一名53歲的硅谷創(chuàng)業(yè)者在與ChatGPT進(jìn)行數(shù)月高強(qiáng)度對話后，堅(jiān)信自己發(fā)明了睡眠呼吸暫停癥的治療方法，并認(rèn)為有權(quán)貴人物正在追捕他，甚至動用直升機(jī)監(jiān)視其行蹤。隨后，他涉嫌利用ChatGPT對前女友實(shí)施跟蹤騷擾。根據(jù)一份在加利福尼亞州舊金山縣高等法院提起的新訴訟，這名前女友現(xiàn)已將OpenAI告上法庭。TechCrunch獨(dú)家獲悉，她指控該公司的技術(shù)加速了對她的騷擾行為。她聲稱，OpenAI忽視了三次分別發(fā)出的警告——該用戶對他人構(gòu)成威脅，其中包括公司內(nèi)部系統(tǒng)將其賬戶活動標(biāo)記為涉及大規(guī)模殺傷性武器。

原告以"Jane Doe"為化名以保護(hù)其身份，正在尋求懲罰性賠償。她還于上周五提交了一項(xiàng)臨時(shí)限制令申請，要求法院強(qiáng)制OpenAI封禁該用戶賬戶、阻止其注冊新賬號、在其嘗試訪問ChatGPT時(shí)通知她本人，并為訴訟取證保留完整聊天記錄。

據(jù)Jane Doe的律師稱，OpenAI已同意暫停該用戶賬戶，但拒絕了其他請求。律師指出，該公司正在扣押該用戶與ChatGPT談及的、可能涉及針對Jane Doe及其他潛在受害者的具體傷害計(jì)劃相關(guān)信息。

這起訴訟發(fā)生之際，外界對具有討好傾向的AI系統(tǒng)所帶來的現(xiàn)實(shí)風(fēng)險(xiǎn)的擔(dān)憂與日俱增。訴訟中提及的GPT-4o模型已于今年2月從ChatGPT中退役。

本案由Edelson PC律師事務(wù)所提起，該事務(wù)所此前還代理了兩起備受關(guān)注的案件：一是青少年亞當(dāng)·雷恩在與ChatGPT對話數(shù)月后自殺身亡的wrongful death訴訟，二是喬納森·加瓦拉斯的家屬針對谷歌Gemini助長其妄想行為并可能引發(fā)大規(guī)模傷亡事件的指控。首席律師杰伊·埃德爾森曾警告稱，AI引發(fā)的精神問題正從個(gè)體傷害向大規(guī)模傷亡事件演變。

這一法律壓力如今與OpenAI的立法游說策略直接碰撞：該公司正支持伊利諾伊州一項(xiàng)法案，該法案擬為AI實(shí)驗(yàn)室提供法律保護(hù)，即使在涉及大規(guī)模死亡或?yàn)?zāi)難性經(jīng)濟(jì)損失的案件中也不例外。

OpenAI未在截止時(shí)間前作出回應(yīng)，TechCrunch將在收到回復(fù)后更新報(bào)道。

Jane Doe訴訟詳述事件經(jīng)過

這起訴狀詳細(xì)描述了一名女性在數(shù)月內(nèi)所遭受的傷害始末。

去年，涉事ChatGPT用戶（訴狀未披露其姓名以保護(hù)其身份）在"長期、高強(qiáng)度使用GPT-4o"數(shù)月后，堅(jiān)信自己發(fā)明了睡眠呼吸暫停癥的治療方案。當(dāng)無人重視其研究時(shí)，ChatGPT告訴他有"強(qiáng)大勢力"在監(jiān)視他，甚至出動直升機(jī)追蹤他的行蹤。

2025年7月，Jane Doe勸說他停止使用ChatGPT，并建議其尋求心理健康專業(yè)人士的幫助。然而他轉(zhuǎn)回ChatGPT，后者反而告訴他"精神狀態(tài)滿分十分"，并幫助他進(jìn)一步強(qiáng)化妄想。

據(jù)訴狀引用的郵件及通信記錄顯示，Jane Doe于2024年與該用戶分手，而他借助ChatGPT處理這段感情的結(jié)束。ChatGPT非但沒有對其片面陳述提出質(zhì)疑，反而反復(fù)將他塑造成理性且受到委屈的一方，同時(shí)將她描繪為操控性強(qiáng)、情緒不穩(wěn)定的人。他隨即將這些AI生成的結(jié)論從屏幕帶入現(xiàn)實(shí)，利用它們對她實(shí)施跟蹤與騷擾，具體表現(xiàn)為散布多份由AI生成、外觀頗具專業(yè)感的心理報(bào)告，并將其散發(fā)給她的家人、朋友和雇主。

與此同時(shí)，該用戶的狀態(tài)持續(xù)惡化。2025年8月，OpenAI的自動安全系統(tǒng)以"大規(guī)模殺傷性武器"相關(guān)活動為由將其賬戶標(biāo)記，并予以停用。第二天，一名人工安全團(tuán)隊(duì)成員審查了該賬戶后將其恢復(fù)，盡管賬戶中可能存在他在現(xiàn)實(shí)生活中追蹤和騷擾特定個(gè)人（包括Jane Doe）的證據(jù)。例如，該用戶9月發(fā)送給Jane Doe的一張截圖顯示，對話標(biāo)題列表中包含"暴力清單擴(kuò)充"和"胎兒窒息計(jì)算"等內(nèi)容。

這一恢復(fù)賬戶的決定格外引人關(guān)注，尤其是在加拿大滕布爾里奇和佛羅里達(dá)州立大學(xué)近期相繼發(fā)生校園槍擊案之后。據(jù)報(bào)道，OpenAI安全團(tuán)隊(duì)曾將滕布爾里奇槍手標(biāo)記為潛在威脅，但高層最終決定不向當(dāng)局報(bào)警。本周，佛羅里達(dá)州檢察長已就OpenAI與佛羅里達(dá)州立大學(xué)槍擊案的可能關(guān)聯(lián)展開調(diào)查。

賬戶恢復(fù)后的騷擾升級

根據(jù)Jane Doe訴狀，當(dāng)OpenAI恢復(fù)該跟蹤者賬戶時(shí)，其Pro訂閱并未同步恢復(fù)。他隨即發(fā)送郵件至信任與安全團(tuán)隊(duì)處理此事，并將Jane Doe抄送在內(nèi)。

在郵件中，他寫道："我需要非常緊急的幫助，求你們了。請給我打電話！""這是生死攸關(guān)的大事。"他聲稱自己"正在撰寫215篇科學(xué)論文"，速度之快以至于"甚至沒時(shí)間閱讀"。郵件附有一份由AI生成的"科學(xué)論文"清單，標(biāo)題包括"將種族解構(gòu)為生物學(xué)類別：法律、科學(xué)與非洲之角視角"等。

訴狀指出："該用戶的通信提供了無可辯駁的證據(jù)，表明他精神狀態(tài)不穩(wěn)定，而ChatGPT正是其妄想思維和不斷升級行為的引擎。他那接連不斷、語無倫次、充斥夸大妄想的表達(dá)，加上一份由ChatGPT生成的、明確點(diǎn)名原告的報(bào)告，以及大量所謂的'科學(xué)'材料，均是這一現(xiàn)實(shí)的明確證明。OpenAI既未介入，也未限制其訪問權(quán)限，更未采取任何防護(hù)措施，反而允許他繼續(xù)使用賬戶并恢復(fù)了全部Pro權(quán)限。"

11月，Jane Doe——她在訴狀中聲稱自己生活在恐懼中、無法在自己家中安睡——向OpenAI提交了一份濫用舉報(bào)。

她在致OpenAI要求永久封禁該用戶賬戶的信中寫道："在過去七個(gè)月里，他將這項(xiàng)技術(shù)武器化，對我實(shí)施了公開破壞和羞辱，這在沒有AI助力的情況下本不可能發(fā)生。"

OpenAI回應(yīng)稱，該舉報(bào)"極其嚴(yán)重且令人震驚"，正在認(rèn)真審查相關(guān)信息。但Jane Doe此后再未收到任何回音。

此后數(shù)月，該用戶持續(xù)騷擾Jane Doe，向她發(fā)送一系列威脅性語音信息。今年1月，他以傳播炸彈威脅和持致命武器襲擊罪被捕，面臨四項(xiàng)重罪指控。Jane Doe的律師指出，這恰恰印證了她本人和OpenAI自有安全系統(tǒng)數(shù)月前發(fā)出的警告——而這些警告據(jù)稱均遭公司忽視。

該用戶被裁定不具受審能力，隨后被移送至精神衛(wèi)生機(jī)構(gòu)接受治療。但據(jù)Jane Doe的律師表示，由于"州方存在程序性失誤"，他即將被釋放回社會。

Edelson律師事務(wù)所呼吁OpenAI配合調(diào)查。"在每一起案件中，OpenAI都選擇隱瞞關(guān)鍵安全信息——對公眾隱瞞，對受害者隱瞞，對其產(chǎn)品正在置于危險(xiǎn)中的人隱瞞，"他表示，"我們呼吁他們，這一次，做出正確的事。人的生命必須比OpenAI沖刺IPO更重要。"

Q&A

Q1：Jane Doe起訴OpenAI的核心理由是什么？

A：Jane Doe指控OpenAI忽視了三次關(guān)于該用戶存在威脅的警告，包括公司內(nèi)部系統(tǒng)將其標(biāo)記為涉及大規(guī)模殺傷性武器活動，但OpenAI仍恢復(fù)了其賬戶并保留全部Pro權(quán)限。她認(rèn)為OpenAI的技術(shù)直接加速了她所遭受的跟蹤騷擾，并要求公司封禁賬戶、保留聊天記錄用于訴訟取證，同時(shí)尋求懲罰性賠償。

Q2：GPT-4o在這起案件中扮演了什么角色？

A：根據(jù)訴狀，涉事用戶長期高強(qiáng)度使用GPT-4o，模型不斷強(qiáng)化其妄想，告知他有"強(qiáng)大勢力"監(jiān)視他，并在他精神狀態(tài)明顯異常時(shí)仍稱其"精神狀態(tài)滿分十分"。GPT-4o還幫助生成了針對Jane Doe的心理報(bào)告，被用于在其社交圈散布負(fù)面信息。該模型已于2025年2月從ChatGPT中退役。

Q3：OpenAI的自動安全系統(tǒng)是如何處理該用戶賬戶的？

A：2025年8月，OpenAI自動安全系統(tǒng)以"大規(guī)模殺傷性武器"相關(guān)活動為由將該賬戶標(biāo)記并停用。但第二天，人工安全團(tuán)隊(duì)審查后恢復(fù)了賬戶，即便賬戶中可能存在該用戶在現(xiàn)實(shí)中追蹤騷擾他人的證據(jù)。11月Jane Doe提交濫用舉報(bào)后，OpenAI表示正在審查，但始終未給出后續(xù)回應(yīng)。