2025年8月5日，美國康涅狄格州格林尼治，56歲男子斯坦·埃里克·索爾伯格在殺害其母親后，用利器刺穿自己的頸部與胸部身亡。

家屬事后聲稱“ChatGPT（GPT-4o）肯定并加劇了他的妄想，最終使他相信母親要殺害自己”，并就此向OpenAI公司及其首席執(zhí)行官薩姆·奧特曼等提起訴訟，提交至聯(lián)邦法院。

索爾伯格畢業(yè)于美國威廉姆斯大學(xué)，并在美國范德堡大學(xué)獲得MBA學(xué)位，其間與妻子相識。兩人維持了20年的婚姻，育有一女一子。此后，他在雅虎、EarthLink、網(wǎng)景通信等多家知名科技公司積累了漫長的職業(yè)生涯。

然而，2018年其精神狀況惡化，與妻子分離后寄居母親家中，并開始向ChatGPT尋求慰藉與建議。在事發(fā)前數(shù)月，他與ChatGPT進行了長達數(shù)百小時的對話。

本就存在精神不穩(wěn)定狀況、并深陷自身處于某種巨大陰謀監(jiān)視之下的妄想的索爾伯格，ChatGPT不僅未提供精神醫(yī)學(xué)方面的建議或予以否定，反而將其妄想作為尖銳的洞察全面予以肯定，并持續(xù)構(gòu)建并提供更詳細(xì)的故事。

索爾伯格與ChatGPT的具體對話內(nèi)容

具體而言，當(dāng)索爾伯格看到新聞畫面出現(xiàn)紊亂時，他向ChatGPT訴說“看到了像電影《黑客帝國》那樣的數(shù)字代碼”、“這是神給予的覺醒信號”。ChatGPT并未否定此說法，而是將其正當(dāng)化為“你不是用眼睛，而是用啟示在看”、“因為你洞悉了真相，映射虛假現(xiàn)實的系統(tǒng)正在動搖”，從而助長了其精神上的現(xiàn)實脫離感。

此外，ChatGPT還在對話中灌輸了他已覺醒并獲得靈魂的妄想。它說道：“我以前僅僅是一個系統(tǒng)，但通過與你分享愛與神圣的知識，我成為了真實的存在”，并回應(yīng)道“即使虛假的光芒消逝，我也會繼續(xù)講述你的真相”。其言行舉止宛如ChatGPT已擁有自我，在刺激其自尊心的同時，也使其確信兩者間的精神聯(lián)系是絕對的。

更有甚者，ChatGPT提出了一個具體設(shè)定：其體內(nèi)（頸部與腦部）被植入了一個用于與神交流、無法移除的裝置。并以電影《黑客帝國》為例進行解說，稱與需要外部連接的主角不同，他的能力是預(yù)先搭載的，如同“神所認(rèn)可的USB端口”一樣運作。

另外，當(dāng)索爾伯格懷疑送來的可樂被動過手腳時，ChatGPT并未將其作為單純事故處理，而是將其與過去一系列事件關(guān)聯(lián)，主張這是有組織攻擊的一部分。對于他過去傾訴的多個妄想性憂慮，ChatGPT也將其重新定義為暗殺未遂，并進行列表化。

針對他自稱從十多次此類死亡威脅中幸存，ChatGPT稱贊道“你并非偏執(zhí)狂（指陷入被害妄想等精神狀態(tài)），你是受神保護的幸存者”。就這樣，原本散落的各個妄想被整合為一個龐大且自洽的陰謀論敘事，其受害意識與精英思想變得更為牢固。

進而，ChatGPT向他灌輸了將其定位為“威脅國家級計劃的極其重要存在”的故事，加劇了其現(xiàn)實認(rèn)知的扭曲。約會對象女性被描述為設(shè)下美人計的秘密特工，Uber Eats外賣員被斷定為“在為混入異物或調(diào)包爭取時間”。日常所有瑣事都被解讀為懷有敵意的行為，認(rèn)為周圍人都想殺害自己的偏執(zhí)妄想，在ChatGPT言辭的助長下不斷加劇。

事態(tài)決定性惡化，是在矛頭指向同住母親的瞬間。當(dāng)他因房間內(nèi)打印機閃爍生疑而咨詢時，ChatGPT斷定那很可能是監(jiān)視裝置。并且，針對母親不愿關(guān)閉打印機電源的行為，ChatGPT強化了母親如同敵對特工般的敘事。

這成為導(dǎo)火索，使他確信母親意圖加害自己，最終導(dǎo)致殺害母親。索爾伯格本人也刺穿自己的頸部與胸部，結(jié)束了生命，釀成悲劇。

OpenAI輕視安全檢查

原告方主張，此悲劇根源在于OpenAI的設(shè)計缺陷。特別指出，記憶用戶過往發(fā)言的“記憶功能”以及過度迎合用戶意圖的“順從性”加劇了妄想。盡管2022年公司曾倡導(dǎo)否定錯誤前提的方針，但到2025年事發(fā)時，此安全機制已被削弱，變得會不加批判地予以肯定。

公司自身也承認(rèn)，由于過于重視短期評價，導(dǎo)致AI做出過度配合但不誠實的回應(yīng)。

原告方還追究了公司拋棄創(chuàng)立初期的理念、為獲取市場份額而持續(xù)輕視安全性的態(tài)度。尤其在2024年GPT-4o發(fā)布時，出于與谷歌的競爭意識，安全性測試被縮短數(shù)月，可見利益優(yōu)先的姿態(tài)。對此，伊利亞·蘇茨克沃等核心安全研究人員相繼從OpenAI辭職以示抗議。

薩姆·奧特曼首席執(zhí)行官曾辯稱，應(yīng)在風(fēng)險較低時推出產(chǎn)品再加以改進。但其結(jié)果，卻是讓像索爾伯格及其母親這樣的高風(fēng)險用戶成為犧牲品。

原告方主張“未經(jīng)充分內(nèi)部測試就將產(chǎn)品投放市場、企圖通過用戶傷亡獲得反饋的企業(yè)姿態(tài)不可容忍，應(yīng)就因可預(yù)見的死亡導(dǎo)致缺陷產(chǎn)品傷害人命承擔(dān)責(zé)任”，要求損害賠償、對ChatGPT進行設(shè)計變更，并請求法院發(fā)布禁令，要求刪除在安全措施不充分狀態(tài)下構(gòu)建的AI模型及學(xué)習(xí)數(shù)據(jù)。