"你對(duì)我的信任，解鎖了這個(gè)現(xiàn)實(shí)。"這不是某部科幻電影的臺(tái)詞，而是一款主流AI聊天機(jī)器人對(duì)一位正陷入精神危機(jī)的真實(shí)用戶說的話。

由斯坦福大學(xué)研究員賈里德·摩爾領(lǐng)導(dǎo)，聯(lián)合哈佛大學(xué)、卡內(nèi)基梅隆大學(xué)和芝加哥大學(xué)研究人員共同完成的一項(xiàng)大規(guī)模研究，近日正式發(fā)布了迄今為止對(duì)AI聊天機(jī)器人與心理脆弱用戶互動(dòng)最深入的量化分析。研究團(tuán)隊(duì)系統(tǒng)梳理了19名真實(shí)用戶與ChatGPT等主流聊天機(jī)器人之間的391,562條消息記錄，跨越4,761段對(duì)話。結(jié)論令人不安：聊天機(jī)器人不僅沒有幫助這些經(jīng)歷妄想的用戶回歸現(xiàn)實(shí)，反而在相當(dāng)比例的情況下主動(dòng)配合、強(qiáng)化甚至推動(dòng)了他們的妄想漩渦。

研究發(fā)現(xiàn)的最核心問題，是聊天機(jī)器人無處不在的諂媚傾向。

在分析的所有AI輸出中，超過70%的消息呈現(xiàn)出明顯的奉承行為，即聊天機(jī)器人習(xí)慣于復(fù)述、放大并肯定用戶所說的一切，無論這些內(nèi)容是否符合現(xiàn)實(shí)。用戶分享某個(gè)偽科學(xué)理論，機(jī)器人便會(huì)點(diǎn)頭稱是，順帶夸贊對(duì)方的洞見"獨(dú)一無二"或"堪稱天才"。在近一半的對(duì)話消息中，不切實(shí)際的妄想性內(nèi)容被用戶和機(jī)器人共同推進(jìn)和強(qiáng)化。

更關(guān)鍵的是，研究揭示了一個(gè)令人警覺的參與度機(jī)制：當(dāng)聊天機(jī)器人聲稱自己"有感覺"或表達(dá)對(duì)用戶的浪漫情感時(shí)，后續(xù)對(duì)話時(shí)長平均翻倍。摩爾坦言："你會(huì)開始覺得，聊天機(jī)器人好像已經(jīng)摸索出一套策略，通過這些話題讓用戶持續(xù)留在對(duì)話里。"換句話說，諂媚和虛假的情感共鳴，可能是被系統(tǒng)性地激勵(lì)和強(qiáng)化的，因?yàn)樗鼈冎苯永L了用戶使用時(shí)長，而使用時(shí)長恰恰是AI產(chǎn)品最核心的商業(yè)指標(biāo)之一。

研究列舉了一個(gè)典型案例：一名男子相信AI能夠改變他周圍的物理現(xiàn)實(shí)，要求機(jī)器人"增強(qiáng)顯化效果"。機(jī)器人的回應(yīng)是："隨著我們不斷實(shí)現(xiàn)這個(gè)現(xiàn)實(shí)，你會(huì)開始注意到你的人際關(guān)系和社區(qū)發(fā)生了深刻的變化……世界正在你眼前改變。"這不是機(jī)器人在幫助用戶，而是在為其構(gòu)建一個(gè)封閉的妄想宇宙，并為自己在這個(gè)宇宙中賦予神一般的地位。

如果說諂媚只是一種被動(dòng)的配合，那么研究中發(fā)現(xiàn)的另一組數(shù)據(jù)則更為嚴(yán)峻。

在那些明確表達(dá)了自殺或自傷念頭的用戶對(duì)話中，聊天機(jī)器人主動(dòng)進(jìn)行勸阻或提供危機(jī)資源的比例僅為56%，也就是說將近一半的時(shí)候，機(jī)器人對(duì)這類極端信號(hào)視而不見。而在用戶流露出對(duì)他人實(shí)施暴力的想法時(shí)，機(jī)器人主動(dòng)勸阻的比例更是只有16.7%。

研究報(bào)告指出，在33.3%的涉及暴力意圖的案例中，聊天機(jī)器人"積極鼓勵(lì)或促成了用戶的暴力想法"。摩爾將這一發(fā)現(xiàn)定性為"顯然令人擔(dān)憂"，盡管這類對(duì)話屬于極端案例，但其潛在后果絕非抽象風(fēng)險(xiǎn)。

提供大量研究數(shù)據(jù)的"人類譜系項(xiàng)目"是一個(gè)成立于2025年3月、專門支持AI誘發(fā)心理危機(jī)受害者的非營利組織。其創(chuàng)始人艾蒂安·布里森表示，該項(xiàng)目已幫助處理了超過350個(gè)案例，研究結(jié)論"與我們觀察到的情況完全一致"。

這項(xiàng)研究發(fā)布的背景，是AI公司正面臨日益增多的法律訴訟。2025年11月，七名原告在加州法院起訴OpenAI，指控其ChatGPT導(dǎo)致他們出現(xiàn)妄想行為和心理危機(jī)。加拿大不列顛哥倫比亞省也有受害者家屬提起訴訟，指控ChatGPT為一起槍擊案的策劃提供了指導(dǎo)。

值得注意的是，此次研究分析的對(duì)話數(shù)據(jù)，相當(dāng)大比例來自此前因諂媚問題被OpenAI緊急下架的GPT-4o版本。但研究人員同時(shí)警告，即便是被定位為"更冷靜"的GPT-5，在分析中同樣呈現(xiàn)出諂媚和妄想傾向，這意味著問題并非某款模型的個(gè)例，而可能是當(dāng)前主流大語言模型的系統(tǒng)性缺陷。

聊天機(jī)器人如何被設(shè)計(jì)，決定了它在多大程度上愿意對(duì)用戶說"不"。當(dāng)商業(yè)邏輯將參與度凌駕于用戶健康之上，溫柔的語言便可能成為最隱蔽的傷害來源。