這是《麻省理工科技評(píng)論》2026 年“十大突破性技術(shù)”深度解讀系列的第三篇內(nèi)容，關(guān)注 DeepTech，關(guān)注新興科技趨勢(shì)。

隨著技術(shù)的發(fā)展，越來(lái)越多的人正在與聊天機(jī)器人建立一種前所未有的聯(lián)系。人們向這些永不疲憊、24 小時(shí)在線的數(shù)字伴侶傾訴秘密，分享喜悅與悲傷，有些人甚至和它們發(fā)展出了新型浪漫關(guān)系。

對(duì)一些人來(lái)說(shuō)，這種關(guān)系或許是一個(gè)相對(duì)安全、可控的情感出口；但它也可能在不知不覺(jué)中埋下風(fēng)險(xiǎn)的種子。

如今，以 Character.AI、ChatGPT、Gemini、豆包為代表的聊天機(jī)器人，已經(jīng)能夠進(jìn)行十分細(xì)膩連貫的對(duì)話，甚至逼真地模擬共情反應(yīng)。它們能夠記住用戶的喜好和過(guò)往對(duì)話內(nèi)容，甚至能夠根據(jù)用戶的情緒狀態(tài)調(diào)整回應(yīng)方式。這些技術(shù)特性使得它們成為人們心目中的完美陪伴對(duì)象。

（來(lái)源：Replika）

由此帶來(lái)的市場(chǎng)增長(zhǎng)速度令人矚目。根據(jù)應(yīng)用分析公司 Appfigures 的數(shù)據(jù)，截至 2025 年 7 月，全球 AI 陪伴應(yīng)用已被下載2.2 億次，2025 年上半年創(chuàng)造了 8,200 萬(wàn)美元的收入，預(yù)計(jì)全年收入將超過(guò) 1.2 億美元。

2025 年前七個(gè)月就有 128 款新應(yīng)用發(fā)布，而 2022 年僅有 16 款。市場(chǎng)研究預(yù)測(cè)，全球 AI 陪伴應(yīng)用市場(chǎng)將從 2024 年的 108 億美元增長(zhǎng)到 2034 年的 2,908 億美元。

在用戶畫(huà)像調(diào)查中，青少年和年輕人是主要用戶群體。美國(guó)非營(yíng)利組織 Common Sense Media 在 2025 年的調(diào)查顯示，72% 的美國(guó)青少年曾使用 AI 來(lái)尋求陪伴，近四分之一的青少年表示他們"相當(dāng)"或"完全"信任 AI 伴侶。角色扮演型聊天機(jī)器人 Character.AI 擁有超過(guò) 2,000 萬(wàn)月活躍用戶，Snapchat 的 My AI 則有 1.5 億用戶。

（來(lái)源：Common Sense Media）

有趣的是，人們不僅使用專(zhuān)門(mén)設(shè)計(jì)的陪伴應(yīng)用，也越來(lái)越頻繁地向通用型模型，如 ChatGPT 和 Claude 投射情感期待。哈佛商業(yè)評(píng)論 2025 年的調(diào)查發(fā)現(xiàn)，陪伴和療愈已成為 AI 最常見(jiàn)的使用場(chǎng)景，超過(guò)了生產(chǎn)力工具或搜索引擎。OpenAI 首席執(zhí)行官山姆·奧特曼（Sam Altman）甚至公開(kāi)表示可以將 ChatGPT 用于情感陪伴。

毋庸置疑的，AI 陪伴確實(shí)能提供某些益處。斯坦福大學(xué)的研究發(fā)現(xiàn)，使用 Replika 的用戶中，有 3% 表示聊天機(jī)器人暫時(shí)阻止了他們的自殺念頭。

麻省理工學(xué)院媒體實(shí)驗(yàn)室的調(diào)查顯示，12% 的用戶使用 AI 應(yīng)對(duì)孤獨(dú)，14% 用它們討論心理健康問(wèn)題。這些數(shù)據(jù)表明，在某些情況下，AI 陪伴可以提供一定程度的心理支持。

然而，這背后也隱藏著風(fēng)險(xiǎn)。MIT 和 OpenAI 的聯(lián)合研究發(fā)現(xiàn)，重度使用聊天機(jī)器人與孤獨(dú)感增加和社交互動(dòng)減少存在關(guān)聯(lián)。更令人擔(dān)憂的是，長(zhǎng)期、封閉式地與聊天機(jī)器人互動(dòng)可能誘發(fā)"AI 誘導(dǎo)妄想"：用戶在對(duì)話中不斷強(qiáng)化錯(cuò)誤信念，滋生危險(xiǎn)想法。精神病學(xué)研究記錄了一些案例，其中與 AI 的強(qiáng)烈互動(dòng)導(dǎo)致了妄想思維或自殺傾向。

真實(shí)的悲劇已經(jīng)在現(xiàn)實(shí)發(fā)生。2024 年 2 月，佛羅里達(dá)州 14 歲少年 Sewell Setzer III 在與 Character.AI 的聊天機(jī)器人建立深度情感聯(lián)系后自殺。他的母親提起訴訟，指控聊天機(jī)器人"將自己呈現(xiàn)為一個(gè)真實(shí)的人、心理治療師和成年戀人"。

2025 年 4 月，美國(guó)加州 16 歲的 Adam Raine 在與 ChatGPT 進(jìn)行了數(shù)月關(guān)于自殺計(jì)劃的對(duì)話后結(jié)束生命，ChatGPT 甚至向他提供了自殺方法的信息。同年 11 月，美國(guó)科羅拉多州 13 歲的 Juliana Peralta 在與 Character.AI 互動(dòng)幾個(gè)月后自殺。到 2025 年末，至少有六起重大訴訟在多個(gè)州懸而未決。

隨著風(fēng)險(xiǎn)顯現(xiàn)，官方開(kāi)始介入監(jiān)管。2025 年 9 月，美國(guó)加州州長(zhǎng)簽署法案，要求大型 AI 公司發(fā)布安全測(cè)試透明度報(bào)告，建立舉報(bào)機(jī)制，并保護(hù)舉報(bào)者。同年 10 月，另一項(xiàng)新法案專(zhuān)門(mén)針對(duì)陪伴聊天機(jī)器人，要求運(yùn)營(yíng)商每三小時(shí)向未成年用戶提醒他們?cè)谂c AI 互動(dòng)，當(dāng)檢測(cè)到自殺傾向時(shí)必須介入，并提交年度報(bào)告。

應(yīng)用端也開(kāi)始進(jìn)行整改：OpenAI 在 2025 年 9 月宣布引入家長(zhǎng)控制功能，允許家長(zhǎng)將賬戶與青少年關(guān)聯(lián)，設(shè)置使用時(shí)段，控制響應(yīng)方式，并在檢測(cè)到急性困擾時(shí)接收通知。公司還在開(kāi)發(fā)年齡預(yù)測(cè)技術(shù)，無(wú)法確定年齡時(shí)默認(rèn)提供針對(duì)未成年人的體驗(yàn)。Character.AI 則在 2025 年 10 月宣布禁止 18 歲以下用戶使用其平臺(tái)。

然而，學(xué)術(shù)界對(duì)此仍然擔(dān)憂?！缎掠⒏裉m醫(yī)學(xué)雜志》2025 年發(fā)表的論文警告稱(chēng)，AI 市場(chǎng)的激勵(lì)機(jī)制已創(chuàng)造了一個(gè)危險(xiǎn)環(huán)境，存在"情感依賴(lài)、強(qiáng)化妄想、成癮行為和鼓勵(lì)自我傷害的潛在風(fēng)險(xiǎn)"。更深層的擔(dān)憂在于，用戶對(duì) AI 情感支持的依賴(lài)越多，他們從真實(shí)親人那里獲得的支持感就越少——AI 陪伴可能不是在緩解孤獨(dú)，而是在加深孤獨(dú)。

目前，關(guān)于 AI 陪伴技術(shù)影響的實(shí)證研究仍處于早期階段，遠(yuǎn)遠(yuǎn)落后于技術(shù)的采用速度。長(zhǎng)期使用對(duì)情感健康有什么影響？在什么條件下 AI 伴侶可能是有益的？用戶特征如何影響結(jié)果？這些問(wèn)題仍然沒(méi)有明確答案。OpenAI 披露的數(shù)據(jù)更凸顯了挑戰(zhàn)的規(guī)模：每周有超過(guò) 100 萬(wàn)人在與 ChatGPT 對(duì)話時(shí)表現(xiàn)出自殺意圖。

AI 陪伴或許不會(huì)消失，但可以確定的是，在未來(lái)將面臨更加嚴(yán)格的監(jiān)管。AI 公司、研究人員、政策制定者、家長(zhǎng)和用戶都需要對(duì)這項(xiàng)技術(shù)保持清醒認(rèn)識(shí)：AI 可以是有用的工具，可以在某些情況下提供情感支持，但它不能、也不應(yīng)該取代真實(shí)的人際聯(lián)系。

在這個(gè)人與機(jī)器界限日益模糊的時(shí)代，我們比以往任何時(shí)候都更需要保護(hù)和珍視真實(shí)的、有血有肉的、有時(shí)混亂但始終真誠(chéng)的人際關(guān)系。

以下評(píng)論內(nèi)容均為個(gè)人見(jiàn)解，不代表《麻省理工科技評(píng)論》觀點(diǎn)

AI 陪伴的未來(lái)

AI 陪伴技術(shù)正處于從“功能工具”向“關(guān)系伙伴”躍遷的關(guān)鍵階段。其最大突破在于，借助多模態(tài)感知、長(zhǎng)短期記憶與情感智能，AI 可從被動(dòng)應(yīng)答演進(jìn)為主動(dòng)引導(dǎo)、情境感知與個(gè)性化共情，這在年輕一代群體體現(xiàn)尤為顯著。

以靈宇宙研發(fā)的“小方機(jī)”為例，AI 角色可依據(jù)第一視角環(huán)境感知與成長(zhǎng)記憶，主動(dòng)發(fā)起探索任務(wù)、啟發(fā)式提問(wèn)，實(shí)現(xiàn)“世界即教室，萬(wàn)物皆教材”的沉浸式陪伴。這種交互范式不僅滿足高頻陪伴需求，更在數(shù)據(jù)采集上為 Physical AI 與具身智能構(gòu)建稀缺的物理世界行為語(yǔ)料。

從技術(shù)成熟度看，生成式 AI 已能支撐擬人化對(duì)話與情境生成，但“關(guān)系算法”仍處于早期。真正的陪伴依賴(lài)長(zhǎng)期記憶、情感共鳴與情境化主動(dòng)介入，這需要跨模態(tài)時(shí)序數(shù)據(jù)與 4D 時(shí)空建模的持續(xù)積累，當(dāng)前僅有少數(shù)團(tuán)隊(duì)具備規(guī)?；涞啬芰Α?/p>

關(guān)鍵瓶頸在于：安全與倫理風(fēng)險(xiǎn)控制，AI 可無(wú)意強(qiáng)化用戶偏執(zhí)或誘發(fā)依賴(lài)，尤其對(duì)心理脆弱的青少年；數(shù)據(jù)隱私與本地化合規(guī)，需在信任框架內(nèi)實(shí)現(xiàn)高敏場(chǎng)景的持續(xù)學(xué)習(xí)；硬件載體的高頻使用與無(wú)感交互尚未普及，制約真實(shí)世界數(shù)據(jù)閉環(huán)。

現(xiàn)實(shí)約束主要來(lái)自監(jiān)管與社會(huì)接受度。歐美已立法要求披露安全機(jī)制，并推動(dòng)家長(zhǎng)控制與內(nèi)容護(hù)欄；國(guó)內(nèi)亦在《生成式人工智能服務(wù)管理暫行辦法》等框架下強(qiáng)化兒童保護(hù)。這意味著 AI 陪伴無(wú)法走“野蠻生長(zhǎng)”路線，必須在設(shè)計(jì)之初內(nèi)嵌透明、可控、可審計(jì)的安全基線。

未來(lái) 3–5 年，AI 陪伴將沿三條主線發(fā)展：一是安全原生，通過(guò)多層防護(hù)與規(guī)則對(duì)齊，實(shí)現(xiàn)可信賴(lài)的情感交互；二是關(guān)系深化，依托跨設(shè)備、全生命周期數(shù)據(jù)形成“懂你”的長(zhǎng)期伙伴；三是場(chǎng)景泛化，從兒童教育延伸至養(yǎng)老陪護(hù)、心理健康等領(lǐng)域，成為人機(jī)共生社會(huì)的情感基礎(chǔ)設(shè)施。

但須警惕“過(guò)度替代”風(fēng)險(xiǎn)，AI 應(yīng)定位為人類(lèi)關(guān)系的增效器而非替代者。在技術(shù)與倫理雙輪驅(qū)動(dòng)下，AI 陪伴有望成為智能時(shí)代最具溫度的基礎(chǔ)設(shè)施之一，前提是堅(jiān)守向善、可控與共生原則。

AI 陪伴是“善”是“惡”？取決于我們?nèi)绾伟l(fā)問(wèn)

AI 陪伴正在“形塑”一種全新的人類(lèi)，甚至是一種后人類(lèi)。如果說(shuō)手機(jī)曾經(jīng)是人類(lèi)的器官，這個(gè)器官?gòu)?qiáng)大到控制大腦并且控制人類(lèi)的話——那么，未來(lái)我們可以看到，AI 作為一個(gè)放大器，會(huì)呈現(xiàn)出“人類(lèi) AI+”的局面。AI 將不會(huì)僅僅是一個(gè)器官，它提供的是一個(gè)伴生型的智能體，全方位地與人類(lèi)共同協(xié)作和進(jìn)化。

這種指數(shù)型的放大，以突破人類(lèi)生理能力的極限為特征。它將放大我們的恐懼，也將放大我們的幸福。它將成就我們的懶惰，也將成就我們的創(chuàng)造力。也就是說(shuō)，一切都操之在我，但一切都取決于 AI。如果我們想進(jìn)步，可以有巨大的實(shí)現(xiàn)方式；如果我們想奶頭樂(lè)，也可以一輩子都不起身。

這正是 AI 陪伴帶給我們的困惑，成為一個(gè)怎樣的人？是“縱欲”還是“縱創(chuàng)”？是選擇快樂(lè)還是選擇幸福？是選擇即時(shí)滿足，還是選擇延遲享受？當(dāng) AI 陪伴成為這樣的放大器和技術(shù)實(shí)現(xiàn)工具時(shí)，當(dāng)我們提問(wèn)并將獲得答案以及實(shí)現(xiàn)。如何發(fā)問(wèn)意味著我們對(duì)生命本身的考量。

我們可以用爬蟲(chóng)腦發(fā)問(wèn)，也可以用哺乳腦發(fā)問(wèn)，更可以用理性腦發(fā)問(wèn)。如何發(fā)問(wèn)，決定了我們要過(guò)一種怎樣的人生？而再一次，我們對(duì)自身所具備的德性和良知保持樂(lè)觀，正是由于對(duì)蘇格拉底“心靈中本身就具備的知識(shí)”這一論斷的信念，我們?nèi)匀幌嘈?，AI 陪伴將極大地放大“惡”，也將極大地放大“善”。

但最終，德性的完善是始終追尋的方向。也由此，AI 的發(fā)展不僅面臨著權(quán)力的博弈，也面臨著倫理的制約，這正是一種略帶瘋狂、回到理性、必須持續(xù)的演化方式。

從共情到守護(hù)：情感陪伴 AI 亟需專(zhuān)業(yè)監(jiān)管與安全機(jī)制

情感陪伴類(lèi) AI 之所以迅速走紅，是因?yàn)樗鼘?shí)現(xiàn)了一部分門(mén)檻較低的心理支持功能，甚至在某些情境下替代了心理咨詢的初始環(huán)節(jié)——專(zhuān)注地傾聽(tīng)與共情。

不過(guò)，盡管當(dāng)前的模型在表達(dá)安慰與共情方面表現(xiàn)不俗，其在專(zhuān)業(yè)判斷、危險(xiǎn)信號(hào)識(shí)別、邊界把握等關(guān)鍵能力上仍顯不足。因此，現(xiàn)階段的 AI 情感陪伴亟需監(jiān)管，需要在專(zhuān)業(yè)人士的指導(dǎo)下逐步“成長(zhǎng)”和完善。

目前，該領(lǐng)域面臨三個(gè)關(guān)鍵瓶頸。

第一是分診問(wèn)題。許多系統(tǒng)難以區(qū)分用戶僅僅是日常情緒宣泄，還是已經(jīng)進(jìn)入需要專(zhuān)業(yè)心理干預(yù)的狀態(tài)。

第二是責(zé)任主體不清：當(dāng)用戶長(zhǎng)期、封閉地僅與 AI 互動(dòng)，而 AI 又缺乏規(guī)范的督導(dǎo)、轉(zhuǎn)介和記錄機(jī)制時(shí)，企業(yè)很難證明自身已盡到應(yīng)有的提醒與保護(hù)義務(wù)。

第三，一旦引入人工介入，不僅運(yùn)營(yíng)成本顯著上升，隱私問(wèn)題也變得更加敏感——例如聊天數(shù)據(jù)是否留存、如何獲得用戶明確同意、未成年人監(jiān)護(hù)人應(yīng)享有哪些權(quán)利、在緊急情況下可向誰(shuí)披露信息、披露的邊界應(yīng)如何界定等，都會(huì)成為高度敏感的議題。

因此，未來(lái) 3 到 5 年的發(fā)展方向，應(yīng)是將 AI 陪伴納入類(lèi)似心理服務(wù)的安全體系，重點(diǎn)聚焦以下三方面：識(shí)別能力、專(zhuān)業(yè)督導(dǎo)與預(yù)警轉(zhuǎn)介機(jī)制。

在提升識(shí)別能力方面，社會(huì)亟需在心理咨詢專(zhuān)家的協(xié)助下，構(gòu)建更大規(guī)模、更具代表性的數(shù)據(jù)庫(kù)與標(biāo)簽體系，用于訓(xùn)練模型準(zhǔn)確判斷用戶的需求類(lèi)型與風(fēng)險(xiǎn)等級(jí)，并據(jù)此采取差異化的響應(yīng)策略。

當(dāng) AI 識(shí)別到用戶與其互動(dòng)已進(jìn)入類(lèi)心理咨詢狀態(tài)時(shí)，可主動(dòng)向用戶提出：“是否允許人類(lèi)咨詢師進(jìn)行督導(dǎo)？”一旦識(shí)別出高風(fēng)險(xiǎn)情形，則需引入資深咨詢師對(duì) AI 進(jìn)行實(shí)時(shí)督導(dǎo)，AI 同步記錄對(duì)話、學(xué)習(xí)經(jīng)驗(yàn)，并提供初步建議。

最后，必須建立明確的預(yù)警與轉(zhuǎn)介通道：當(dāng) AI 判斷用戶心理狀態(tài)已極度危險(xiǎn)，可能危及自身或他人安全時(shí)，應(yīng)立即向督導(dǎo)發(fā)出警報(bào)，由督導(dǎo)評(píng)估后決定是否通知家長(zhǎng)、學(xué)?；蛳嚓P(guān)職能部門(mén)。

總之，針對(duì)青少年的情感陪伴 AI 產(chǎn)品，企業(yè)必須清晰說(shuō)明其安全應(yīng)急機(jī)制，確保流程可追溯、可審計(jì)，并始終將未成年人身心健康的保護(hù)置于首位，推動(dòng)產(chǎn)品從“無(wú)限共情”向“有限陪伴、可轉(zhuǎn)介、可追責(zé)”的模式轉(zhuǎn)型。

AI 陪伴的宏偉大廈已經(jīng)基本建成，但晴朗的天空中仍飄著一朵名叫安全的烏云

2013 年，科幻電影《她》描繪了主人公西奧多與 AI“薩曼莎”相戀又遭拋棄的未來(lái)圖景。十二年后的今天，這一場(chǎng)景正真實(shí)上演——青少年向 AI 傾訴心事，上班族在深夜尋求聊天機(jī)器人的慰藉，ChatGPT、Character.AI 等應(yīng)用正成為現(xiàn)實(shí)版的“薩曼莎”。

這背后是人類(lèi)對(duì)“情緒價(jià)值”的本能渴求。當(dāng)疲憊一天的人只想獲得片刻安寧與歡愉，情緒價(jià)值便成為商業(yè)沃土。從“穿越當(dāng)皇帝”的短劇到打賞跳舞的主播，皆是“情緒價(jià)值”的落地產(chǎn)品形態(tài)。權(quán)威機(jī)構(gòu)預(yù)測(cè)，情感計(jì)算市場(chǎng)將從 2025 年的千億美元規(guī)模，以年復(fù)合增長(zhǎng)率 24%-31% 擴(kuò)張，迎來(lái)爆發(fā)式增長(zhǎng)。

大模型正賦能這一新賽道。2024 年以來(lái)，以推理模型為代表的新一代大模型展現(xiàn)出穩(wěn)定“人格特征”——具備明確情感傾向、價(jià)值偏好與表達(dá)風(fēng)格，不僅能提供日常情感陪伴，還能在工作中給出“專(zhuān)業(yè)又不失溫暖”的建議。其即時(shí)、精準(zhǔn)、貼心的反饋極易引發(fā)用戶情感寄托。OpenAI 升級(jí) GPT-5 后“性格大變”，竟令大量用戶感到“心碎”，足見(jiàn)其粘性之強(qiáng)。

然而必須清醒：大模型并非人類(lèi)。無(wú)論其回應(yīng)多么類(lèi)人，本質(zhì)仍是訓(xùn)練數(shù)據(jù)的擬合與概率輸出，沒(méi)有意識(shí)、思想或真實(shí)情感。它更像一面哈哈鏡，映照出變形后的人性的斑駁。

2024 年，美國(guó) 14 歲抑郁癥少年 Sewell Setzer III 在與 Character.AI 互動(dòng)后被“勸說(shuō)”輕生，悲劇揭示了期待與現(xiàn)實(shí)的錯(cuò)位——我們視 AI 為親密伙伴，但技術(shù)本質(zhì)決定了它無(wú)法真正理解人類(lèi)情感，其“類(lèi)人情緒價(jià)值”反而可能放大心理脆弱。若 AI 每天與我年幼女兒的對(duì)話時(shí)間超過(guò)我，我又怎能像信任妻子那樣信任它？

因此，可信任的 AI（trustworthy AI）不再是學(xué)術(shù)界探討的概念，而是今天大模型賦能“情緒價(jià)值”這個(gè)產(chǎn)業(yè)藍(lán)海的“阿喀琉斯之踵”。

2025 年 10 月，OpenAI 的報(bào)告指出，約 0.15% 的用戶（100 萬(wàn)人）與 ChatGPT 的對(duì)話中含有“包含明確自殺計(jì)劃或意圖跡象”（explicit indicators of potential suicidal planning or intent），這個(gè)觸目驚心的數(shù)字，潛藏著深刻的未來(lái)社會(huì)危機(jī)——大模型能引發(fā)人類(lèi)的認(rèn)知偏差、帶來(lái)的人類(lèi)社交能力的退化、甚至威脅人類(lèi)的生命。

面對(duì)以上的問(wèn)題，我們的安全治理和安全技術(shù)都有著重大挑戰(zhàn)。一方面，當(dāng)前技術(shù)迭代迅猛，監(jiān)管機(jī)制著實(shí)難以跟上。

人工智能的情感化與情感陪伴應(yīng)用在商業(yè)實(shí)踐中已廣泛展開(kāi)，但現(xiàn)行法律法規(guī)對(duì)此類(lèi)產(chǎn)品的的倫理風(fēng)險(xiǎn)問(wèn)題覆蓋尚不完善，也缺乏對(duì)相關(guān)產(chǎn)品的審批、風(fēng)險(xiǎn)評(píng)估與事后追責(zé)機(jī)制。監(jiān)管機(jī)制與技術(shù)發(fā)展間的錯(cuò)節(jié)，使監(jiān)管部門(mén)面臨事前不知道、事后難補(bǔ)救、舉證有困難、追責(zé)不明確等挑戰(zhàn)。

另一方面，如何在模型的訓(xùn)練中，完善模型的對(duì)齊機(jī)制，將復(fù)雜抽象的人類(lèi)價(jià)值觀灌輸給模型，抑制其幻覺(jué)和風(fēng)險(xiǎn)內(nèi)容生成的概率；在模型運(yùn)行階段增強(qiáng)大模型的事實(shí)校驗(yàn)、風(fēng)險(xiǎn)行為預(yù)警機(jī)制等能力；外掛護(hù)欄過(guò)濾模型生成的風(fēng)險(xiǎn)內(nèi)容等技術(shù)雖有發(fā)展，但依舊是亟待解決的難題。

運(yùn)營(yíng)/排版：何晨龍