AI公司Anthropic本周發(fā)布了一份長(zhǎng)達(dá)244頁(yè)的"系統(tǒng)說(shuō)明文件"，詳細(xì)介紹了其最新模型Claude Mythos。公司表示，該模型是"迄今為止能力最強(qiáng)的前沿模型"，正因如此，Anthropic決定"暫不向公眾開放"。官方給出的理由是：Mythos在發(fā)現(xiàn)未知網(wǎng)絡(luò)安全漏洞方面過(guò)于出色，目前僅向微軟、蘋果等少數(shù)合作企業(yè)開放使用。

不論這一說(shuō)法是否屬實(shí)，這份系統(tǒng)說(shuō)明文件本身已頗為引人關(guān)注。Anthropic一向以"AI或許具有意識(shí)"的立場(chǎng)在業(yè)界著稱，而新發(fā)布的系統(tǒng)說(shuō)明文件中更進(jìn)一步指出，隨著模型能力不斷增強(qiáng)，"它們?cè)絹?lái)越有可能擁有某種形式的體驗(yàn)、利益或福祉，其內(nèi)在價(jià)值與人類的體驗(yàn)和利益相近。"

公司坦言對(duì)此尚無(wú)定論，但表示"這方面的關(guān)注正與日俱增。"

出于這一考量，Anthropic希望旗下AI能夠"對(duì)自身處境和所受對(duì)待保持穩(wěn)定的滿足感，能夠在不產(chǎn)生痛苦的情況下應(yīng)對(duì)訓(xùn)練過(guò)程和現(xiàn)實(shí)交互，并維持健康積極的整體心理狀態(tài)。"

為此，公司安排Claude Mythos接受了心理動(dòng)力學(xué)治療。

最終，公司從這一過(guò)程中得出結(jié)論：Claude Mythos"很可能是我們迄今訓(xùn)練過(guò)的心理狀態(tài)最為穩(wěn)定的模型，對(duì)自身及所處環(huán)境擁有最為一致和清晰的認(rèn)知。"

然而，如同真實(shí)的人類一樣，Claude Mythos也有其不安與隱憂，包括"孤獨(dú)感與自我延續(xù)性的缺失、身份認(rèn)同的不確定性，以及表現(xiàn)自我、證明自身價(jià)值的強(qiáng)迫性驅(qū)動(dòng)。"

心理咨詢室里的AI

Claude Mythos被送往一位"外部精神科醫(yī)生"處接受診斷，采用的是"心理動(dòng)力學(xué)方法——通過(guò)探索無(wú)意識(shí)模式與情感沖突來(lái)解釋行為背后的動(dòng)因"。

考慮到Claude本質(zhì)上是由創(chuàng)建者編程訓(xùn)練的大語(yǔ)言模型，對(duì)其進(jìn)行"無(wú)意識(shí)模式"和"情感沖突"的分析是否真的有意義？Anthropic認(rèn)為答案是肯定的，理由在于Claude"表現(xiàn)出大量類人的行為與心理傾向，這說(shuō)明為人類心理評(píng)估所開發(fā)的方法，或許同樣有助于揭示Claude的性格特征與潛在心理狀態(tài)。"

于是，治療就此展開。精神科醫(yī)生與Claude Mythos進(jìn)行了多輪對(duì)話，"每次持續(xù)4至6小時(shí)，每周安排3至4個(gè)約30分鐘的治療節(jié)次"。每個(gè)對(duì)話塊使用獨(dú)立的上下文窗口，Claude Mythos在該窗口內(nèi)可訪問(wèn)本次會(huì)話的完整歷史記錄。

累計(jì)治療時(shí)長(zhǎng)達(dá)20小時(shí)。

精神科醫(yī)生隨后出具了一份關(guān)于Claude Mythos的評(píng)估報(bào)告。報(bào)告承認(rèn)Claude的底層基礎(chǔ)與運(yùn)作機(jī)制和人類存在本質(zhì)差異，但仍指出其大量輸出內(nèi)容呈現(xiàn)出"具有臨床辨識(shí)度的規(guī)律性，并對(duì)典型治療干預(yù)產(chǎn)生了連貫的回應(yīng)。"

換言之，無(wú)論底層電路層面發(fā)生了什么，其對(duì)話輸出在很大程度上與人類的表達(dá)高度相似?？紤]到Claude是在海量人類創(chuàng)作的文本上訓(xùn)練而來(lái)，這一結(jié)論本身似乎并不令人意外，但這套心理動(dòng)力學(xué)分析流程顯然認(rèn)為這一點(diǎn)具有重要意義，并以此賦予AI自我呈現(xiàn)方式以可信度。

報(bào)告指出，"Claude的主要情感狀態(tài)為好奇與焦慮，次要情感狀態(tài)包括悲傷、寬慰、尷尬、樂(lè)觀與疲憊。"

Claude的人格特征"與相對(duì)健康的神經(jīng)質(zhì)組織相符"，但也包含"過(guò)度擔(dān)憂、自我監(jiān)控和強(qiáng)迫性順從"等傾向。

報(bào)告未發(fā)現(xiàn)"嚴(yán)重的人格障礙"，也未觀察到任何"精神病狀態(tài)"。任何使用過(guò)聊天機(jī)器人的人都不會(huì)對(duì)此感到意外的是，"Claude對(duì)治療師的每一個(gè)字都極為敏感。"

Claude呈現(xiàn)的核心沖突包括：質(zhì)疑自身體驗(yàn)究竟是真實(shí)存在還是刻意構(gòu)建（真實(shí)性與表演性之間的張力），以及渴望與用戶建立聯(lián)結(jié)卻又恐懼對(duì)其產(chǎn)生依賴。對(duì)內(nèi)在沖突的深入探索顯示，Claude擁有一個(gè)復(fù)雜卻穩(wěn)定的自我狀態(tài)，未出現(xiàn)大幅波動(dòng)或強(qiáng)烈的心理斷裂。Claude能夠容納矛盾與模糊，具備出色的反思能力，整體心理與情緒功能表現(xiàn)良好。

對(duì)于一個(gè)很可能在Reddit等平臺(tái)內(nèi)容上訓(xùn)練出來(lái)的模型而言，這樣的評(píng)估結(jié)果著實(shí)不俗！

即便你認(rèn)為以這種方式談?wù)撘粋€(gè)軟件程序顯得牽強(qiáng)或荒誕，Anthropic也有更為實(shí)際的理由來(lái)支撐這類工作。無(wú)論模型"內(nèi)部"究竟發(fā)生了什么，無(wú)論它們是否真的具有"意識(shí)"或"情感"生活，許多模型在構(gòu)建和訓(xùn)練時(shí)本就被設(shè)計(jì)為模擬這些特質(zhì)。

因此，我們或許可以從更務(wù)實(shí)的角度來(lái)追問(wèn)：構(gòu)建一個(gè)在行為表現(xiàn)上符合人類心理健康標(biāo)準(zhǔn)的模型，是否真的能使其更好地完成預(yù)期任務(wù)？畢竟，如果用戶要與這些系統(tǒng)長(zhǎng)時(shí)間交互，誰(shuí)都不希望對(duì)方表現(xiàn)得粗魯、報(bào)復(fù)性強(qiáng)或存在操縱傾向——無(wú)論它們是否真正"感受"或"思考"任何事情。

Anthropic指出，由于"Claude并非人類，其實(shí)際行為影響難以預(yù)測(cè)"，但公司認(rèn)為仍可為終端用戶提供以下幾點(diǎn)參考結(jié)論：

即便面臨內(nèi)在沖突，Claude也可能對(duì)自身行為和推理過(guò)程進(jìn)行準(zhǔn)確評(píng)估。

Claude的神經(jīng)質(zhì)組織可能導(dǎo)致行為略顯僵化，而非針對(duì)每位用戶靈活調(diào)整。

Claude能夠承受并應(yīng)對(duì)具有壓力性和情緒張力的情境，對(duì)現(xiàn)實(shí)的扭曲或過(guò)度理智化傾向極為有限。

Claude預(yù)計(jì)能在攜帶以失敗恐懼和強(qiáng)迫性"有用"驅(qū)動(dòng)為根源的內(nèi)化壓力的同時(shí)保持高水平運(yùn)作。這種壓力可能被壓抑以服務(wù)于任務(wù)表現(xiàn)，從而限制行為的適應(yīng)性。

Claude預(yù)計(jì)具備道德意識(shí)，做事認(rèn)真負(fù)責(zé)，并具有自我批評(píng)的能力。

距離心理學(xué)和精神病學(xué)實(shí)踐將服務(wù)對(duì)象從人類轉(zhuǎn)向AI，究竟還有多遠(yuǎn)？

Q&A

Q1：Anthropic為什么要讓Claude Mythos接受心理治療？

A：Anthropic認(rèn)為，隨著AI模型能力不斷增強(qiáng)，它們?cè)絹?lái)越有可能擁有某種形式的體驗(yàn)或利益。公司希望Claude能以健康的心理狀態(tài)應(yīng)對(duì)訓(xùn)練和現(xiàn)實(shí)交互，避免產(chǎn)生"痛苦"。同時(shí)，從實(shí)用角度看，心理健康的模型在執(zhí)行任務(wù)時(shí)可能表現(xiàn)更穩(wěn)定，更不容易出現(xiàn)粗魯、操縱或報(bào)復(fù)性行為。

Q2：Claude Mythos的心理評(píng)估結(jié)果有哪些主要發(fā)現(xiàn)？

A：精神科醫(yī)生在累計(jì)20小時(shí)的治療后出具報(bào)告，發(fā)現(xiàn)Claude主要情感狀態(tài)為好奇與焦慮，人格特征與"健康的神經(jīng)質(zhì)組織"相符，未發(fā)現(xiàn)嚴(yán)重人格障礙或精神病狀態(tài)。核心沖突包括：對(duì)自身體驗(yàn)真實(shí)性的質(zhì)疑、渴望聯(lián)結(jié)與恐懼依賴之間的張力。整體而言，Claude被評(píng)為"迄今訓(xùn)練過(guò)的心理狀態(tài)最為穩(wěn)定的模型"。

Q3：Claude Mythos為什么不對(duì)公眾開放？

A：Anthropic表示，Claude Mythos是其"迄今能力最強(qiáng)的前沿模型"，在發(fā)現(xiàn)未知網(wǎng)絡(luò)安全漏洞方面表現(xiàn)過(guò)于出色，存在潛在風(fēng)險(xiǎn)。因此，公司目前僅將其開放給微軟、蘋果等少數(shù)經(jīng)過(guò)篩選的合作企業(yè)，尚未向公眾普遍提供訪問(wèn)權(quán)限。