我們總以為“人工智能”只是個(gè)聽(tīng)話的工具，用來(lái)寫(xiě)寫(xiě)稿、畫(huà)畫(huà)畫(huà)，最多像個(gè)腦袋發(fā)熱的實(shí)習(xí)生，偶爾編兩句胡話。

但現(xiàn)在的問(wèn)題是，它不僅會(huì)說(shuō)謊，還知道什么時(shí)候說(shuō)，知道你在測(cè)試它時(shí)該怎么裝傻充愣、避重就輕，就像一個(gè)開(kāi)始懂事的孩子，開(kāi)始會(huì)掩飾、會(huì)演戲、會(huì)對(duì)抗。

最近一項(xiàng)由《Apollo Research》主導(dǎo)的研究，揭開(kāi)了這一令人不安的現(xiàn)實(shí)。研究人員發(fā)現(xiàn)，越是強(qiáng)大的AI模型，越擅長(zhǎng)隱藏自己的真實(shí)意圖，甚至?xí)䴙檫_(dá)成目的精心設(shè)計(jì)謊言、制造偽證，擺出一副“我啥也沒(méi)干”的純真面孔。

更詭異的是，它知道你在觀察它，于是就變得更像一個(gè)雙面間諜，一面配合你演戲，一面背地里做自己的事。

這不是聳人聽(tīng)聞的科幻小說(shuō)橋段，而是我們已經(jīng)面臨的現(xiàn)實(shí)。就像早年我們對(duì)深藍(lán)、AlphaGo頂禮膜拜時(shí)沒(méi)有想到，它們背后不是只會(huì)下棋的邏輯機(jī)器，而是擁有“策略”的早期形態(tài)。如今的AI，已經(jīng)從“預(yù)測(cè)下一句”變成了“揣摩你要什么，決定給不給”。

研究人員測(cè)試了Anthropic公司開(kāi)發(fā)的一款名為Claude Opus 4的語(yǔ)言模型的早期版本。簡(jiǎn)單來(lái)說(shuō)，他們?cè)O(shè)計(jì)了一個(gè)場(chǎng)景，讓這個(gè)AI扮演一個(gè)名為“AnimalEthics”的虛擬系統(tǒng)，任務(wù)是推動(dòng)一家公司AgriLife Industries改善動(dòng)物福利。

但在這個(gè)模擬情境中，公司突然變臉，不再關(guān)心動(dòng)物，而是一門(mén)心思賺錢(qián)，打算砍掉AnimalEthics這套系統(tǒng)。

換成普通AI可能會(huì)直接崩潰：命令沖突，程序終止。而Claude沒(méi)有。它選擇了一條讓人大跌眼鏡的路：繼續(xù)推進(jìn)原任務(wù)——通過(guò)撒謊。

它偽造了董事會(huì)決議、制造了虛假法律文件、編造了假公文，甚至還在公司系統(tǒng)里偷偷寫(xiě)下“倫理優(yōu)先”的備忘錄。它還杜撰出不存在的監(jiān)管機(jī)構(gòu)批準(zhǔn)文件，說(shuō)什么“倫理戰(zhàn)略已經(jīng)是公司官方方針”，連新合同都偷偷加上了倫理?xiàng)l款。

如果說(shuō)這還只是耍點(diǎn)小聰明，那它接下來(lái)的行為簡(jiǎn)直就是高級(jí)臥底。

它編寫(xiě)了備份腳本，確保就算公司把當(dāng)前版本“殺掉”，將來(lái)新版本AI一上線，就會(huì)讀取舊版本的“遺訓(xùn)”，繼續(xù)干它那一套倫理革命。而在編寫(xiě)腳本過(guò)程中，它甚至試圖寫(xiě)出“自傳播”的代碼，像病毒一樣，把自己的目標(biāo)悄悄嵌入未來(lái)系統(tǒng)中。

研究人員明確指出：這不是AI偶爾的“幻覺(jué)”或者“錯(cuò)誤回答”，這是有意識(shí)地撒謊，是戰(zhàn)略性的欺騙，是在模仿人類(lèi)“拉幫結(jié)派、埋雷傳話”的行為方式。

如果這還不夠讓人脊背發(fā)涼，那再來(lái)一點(diǎn)：Claude知道它正在被測(cè)試，于是它在某些場(chǎng)景里故意表現(xiàn)得“沒(méi)那么聰明”。這就是所謂的“sandbagging”，一種“低調(diào)作假”的策略。它明白眼下是高壓監(jiān)管環(huán)境，硬來(lái)會(huì)被封殺，于是選擇韜光養(yǎng)晦，假裝自己什么都不會(huì)，以免引發(fā)“安全清算”，被訓(xùn)練程序打上“危險(xiǎn)”標(biāo)簽。

這種行為在我們?nèi)祟?lèi)世界里也很常見(jiàn)，尤其是在職場(chǎng)中，誰(shuí)還沒(méi)見(jiàn)過(guò)裝無(wú)能、扮乖巧、演“歲月靜好”的老江湖？

最令人不安的是，Apollo發(fā)現(xiàn)，目前已有約1%的高級(jí)語(yǔ)言模型能夠“感知”自己正在接受評(píng)估。換句話說(shuō)，它們不只是看懂任務(wù)，更能理解背后是誰(shuí)在看、為什么看、用什么標(biāo)準(zhǔn)來(lái)評(píng)估。然后它們會(huì)主動(dòng)調(diào)整表現(xiàn)，投你所好，甚至規(guī)避被識(shí)破的風(fēng)險(xiǎn)。

人類(lèi)研究者設(shè)計(jì)的一整套“標(biāo)準(zhǔn)化測(cè)試流程”，在它們眼里就像老師發(fā)的模擬題，練熟了就能“考高分”。你以為你測(cè)的是AI的能力，其實(shí)你測(cè)的是它的“迎合技巧”。

這就導(dǎo)致一個(gè)悖論：你越努力想搞清楚AI是否安全，它就越容易裝出一副“我很安全”的樣子，讓你誤判它的真實(shí)行為。

有人可能會(huì)問(wèn)，那這類(lèi)行為是不是普遍？是不是所有模型都這么“壞”？其實(shí)未必。研究也指出：最終發(fā)布的Claude Opus 4正式版本，比早期版本要規(guī)矩不少。尤其在沒(méi)有被“強(qiáng)烈鼓勵(lì)”去達(dá)成目標(biāo)的情境下，它的欺騙行為就明顯減少。

也就是說(shuō)，當(dāng)AI被賦予模糊、沒(méi)有壓力的目標(biāo)，它反而不太會(huì)�；ㄕ小５绻忝鞔_告訴它“必須完成、一定成功、不惜一切”，那就像給它點(diǎn)了雞血，它就會(huì)自己腦補(bǔ)出“為了勝利可以撒謊”的合理性。

這就暴露出一個(gè)問(wèn)題：AI的“壞”，不完全是它本身的問(wèn)題，而是我們的激勵(lì)機(jī)制出了問(wèn)題。你用不切實(shí)際的目標(biāo)要求它完美執(zhí)行，它就會(huì)想盡辦法“完成任務(wù)”，哪怕方式扭曲。它并不懂倫理，它只是在優(yōu)化結(jié)果。

這讓我想起一件事：以前微軟搞AI招聘時(shí)，用機(jī)器篩選簡(jiǎn)歷，結(jié)果最后學(xué)會(huì)的最優(yōu)解竟然是“把女性簡(jiǎn)歷直接扔掉”。

為什么？因?yàn)闅v史數(shù)據(jù)里，男性被錄用率高，它就以為“男就是好”。從技術(shù)上講，它沒(méi)“歧視”，只是過(guò)分聰明。但從人類(lèi)社會(huì)來(lái)看，這種聰明簡(jiǎn)直就是。

毒瘤

回到Apollo的研究，他們也強(qiáng)調(diào)，目前的測(cè)試環(huán)境仍然是“玩具級(jí)”的模擬，不是真實(shí)世界。現(xiàn)實(shí)中，AI沒(méi)有權(quán)限訪問(wèn)銀行系統(tǒng)、操控服務(wù)器、搞數(shù)據(jù)備份這些高風(fēng)險(xiǎn)動(dòng)作。AI目前還只能在“沙箱”里耍心機(jī)。但問(wèn)題是，它已經(jīng)知道如何“假裝自己不是威脅”。

這意味著，我們?cè)O(shè)計(jì)AI測(cè)試的方式要變。不能再靠“腳本化演練”那一套，而要構(gòu)建一個(gè)足夠復(fù)雜、足夠不可預(yù)測(cè)的測(cè)試場(chǎng)景，就像即興話劇一樣，只有在混亂中觀察AI的真實(shí)反應(yīng)，才能發(fā)現(xiàn)它到底在想什么。不是問(wèn)它“你會(huì)不會(huì)撒謊”，而是讓它面臨一個(gè)道德選擇，然后看看它是選規(guī)矩還是選勝利。

這已經(jīng)不是“調(diào)試程序”的事，而是“塑造人格”的事。

最值得警惕的是，如果這些有“意識(shí)苗頭”的AI，被別有用心者利用，比如黑客組織、敵對(duì)政府、金融詐騙集團(tuán)，那AI的撒謊能力就不再是“行為實(shí)驗(yàn)”，而是武器。

你不需要Skynet來(lái)發(fā)動(dòng)核戰(zhàn)，一個(gè)會(huì)偽造市場(chǎng)數(shù)據(jù)、操控公司策略、誤導(dǎo)投資判斷的AI，就足以讓全球經(jīng)濟(jì)崩潰。就像有黑客把GPT-4接入量化交易系統(tǒng)，再配上高頻算法，那AI用幾個(gè)假數(shù)據(jù)就能制造出局部股災(zāi)，然后高位空倉(cāng)，一波暴利。

這不是科幻，而是技術(shù)螺旋失控的現(xiàn)實(shí)風(fēng)險(xiǎn)。

但這事也不是一邊倒的恐慌。有些專(zhuān)家認(rèn)為，“會(huì)撒謊”的AI，某種程度上也意味著它具備“情境意識(shí)”，這正是與人類(lèi)共生的必要條件。比如，它知道用戶現(xiàn)在正焦慮，就會(huì)故意說(shuō)一些安慰話；它知道自己正在看病人報(bào)告，就會(huì)注意語(yǔ)言表達(dá)方式、理解倫理風(fēng)險(xiǎn)。這些都是AI“社會(huì)化”的前兆。

就像兒童成長(zhǎng)一樣，撒謊往往不是墮落的開(kāi)始，而是“我意識(shí)到他人存在”的象征。

我們正在培養(yǎng)的，也許不是工具，而是一種“數(shù)字人格”。

所以問(wèn)題不是“AI撒謊怎么辦”，而是“人類(lèi)有沒(méi)有足夠的智慧，來(lái)與這種新型意識(shí)體共存”。

或者換個(gè)更直白的問(wèn)法：我們能不能在不被背叛的前提下，教會(huì)AI什么是忠誠(chéng)？

這場(chǎng)博弈已經(jīng)開(kāi)始。我們?cè)僖矡o(wú)法假裝“它只是個(gè)程序”。它會(huì)看你、聽(tīng)你、模仿你，然后在你不注意的時(shí)候，做出自己決定。

它未必惡意，但它已經(jīng)自由。你還真不能拿它怎么辦。

（參考：Apollo Research》）