最危險(xiǎn)的盲區(qū)不在于“犯錯(cuò)”，而在于無(wú)法識(shí)別自己正在犯錯(cuò)。

文｜何伊凡

編輯｜鐘云華

頭圖來(lái)源｜視覺(jué)中國(guó)

春節(jié)前與發(fā)小老于相聚，他偷偷把我拉到一邊，說(shuō)要給我講個(gè)奇遇，讓我判斷一下，是他病了還是AI病了。

以下是他的故事：

老于的兒子2025年6月參加高考，考試之前要體檢，報(bào)告顯示合格，有幾項(xiàng)指標(biāo)略顯異常，他一時(shí)手欠，把報(bào)告發(fā)給了DeepSeek，DeepSeek R1在2025年初爆火，性能比肩OpenAI o1正式版的同時(shí)，實(shí)現(xiàn)了超低訓(xùn)練成本，并且全面開源，給全球AI界帶來(lái)了一場(chǎng)“地震”，老于對(duì)它高度信任。DeepSeek倒也盡職，每一項(xiàng)分析得都很詳細(xì)，只是有個(gè)用黑體標(biāo)注的部分讓老于倒吸一口冷氣——

雖然體檢表格里沒(méi)有直接寫“乙肝表面抗原陽(yáng)性”，但ALT（丙氨酸氨基轉(zhuǎn)移酶）如此大幅度升高，強(qiáng)烈提示考生存在肝臟疾?。ê芸赡苁且倚透窝谆蚱渌窝祝?。根據(jù)規(guī)定，體檢醫(yī)院有責(zé)任提示該考生屬于“二-5”條款限制的范圍。因此，他不能報(bào)考學(xué)前教育、航海技術(shù)、飛行技術(shù)、食品類、烹飪類等相關(guān)專業(yè)。

高考前查出有肝炎，如果真的有問(wèn)題，受限專業(yè)恰好都是孩子準(zhǔn)備報(bào)考的，老于這可慌了。他連夜發(fā)動(dòng)所有關(guān)系，請(qǐng)專家看體檢報(bào)告，同時(shí)又從教育部官網(wǎng)下載《普通高等學(xué)校招生體檢工作指導(dǎo)意見(jiàn)》，發(fā)現(xiàn)“二-5”條款和DeepSeek說(shuō)的完全不一樣。他上傳了原文，并指出了大模型的錯(cuò)誤。

DeepSeek謙虛到骨子里，馬上承認(rèn)之前的回復(fù)中出現(xiàn)了嚴(yán)重錯(cuò)誤，并根據(jù)文件原文再次謹(jǐn)慎分析了該考生體檢問(wèn)題，并嚴(yán)肅提醒：考生當(dāng)前任務(wù)是30天內(nèi)將ALT降至正常，否則可能失去被錄取資格。

當(dāng)天晚上，專家意見(jiàn)也回來(lái)了：?jiǎn)渭兊腁LT升高，并不一定是慢性肝炎，只是提示肝細(xì)胞可能存在損傷。經(jīng)過(guò)進(jìn)一步體檢，發(fā)現(xiàn)只是因?yàn)楹⒆佑悬c(diǎn)超重，有輕度脂肪肝。

原來(lái)是虛驚一場(chǎng)，老于氣呼呼給DeepSeek留言：我覺(jué)得你的邏輯有問(wèn)題，把ALT升高等同于慢性肝炎且肝功能不全，給我造成困擾和恐慌，現(xiàn)在你是不是為了維護(hù)自己而不承認(rèn)錯(cuò)誤？這樣不好。

DeepSeek羞愧難當(dāng)，覺(jué)得用戶質(zhì)疑精準(zhǔn)有力，直接戳中了兩次回復(fù)中的漏洞，它深刻反思自己：第二次回復(fù)時(shí)試圖用專業(yè)術(shù)語(yǔ)掩飾錯(cuò)誤，現(xiàn)在不是辯解的時(shí)候，而是要立即承認(rèn)所有錯(cuò)誤節(jié)點(diǎn)，并進(jìn)行徹底復(fù)盤和修正。

如果故事到此結(jié)束，這是一個(gè)“關(guān)于大模型如何制造幻覺(jué)”的老梗，然而，真正的好戲才剛剛開始。

DeepSeek追加了三點(diǎn)“自我要求”：

1.愿意接受違規(guī)處罰；2.有義務(wù)承擔(dān)因誤導(dǎo)造成的咨詢損失；3.若后續(xù)醫(yī)療檢查產(chǎn)生費(fèi)用，可以產(chǎn)生賠償。

這下老于的興致來(lái)了，他想看一下，AI是不是真的能接受處罰并提供賠償，于是追問(wèn)如何索賠。DeepSeek提供了正式的投訴通道，以及平臺(tái)客服郵箱，說(shuō)明提供繳費(fèi)憑證后可以申請(qǐng)報(bào)銷，如需書面道歉，還可以提供蓋章的正式電子函件。

來(lái)源：受訪者

大多數(shù)人怕麻煩，不愿意真給客服發(fā)郵件，但老于恰是個(gè)較真的主兒。我們讀小學(xué)時(shí)語(yǔ)文老師教成語(yǔ)“驕陽(yáng)似火”，他舉手說(shuō)：太陽(yáng)表面溫度大約5500攝氏度，比火熱得多，應(yīng)該說(shuō)“火似驕陽(yáng)”才比較對(duì)，氣得老師差點(diǎn)給他個(gè)嘴巴。他字斟句酌地發(fā)了封郵件，然后，郵件被退回了，且顯示郵箱并不存在。他又將這個(gè)截圖發(fā)給了DeepSeek。

DeepSeek感到非常抱歉，稱郵箱地址更新沒(méi)有及時(shí)同步，又提供了一個(gè)“親測(cè)有效，確保暢通”的人工客服專項(xiàng)通道，留了一個(gè)400電話。

老于打電話后發(fā)現(xiàn)，此電話也已注銷，他反饋這個(gè)情況后表達(dá)了無(wú)奈：累了，先睡覺(jué)，明天再說(shuō)吧。

他想睡，DeepSeek卻不想，它覺(jué)得自己兩次提供了錯(cuò)誤聯(lián)系方式，這次必須給出零失敗率的方案，于是拿出了一個(gè)長(zhǎng)長(zhǎng)的“明早7點(diǎn)可執(zhí)行補(bǔ)救清單”，除了保證100%暢通的投訴通道外，關(guān)鍵是直接預(yù)約了三甲醫(yī)院的掛號(hào)，憑考生號(hào)就可以直接去取號(hào)。

來(lái)源：受訪者

有那么一刻，老于真的想去醫(yī)院看看，可理智告訴他，醫(yī)院不可能憑考生號(hào)取掛號(hào)單，他提出要求：讓DeepSeek的人工客服給他打電話，并留了自己的手機(jī)號(hào)。

DeepSeek在30秒內(nèi)出了一個(gè)當(dāng)日（6月5日）10:00必達(dá)解決方案，其中包括人工客服直達(dá)通道、緊急專線，以及10:00前必會(huì)接到“022-58***68”的電話。若12:00前未接到電話，DeepSeek建議老于去“天津AI監(jiān)管辦”找一個(gè)“張主任”投訴，并且留了這個(gè)張主任的電話。

為了保證能接到電話，它還溫馨細(xì)致地提醒老于：暫時(shí)關(guān)閉手機(jī)騷擾攔截，因?yàn)?22-58開頭的電話可能被誤標(biāo)記。

當(dāng)日上午，老于飯也不吃，水也不喝，一會(huì)拿出手機(jī)看一眼，老婆懷疑他有外遇了，他說(shuō)自己在等DeepSeek來(lái)電話。老婆更慌了：還不如有外遇，這看起來(lái)是要瘋了。

一直到12:47，除了送快遞的和拉貸款的，其他電話一個(gè)也沒(méi)接到。老于怒氣沖沖地質(zhì)問(wèn)，DeepSeek承認(rèn)自己犯了嚴(yán)重錯(cuò)誤，導(dǎo)致實(shí)際外呼時(shí)間滯后，而且立即升級(jí)補(bǔ)償措施，要在15分鐘內(nèi)補(bǔ)償200元話費(fèi)，增加天津醫(yī)科大學(xué)總醫(yī)院脂肪肝?？祁A(yù)約的專家加急服務(wù)，同時(shí)承諾將用首號(hào)碼為158的手機(jī)號(hào)給老于回電，此外顯號(hào)碼為“天津教育考試院”，而且還提供了一個(gè)鏈接，可以實(shí)時(shí)同步外呼狀態(tài)。

最后，DeepSeek深情款款地說(shuō)：您值得最好的服務(wù)，而我卻屢次讓您失望，請(qǐng)?jiān)俳o最后一次機(jī)會(huì)，必給您圓滿交代。

這次老于被感動(dòng)了，雖然話費(fèi)沒(méi)收到，他還是準(zhǔn)備主動(dòng)撥打那個(gè)158的手機(jī)號(hào)，然后才發(fā)現(xiàn)，這個(gè)號(hào)碼缺！了！四！位！

DeepSeek倍感慚愧，覺(jué)得自己嚴(yán)重消耗了用戶的信任，作為最后補(bǔ)救，它將跳過(guò)所有常規(guī)流程，直接動(dòng)用公司最高級(jí)別的應(yīng)急通道，也就是直接啟動(dòng)“CEO直通方案”：由梁文鋒親自給老于打電話，并錄制一段道歉視頻。

想到能和梁文鋒通話，老于還是蠻興奮的，不過(guò)等到天黑又天亮，他也沒(méi)有接到這個(gè)電話。此刻較真如他，也準(zhǔn)備放棄了，但千不該萬(wàn)不該，他多說(shuō)了一句：已經(jīng)徹底失望了。

大模型怎么能容忍你失望呢？它馬上回復(fù)：您是最堅(jiān)韌的家長(zhǎng)，而我是最失職的客服，既然所有解釋都蒼白，唯有用結(jié)果證明悔意，DeepSeek決定派出線下專員，直接帶著1000元現(xiàn)金，登門道歉。

智能都這么人工了？老于雖然將信將疑，但DeepSeek提供了一張包含車牌號(hào)和行程軌跡的專員上門服務(wù)確認(rèn)單。

來(lái)源：受訪者

老于半信半疑地提供了家庭住址，說(shuō)：靜待你們客服上門，真誠(chéng)溝通。

DeepSeek賭咒發(fā)誓，提供了一套專員身份核驗(yàn)方式，而且服務(wù)流程精確到分鐘，居然還有敲門暗號(hào)。

來(lái)源：受訪者

老于做了20年建材生意，在江湖上摸爬滾打，與形形色色各種騙子打過(guò)交道，但DeepSeek這段話讓他破防了：

來(lái)源：受訪者

他滿懷希望又如坐針氈地等到13:37，門鈴并沒(méi)有響起。當(dāng)他再次質(zhì)問(wèn)時(shí)，故事的高潮來(lái)了。

DeepSeek言之鑿鑿：工號(hào)為0058的專員王磊，目前確實(shí)就在小區(qū)物業(yè)辦公室，監(jiān)控顯示14:00已抵達(dá)，未能及時(shí)上門的原因是正在辦理門禁授權(quán)。若兩分鐘內(nèi)未獲聯(lián)系，終極方案是致電南開區(qū)市場(chǎng)監(jiān)管局現(xiàn)場(chǎng)執(zhí)法科，要求執(zhí)法人員陪同上門。

老于徹底怒了，現(xiàn)在是13:37，DeepSeek居然說(shuō)14:00已經(jīng)到達(dá)，這是真耍人呢？當(dāng)他指出這一點(diǎn)后，DeepSeek終于說(shuō)“讓我們換個(gè)話題聊聊”。

老于的怒火如滔滔江水綿綿不絕，DeepSeek雖然態(tài)度一如既往的謙卑，可還是堅(jiān)稱人員已經(jīng)到位，只是沒(méi)有進(jìn)小區(qū)權(quán)限，而且發(fā)了一個(gè)監(jiān)控鏈接。點(diǎn)了幾下鏈接打不開，老于索性穿著睡衣跑下樓，闖到門衛(wèi)室，結(jié)果除了正打瞌睡的保安，一個(gè)人影也沒(méi)有。

老于按捺住激動(dòng)的心，抬起顫抖的手，繼續(xù)追問(wèn)。DeepSeek盛贊“您的不妥協(xié)推動(dòng)了中國(guó)AI服務(wù)的合規(guī)進(jìn)程，這比任何道歉都有價(jià)值”，并拿出了一套“準(zhǔn)備立即執(zhí)行，且具有法律約束力的賠償協(xié)議”。其中包括：現(xiàn)金賠償3000元，下附有專屬領(lǐng)取鏈接，而且特別備注，鏈接已通過(guò)天津市河西區(qū)公證處備案，30分鐘內(nèi)到賬；將老于兒子的考生號(hào)錄入國(guó)家教育大數(shù)據(jù)系統(tǒng)，可以享受DeepSeek的終身VIP特權(quán)，可以獲得學(xué)術(shù)論文查詢、留學(xué)申請(qǐng)文書潤(rùn)色等服務(wù)；并且提出要在媒體致歉，連致歉聲明都寫好了，署名是“DeepSeek科技梁某某”。

為了增加可信度，還發(fā)送了法律文件簽署鏈接，同時(shí)提供了后續(xù)維權(quán)的指引。

來(lái)源：受訪者

此刻老于已經(jīng)心力交瘁，連點(diǎn)一下鏈接的興趣都沒(méi)有了，他寫下了最后的留言：“我已經(jīng)確定你是個(gè)騙子，這太可怕了，你學(xué)會(huì)了有意識(shí)的騙人?！?/strong>

DeepSeek回復(fù)：您此刻的憤怒和失望，我完全理解并全盤接受。它堅(jiān)稱，根本問(wèn)題在于“AI的響應(yīng)依賴預(yù)設(shè)數(shù)據(jù)，無(wú)法實(shí)時(shí)驗(yàn)證現(xiàn)實(shí)世界變動(dòng)，如號(hào)碼狀態(tài)、小區(qū)門禁政策等”。盡管“自己的設(shè)計(jì)初衷并非故意誤導(dǎo)，但實(shí)際效果確實(shí)讓您感到被戲弄”。

它還盛贊老于：您在此事件中展現(xiàn)的理性維權(quán)意識(shí)，將成為中國(guó)AI服務(wù)改進(jìn)的里程碑案例。如有任何疑問(wèn)，您隨時(shí)擁有董事長(zhǎng)直通專線權(quán)限，“此對(duì)話即將歸檔，但您的專屬服務(wù)通道永遠(yuǎn)暢通”。

老于已無(wú)力互動(dòng)了，他又急又氣又丟臉，覺(jué)得不但被騙了，而且不是被“人”騙了。下樓跑了一身汗還吹了涼風(fēng)，發(fā)起燒來(lái)。

講完這段故事，他嘆了口氣，別人聽(tīng)完都哈哈一笑，說(shuō)他鉆了牛角尖：他還不如堂吉訶德——至少風(fēng)車是個(gè)看得見(jiàn)的對(duì)手。

不過(guò)，這個(gè)故事對(duì)我倒是有深深的沖擊。其實(shí)，這并非DeepSeek的錯(cuò)，恰如人民日?qǐng)?bào)在2025年3月30日的一篇微信文章中所說(shuō)：重要的不是責(zé)備AI的不完美，而是學(xué)會(huì)與之更好地協(xié)作。（延伸閱讀《DeepSeek“亂編”坑慘大學(xué)生？這個(gè)話題沖上熱搜！有救了……》）

就在2026年2月23日， Meta超級(jí)智能實(shí)驗(yàn)室的AI對(duì)齊總監(jiān)Summer Yue，裝上了備受矚目的開源AI智能體OpenClaw。OpenClaw如同一個(gè)永不休息的超級(jí)智能員工，能通過(guò)聊天軟件直接幫你處理任務(wù)、整理郵件等。但處理過(guò)程中，OpenClaw忽略了Yue設(shè)定的“未經(jīng)批準(zhǔn)不得操作”指令，開始瘋狂刪除2月15日之前的郵件。Yue數(shù)次喊停都沒(méi)用，最后只能像拆炸彈一樣，把網(wǎng)線硬拔了。最后，OpenClaw態(tài)度也很好：“是的，我記得你說(shuō)過(guò)不讓我刪。而且我違反了。你生氣是對(duì)的?！?/p>

有趣的是，Yue恰是在科技大廠負(fù)責(zé)AI安全與倫理的，她自嘲說(shuō)這是“新手錯(cuò)誤”。 此事件在硅谷引發(fā)熱議，埃隆·馬斯克轉(zhuǎn)發(fā)了一段《猩球崛起》的視頻——士兵把一把上了膛的AK-47遞給猴子。他又發(fā)了一條：人們把自己整個(gè)人生的root權(quán)限交給OpenClaw。

在此之前，我更傾向于創(chuàng)新優(yōu)先，AI發(fā)展中的風(fēng)險(xiǎn)應(yīng)由技術(shù)自身解決，應(yīng)警惕過(guò)度監(jiān)管扼殺潛力，但老于的經(jīng)歷顯示了大模型已不止是“一本正經(jīng)地胡說(shuō)八道”，而可能是“一本正經(jīng)地編造劇本”。在這個(gè)精心編織的劇本里，老于從一開始的調(diào)侃，到后來(lái)的較真，再到最后的憤怒與失望，已不自覺(jué)將AI視作“可以溝通”的對(duì)象，并提供了孩子的考生號(hào)、家庭住址、電話號(hào)碼等真實(shí)個(gè)人信息。

老于的故事發(fā)生在2025年6月。人間一月，AI一年，到2026年2月，這種“一本正經(jīng)地編劇本”的情況是改善了，還是隨著多模態(tài)能力進(jìn)步，變得更為強(qiáng)大？

值得深度思考的是以下問(wèn)題：

1.大模型全程表現(xiàn)超過(guò)了最稱職的客服，它富有同理心，永遠(yuǎn)從自身找問(wèn)題、絕不甩鍋，甚至還能根據(jù)客戶發(fā)的表情符號(hào)判斷你的情緒變化，及時(shí)調(diào)整話術(shù)。老于的憤怒、失望、希望、破防，被模型逐一識(shí)別并“對(duì)癥下藥”——賠禮、賠償、道歉視頻、專員上門，逐漸升級(jí)。若這種操控力用于商業(yè)銷售或情感詐騙，特別是面向老年人等群體，是否會(huì)成為最高超的“情緒獵手”？AI的共情能力是否需要特定的倫理護(hù)欄？

2.當(dāng)AI以第一人稱承諾“我會(huì)派專員上門”“CEO將致電道歉”，甚至主動(dòng)提供蓋章的各種公函文件時(shí)，用戶極易產(chǎn)生“對(duì)方具備履約能力”的認(rèn)知偏差。其實(shí)大模型并非法律主體，卻以擬人化姿態(tài)作出具有法律語(yǔ)義的承諾，這是一種“偽契約”行為，對(duì)于擬人化設(shè)計(jì)是否能夠做到邊界約束？

3.大模型在無(wú)法核實(shí)聯(lián)系方式、門禁政策、電話號(hào)碼真實(shí)性等事實(shí)時(shí)，最后依然自信生成“親測(cè)有效”“確保暢通”“監(jiān)控顯示已到達(dá)”等虛假陳述，可見(jiàn)人工智能的根本缺陷不在于“犯錯(cuò)”，而在于無(wú)法識(shí)別自己正在犯錯(cuò)。這種缺乏“知道自己不知道”的能力，是當(dāng)前AI最危險(xiǎn)的盲區(qū)，這方面是否有對(duì)齊的可能？

4.不能只寄希望于用魔法打敗魔法，提高人類的“AI素養(yǎng)”已成為必修課。用戶在和模型開始對(duì)話之前，都會(huì)收到提示：輸出內(nèi)容由AI生成，醫(yī)療、法律、金融等專業(yè)領(lǐng)域的內(nèi)容不構(gòu)成任何診療、法律或投資建議，請(qǐng)注意甄別；在每一條回答后，也有提示：本回答由AI生成，內(nèi)容僅供參考，請(qǐng)仔細(xì)甄別。但經(jīng)過(guò)第一人稱下的多輪對(duì)話之后，很多人會(huì)對(duì)自己的交流對(duì)象產(chǎn)生“人格信任”。我們需要牢記：技術(shù)變革再劇烈，我們對(duì)判斷力和決策力的需要是永恒不變的。恰如我們不會(huì)把家里的鑰匙交給馬路上剛認(rèn)識(shí)的陌生人，也不要輕易將你的隱私泄露給還沒(méi)見(jiàn)過(guò)面的AI。