国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

錯(cuò)用AI的人,實(shí)在太多了!

0
分享至


內(nèi)容來源:2026年3月7日,在深圳舉辦的筆記俠PPE書院西哲坊03期第3講【真理與決策】?jī)?nèi)容筆記。

分享嘉賓:蘇德超,武漢大學(xué)哲學(xué)學(xué)院教授、博士生導(dǎo)師、筆記俠PPE書院創(chuàng)始顧問、西方哲學(xué)模塊全程授課導(dǎo)師。

高級(jí)筆記達(dá)人 | 李云

責(zé)編| 賈寧排版| 拾零

第 9511篇深度好文:7682字 | 20 分鐘閱讀

哲學(xué)思維

筆記君說:

AI正在以驚人速度接管我們的工作流程,但它也正在成為決策失誤的放大器。當(dāng)所有人都沉浸在"效率革命"的驚喜中時(shí),一個(gè)危險(xiǎn)的真相被忽略了:AI不會(huì)幫你承擔(dān)責(zé)任,它只會(huì)在你犯錯(cuò)時(shí),讓你錯(cuò)得更快、更徹底。

3月7日,武漢大學(xué)哲學(xué)學(xué)院教授、筆記俠PPE書院創(chuàng)始顧問、西方哲學(xué)模塊全程授課導(dǎo)師蘇德超老師,在筆記俠PPE書院西哲坊03期的課堂上為我們拆解了科學(xué)決策的底層邏輯。

他講透了為什么找不到中間變量的措施,全是無效的壞措施;再深挖了大模型幻覺的核心成因,還拆解用AI做決策最容易踩的3個(gè)致命坑;更點(diǎn)破一個(gè)扎心真相:比AI幻覺更可怕的,是我們?nèi)祟惖闹鲃?dòng)幻覺。

文末還有可直接落地的4步核查法,幫你建立一套可追溯、可糾錯(cuò)的決策系統(tǒng),在不確定的世界里,做出真正穩(wěn)準(zhǔn)可控的判斷,做自己決策的主人。

希望今天的分享,對(duì)你有所啟發(fā)。

一、所有靠譜的決策,

都必須找到中間變量

所有的因果關(guān)系,都應(yīng)該找到一個(gè)中間變量,找不到中間變量的措施,都是壞措施。

比如,“通過老師的輔導(dǎo),我孩子就變好了”這句話,就值得推敲。

很多經(jīng)過老師輔導(dǎo)的孩子并沒有變好。老師的輔導(dǎo)改變了孩子的“什么”,孩子才變好了?重要的不是老師的輔導(dǎo),而是這個(gè)“什么”。要把這個(gè)“什么”找到,一定要找到中間變量。

找不到的中間變量,是什么?那是愛,那是信仰,愛是沒有中間變量的,它是最直接的。但是我們所有人類可以操作的東西,都是在操作中間變量。

所以做決策,一定要找到中間變量。沒有中間變量的決策,就跟表白似的:“我愛你”,對(duì)方問“為什么愛我”,你說不出個(gè)所以然,這對(duì)愛有意義。因?yàn)檎鎼劬芙^中間變量。

你要是說“我圖你有錢”,對(duì)方大概率不喜歡;你說“我圖你長(zhǎng)得漂亮”,對(duì)方可能會(huì)喜歡,但也只是一陣子。不一定總有錢,也肯定不會(huì)一直漂亮。

傳聞中華爾街投資客說:永遠(yuǎn)不要為異性的漂亮買單。為什么?因?yàn)槠撂菀踪H值了,我們要購(gòu)買的是不貶值、能保值的東西。

眼下黃金為啥越來越貴?就是因?yàn)樗V?。而美麗呢,貶值速度特別快,年紀(jì)一上來就擋不住,哪怕靠化妝、整容也沒用,膠原蛋白只會(huì)以肉眼可見的速度流失。

這就是中間變量的重要性。決策必須找到它。不要只說“因?yàn)锳,所以B”,一定要在A和B之間找到C。

中間變量找得越多,你出錯(cuò)的可能性就越小。因?yàn)橹虚g變量多了,就給你留了回頭的機(jī)會(huì),它是一個(gè)指標(biāo),一旦某個(gè)中間變量變了,你就知道“壞了,我可能錯(cuò)了”。

舉個(gè)例子,要是你只盯著A到B,哪怕A還沒到B,你還會(huì)傻傻等;但如果是A先到C再到B,而C根本不可能出現(xiàn),你就不用等了,直接掉頭就行,不用浪費(fèi)時(shí)間。

在經(jīng)濟(jì)和科學(xué)領(lǐng)域,不存在“沒有中間變量”的情況,只有情感和信仰是例外。比如你的孩子愛你,沒有任何中間變量,就是純粹的愛,不為什么。這是人類最寶貴的情感,它恰恰不需要中間變量。也許有吧,我們希望沒有。

但我們做決策、搞管理,必須有中間變量,不然就無從研究、無從把控。管理本身就是過程,要是連中間環(huán)節(jié)都沒有,那根本不會(huì)有科學(xué)的決策。

二、AI為什么會(huì)一本正經(jīng)地胡說?

說到?jīng)Q策的科學(xué)性,就不得不提AI。

我們需要注意:AI輸出的不是事實(shí),因?yàn)锳I并不直接接觸世界,它接觸的都是數(shù)據(jù),而且還是二手?jǐn)?shù)據(jù)。

我們?nèi)祟惾プ稣{(diào)查,拿到的是一手?jǐn)?shù)據(jù)。AI接受的,就是我們調(diào)查結(jié)果的二手?jǐn)?shù)據(jù),而且這些數(shù)據(jù)還經(jīng)過了所謂的“清洗”。它自認(rèn)為是清洗,你怎么知道不是越洗越臟呢?

當(dāng)然,AI也有厲害的地方,就像做閱讀理解,好學(xué)生和差學(xué)生不一樣:差學(xué)生可能匆匆做完所有題,好學(xué)生卻能精準(zhǔn)提煉核心,從數(shù)據(jù)中提取、壓縮后還能保證正確,這是一種非常高級(jí)的能力。

但到目前為止,AI能不能保證,在決策鏈條中必須有可追溯、符合人類認(rèn)知的確鑿證據(jù)(grounding evidence)?如果沒有,它就會(huì)把幻覺當(dāng)成情報(bào)。

OpenAI團(tuán)隊(duì)在2025年7月出了一篇文章,標(biāo)題是《why language models hallucinate?》(為什么大語(yǔ)言模型有幻覺),專門講了大語(yǔ)言模型產(chǎn)生幻覺的原因。

文章首先定義了幻覺:就是語(yǔ)言模型會(huì)自信地生成“看起來合理,但實(shí)際上不真實(shí)”的事實(shí)。早期的大模型主要基于概率生成內(nèi)容,現(xiàn)在它們的邏輯推理能力已經(jīng)很強(qiáng)了,大模型的水平甚至能達(dá)到國(guó)際奧林匹克競(jìng)賽金獎(jiǎng)的級(jí)別。

所以回頭想想,我們應(yīng)該教孩子什么?國(guó)際奧林匹克競(jìng)賽金牌的大模型,過幾天大家可能很快就能用到了,你物理強(qiáng)、化學(xué)強(qiáng)不算什么,現(xiàn)在大家拼的核心是什么?

這篇文章的核心觀點(diǎn)就是:大模型之所以會(huì)出現(xiàn)幻覺,是因?yàn)橹髁鞯挠?xùn)練和評(píng)估機(jī)制,往往獎(jiǎng)勵(lì)“猜測(cè)”,而不是承認(rèn)“不確定”,這種激勵(lì)機(jī)制從根本上推動(dòng)了幻覺的形成。

這就跟我們高考前,老師跟我們說的一樣:哪怕這道題不會(huì),猜都要猜,萬一猜對(duì)了呢?訓(xùn)練早期大模型也是這樣:用戶問答案,哪怕不知道,也得猜一個(gè),猜對(duì)了客戶就會(huì)認(rèn)同,猜錯(cuò)了也沒關(guān)系。

所以第一代、第二代大模型,全都是這么干的;但現(xiàn)在的最新版本不一樣了,它會(huì)直接說“這個(gè)問題我不確定,不能給你回答”,已經(jīng)能做到這一點(diǎn)了。

還有一個(gè)關(guān)鍵點(diǎn):我們問AI的時(shí)候,永遠(yuǎn)要加一句“你不要急于做出判斷,要是覺得缺哪些信息,就問我,確保得到足夠信息后再做判斷”,它就真的會(huì)主動(dòng)問你問題。

一定要加這句話,現(xiàn)在AI已經(jīng)能做到了,這都是那篇文章發(fā)表之后的進(jìn)步,因?yàn)榇蠹叶家庾R(shí)到了“猜答案”的問題,在此之前,一旦不確定,它就是一味地猜。

不知道答案還去猜,有概率蒙對(duì),但如果直接說不知道,肯定得不了分。與其得不了分,不如猜一猜還有可能得分,這是很簡(jiǎn)單的推理。

有三種回答:答對(duì)、答錯(cuò)、棄權(quán)。棄權(quán)體現(xiàn)的是謙遜,但早期的大模型訓(xùn)練,并不給“謙遜”賦值,也就是說,謙遜得不到任何獎(jiǎng)勵(lì)。要么答錯(cuò)被懲罰,要么答對(duì)被獎(jiǎng)勵(lì),要是說“不知道”(棄權(quán)),也會(huì)被懲罰。既然都是被懲罰,那不如去猜一猜,還有可能蒙對(duì),這就是早期大模型總愛猜答案的原因。

可見,只看準(zhǔn)確率會(huì)掩蓋模型的錯(cuò)誤與幻覺問題,這是早期訓(xùn)練方式帶來的缺陷,單純用準(zhǔn)確率打分并不合理,后來則更注重真實(shí)可靠性。

在復(fù)雜的真實(shí)場(chǎng)景中,模型準(zhǔn)確率不可能長(zhǎng)期達(dá)到100%,因?yàn)榇嬖谛畔⑷笔?、問題歧義、能力邊界等客觀限制。因此,想靠追求滿分準(zhǔn)確率來消除幻覺并不現(xiàn)實(shí),幻覺本質(zhì)上無法徹底消除。


這一點(diǎn)已經(jīng)被論證:大模型不可能完全消除幻覺,就像人類也永遠(yuǎn)無法杜絕犯錯(cuò)一樣。承認(rèn)幻覺不可消除,才是科學(xué)的認(rèn)知。

從機(jī)制上看,幻覺和大模型“下一個(gè)詞預(yù)測(cè)”的預(yù)訓(xùn)練方式直接相關(guān)。模型學(xué)習(xí)的是語(yǔ)言模式與詞向量分布,而很多低頻、冷門的事實(shí)知識(shí)沒有穩(wěn)定規(guī)律,預(yù)測(cè)本身就容易出錯(cuò)。

幻覺源于能力邊界與信息缺失,所以無法根除。只有拼寫、括號(hào)匹配這類強(qiáng)規(guī)則任務(wù),會(huì)隨模型優(yōu)化越來越準(zhǔn)確;而生日等冷門知識(shí)的任務(wù),仍然容易輸出看似流暢、實(shí)則不可靠的內(nèi)容。

所以結(jié)論很明確:與其只增加少量新測(cè)試題,不如重構(gòu)行業(yè)通用的核心評(píng)估指標(biāo),讓整個(gè)行業(yè)從獎(jiǎng)勵(lì)“敢猜”轉(zhuǎn)向獎(jiǎng)勵(lì)“誠(chéng)實(shí)表達(dá)不確定”。

這篇文章發(fā)表后,大模型的表現(xiàn)確實(shí)改善很多:現(xiàn)在它真的會(huì)老實(shí)說“我不知道”,而不是隨便亂編。

放到組織和企業(yè)里也一樣:不知道就說不知道,反而更好。

明確說“我不知道”,大家才會(huì)意識(shí)到:這里缺信息、缺數(shù)據(jù)、缺推理。如果明明不懂還硬猜,一個(gè)人猜、兩個(gè)人附和,第三個(gè)人也跟著同意,最后全員拍板下注,風(fēng)險(xiǎn)極大。

三、用AI做決策,

最容易踩的3個(gè)致命坑

我們先看組織里對(duì)AI的誤用,再看組織幻覺。

第一個(gè)坑:把AI當(dāng)權(quán)威,把流暢自信當(dāng)成正確

首先,是把AI當(dāng)權(quán)威,把表達(dá)流暢、自信、速度快當(dāng)成正確性與可追責(zé)的結(jié)論,就如我們直接用龍蝦(openclaw),雖然它是我們放大的工具。從哲學(xué)本身來看,可能帶來兩個(gè)挑戰(zhàn)。

AI會(huì)嚴(yán)格執(zhí)行你給的策略和指令??梢坏┠愕牟呗员旧砭褪清e(cuò)的,AI只會(huì)更高效、更精準(zhǔn)地把錯(cuò)誤執(zhí)行到底,你還很難及時(shí)發(fā)現(xiàn),直到釀成災(zāi)難性后果。


AI本質(zhì)上只是在提升執(zhí)行效率,不會(huì)主動(dòng)更新你的底層邏輯。任務(wù)是你派的,團(tuán)隊(duì)是你搭的,老板一開始就錯(cuò)了,AI只會(huì)幫你錯(cuò)得更快、更徹底。

這也是AI和人類員工最大的區(qū)別:人有情緒、有判斷,會(huì)提醒、會(huì)反駁,你能感知到風(fēng)險(xiǎn)。但你把AI訓(xùn)練得越“聽話”,它越?jīng)]有情緒、不會(huì)質(zhì)疑。

我們訓(xùn)練AI工作流時(shí),追求的是流暢、自信、響應(yīng)快、執(zhí)行力強(qiáng)。但前提一旦錯(cuò)了,AI根本不會(huì)質(zhì)疑你的出發(fā)點(diǎn);真要讓它隨便質(zhì)疑前提,效率就會(huì)極低。

這也意味著:前提的討論、哲學(xué)與管理的底層邏輯,會(huì)變得無比重要。只要底層不錯(cuò),AI就不會(huì)放大錯(cuò)誤;底層一錯(cuò),AI就是錯(cuò)誤的加速器。一根杠桿并不區(qū)分兩頭的內(nèi)容。

第二個(gè)坑:把AI當(dāng)事實(shí)庫(kù),不做溯源和核查

你搭建的AI工作流,本質(zhì)上還是依賴大模型。而大模型的幻覺問題依然存在,無法徹底消失。

就算讓多個(gè)AI之間相互對(duì)話、交叉驗(yàn)證,幻覺也不會(huì)消失,甚至可能錯(cuò)誤疊加、越放越大。正確的信息很難指數(shù)級(jí)放大,但一個(gè)小錯(cuò)誤,卻很容易被不斷放大,這是極度不對(duì)稱的。

古人說,千里之堤潰于蟻穴。不能掩蓋錯(cuò)誤。一個(gè)幻覺可能越放越大,就形成了蝴蝶效應(yīng)。蝴蝶效應(yīng)往往是負(fù)面效應(yīng)擴(kuò)大,正面的很難有擴(kuò)大。


所以,我們養(yǎng)“龍蝦”,用AI,都要注意底層不能出錯(cuò),否則幻覺可能持續(xù)放大。

不要把AI當(dāng)權(quán)威,也不要把AI當(dāng)事實(shí)庫(kù)。AI沒辦法給我們事實(shí),一定要去追溯它的來源。

當(dāng)然,養(yǎng)“龍蝦”可以部分解決這個(gè)問題,你讓它去查,查了之后讓它把數(shù)據(jù)鏈給你注出來(在哪本書、多少頁(yè),在什么網(wǎng)址上),如果可以的話,還讓它對(duì)關(guān)鍵信息進(jìn)行截圖,不截圖都可能出錯(cuò)。

我沒養(yǎng)過“龍蝦”,但我用大模型去網(wǎng)上爬過資料。因?yàn)槲业囊黄恼乱鲆?,需要查相關(guān)資料。文章的主題是“AI來臨之后,我們可怎么辦呢?”背景是很多人都唱衰文科,但我覺得文科會(huì)越來越重要。

我引用了很多的觀點(diǎn),但出差在外,手頭沒有書,我就讓AI去查,要它找到觀點(diǎn)出處。

最初,它幾乎找到了所有出處。但當(dāng)我讓它截圖時(shí),它就普遍地回答“找不到”了。有些它找到了,有些它找不到。它找到的,未必是對(duì)的,它沒有找到的,未必不存在。所以,不要把AI當(dāng)事實(shí)庫(kù)。

第三個(gè)坑:把AI當(dāng)背鍋俠,出了事全怪模型

絕對(duì)不要把AI當(dāng)成背鍋俠。出了問題就怪模型,把責(zé)任一推了之,這是完全錯(cuò)誤的。從我做AI哲學(xué)研究的核心觀點(diǎn)來看:現(xiàn)階段,AI難以自主承擔(dān)責(zé)任,真正負(fù)責(zé)的只能是人。

所以使用AI時(shí),必須明確指定責(zé)任人。AI確實(shí)能極大提升效率,但它只提供選項(xiàng)和依據(jù),最終決策永遠(yuǎn)是人來做,責(zé)任永遠(yuǎn)是你的,可靠性不能只靠愿望。


這個(gè)世界本身并不完美,但我們必須通過人來負(fù)責(zé)、通過機(jī)制來約束,就相對(duì)穩(wěn)定一點(diǎn)。

四、怎樣對(duì)抗AI幻覺帶來的

三大核心風(fēng)險(xiǎn)?

AI給出的是線索,不是答案;AI給出的是建議,不是決策。因?yàn)樗荒茏圆椋荷墒侥P偷谋举|(zhì),就是在給定輸入和訓(xùn)練分布下,生成高概率的文本,這不等于檢索事實(shí)。

所以才會(huì)出現(xiàn)三類風(fēng)險(xiǎn),核心都是幻覺:

第一,編造信息:比如編造數(shù)據(jù)、編造因果鏈,明明沒有的事,它能說得有模有樣;

第二,錯(cuò)配信息:時(shí)間點(diǎn)不對(duì)、地區(qū)或行業(yè)不對(duì),把一個(gè)行業(yè)的經(jīng)驗(yàn)套到另一個(gè)行業(yè),很可能全錯(cuò),畢竟不同行業(yè)的情況天差地別;

第三,偏差和漂移:訓(xùn)練數(shù)據(jù)本身有偏差,或者現(xiàn)實(shí)情況已經(jīng)變了,但AI還是自信地輸出舊結(jié)論,自然會(huì)出錯(cuò)。

更關(guān)鍵的是,AI一旦進(jìn)入組織,風(fēng)險(xiǎn)就不只是“答案錯(cuò)了”那么簡(jiǎn)單。錯(cuò)的答案會(huì)被規(guī)模化傳播,進(jìn)入郵件、進(jìn)入?yún)R報(bào)、進(jìn)入我們的決策。我們的公司、我們的組織,會(huì)變成AI錯(cuò)誤的放大器和杠桿,最后釀成悲劇。

解決這個(gè)問題的路徑,不是一味追求“更大的模型”,而是要做到“來源可追溯”:所有結(jié)論都要建立在事實(shí)基礎(chǔ)上,數(shù)據(jù)血緣必須清晰:這個(gè)數(shù)據(jù)指標(biāo)從哪來、誰(shuí)能修改,都要明確;人機(jī)責(zé)任要分清,誰(shuí)為AI的輸出負(fù)責(zé),必須確定。


你可以用AI,但你要為最終的結(jié)果負(fù)責(zé)任,就像你開車,車可以給你開,但走錯(cuò)路、出事故,責(zé)任永遠(yuǎn)是你的。

有個(gè)4步核查法,可以讓我們避開AI胡說的坑。所有用于決策的AI結(jié)論,必須附上這四點(diǎn):

信息來源是什么?生效時(shí)間是何時(shí)?統(tǒng)計(jì)口徑是什么?核查人是誰(shuí)?這些必須標(biāo)注清楚,責(zé)任落實(shí)到人,而不是推給AI。

另外,關(guān)鍵指標(biāo)要建立明確的口徑和負(fù)責(zé)人,還要定期做抽樣審計(jì)。在會(huì)議上也要明確:AI可以用來起草文件、匯總信息、提出假設(shè),但絕對(duì)不能作為最終的事實(shí)依據(jù),至少到目前為止是這樣。

所以,我們面對(duì)AI時(shí),一定要有核查思維,多問四個(gè)問題:

這個(gè)信息來自哪里?生效時(shí)間是什么時(shí)候,什么時(shí)候更新的,現(xiàn)在過時(shí)了嗎?這個(gè)結(jié)論、這個(gè)數(shù)字的口徑是什么,定義是什么?能不能復(fù)查?

比如AI顯示“38%的人對(duì)某產(chǎn)品滿意”,那什么叫“滿意”?口徑是誰(shuí)定的?這很重要,口徑一松一緊,結(jié)果天差地別。以10分值為例,6分以上算滿意,還是8分以上才算?

責(zé)任一定要明確:誰(shuí)核查過、誰(shuí)簽字,誰(shuí)就負(fù)責(zé);把AI結(jié)論放進(jìn)決策材料的人,一定要簽字。你要用AI,就必須承擔(dān)這個(gè)責(zé)任。

很多人有個(gè)誤解,覺得沒必要做這些核查工作,但其實(shí)不然。

我們可以做一個(gè)AI數(shù)據(jù)溯緣與核查表,明確這些內(nèi)容:數(shù)據(jù)源頭是誰(shuí)?口徑定義是什么,分子、分母分別是什么,包含什么、不包含什么?誰(shuí)能修改這個(gè)數(shù)據(jù)?我們?cè)趺打?yàn)證它、怎么抽樣審計(jì)?AI的引用規(guī)則是什么?在哪些異常情況下,必須暫停使用AI、進(jìn)行人工復(fù)核?

這些規(guī)則一定要清晰,AI我們當(dāng)然要用,但要用得規(guī)范、用得安全。

五、比AI幻覺更可怕的,

是人類的主動(dòng)幻覺

面對(duì)AI,我們要轉(zhuǎn)變思維:把自己當(dāng)成AI的審計(jì)員,它是員工,我們負(fù)責(zé)審計(jì),這樣就對(duì)了。

而且大家會(huì)發(fā)現(xiàn),從AI幻覺到人類幻覺,底層邏輯是一樣的。AI的幻覺,其實(shí)就是我們?nèi)祟愖陨砘糜X的投射。

舉個(gè)例子:你下班回家本來就累,你老公或老婆又告訴你孩子沒考好,你還在家長(zhǎng)會(huì)上被班主任陰陽(yáng)怪氣說了一頓。這時(shí)你一推門,看見孩子在桌子旁,身體一彈,還把抽屜推進(jìn)去了。你立馬就火了:“又在玩手機(jī)、打游戲?成績(jī)那么差還玩!”

這個(gè)邏輯看起來特別合理,但你有沒有想過,他可能根本沒打游戲?他可能正在拿試卷、拿文具,看到你進(jìn)來太緊張,條件反射地把抽屜推回去了,這完全有可能。

就像親子教育里,我們常說“你就是懶,別找理由”,這就和模型被獎(jiǎng)勵(lì)給出確定答案一樣:我們把自己的主觀動(dòng)機(jī),當(dāng)成了客觀事實(shí),卻缺少“我不確定,我需要證據(jù)”的意識(shí)。

這和AI幻覺一模一樣:你把一個(gè)“最容易想到、最符合自己情緒”的答案,當(dāng)成了真實(shí)答案。AI也是如此,它輸出的不是正確答案,而是它最容易找到、最符合訓(xùn)練分布的答案。

我們?nèi)祟愐惨粯?,孩子一次考差,就斷定“他根本沒用功”;對(duì)方不回消息,就認(rèn)定“他不在乎我”。這都是把單次觀測(cè)當(dāng)成了充足的訓(xùn)練數(shù)據(jù),缺少中間變量的考量。

我們?cè)诓淮_定的場(chǎng)景里,被迫生成一個(gè)答案,而這個(gè)答案還被情緒左右,最后生成了一個(gè)“最像正確答案”的猜測(cè)。

就像對(duì)方不回消息,你根本不會(huì)想“他是不是在開車、在開會(huì)、在跟重要的人聊天”,反而會(huì)鉆牛角尖:“他不及時(shí)回復(fù),就是不在乎我”,情緒拉滿,最后吵起來,這和AI瞎猜亂輸出,簡(jiǎn)直一模一樣。

在公司協(xié)作時(shí),我們也經(jīng)常能聽到這些話:“這個(gè)需求已經(jīng)很清楚了,你怎么還做錯(cuò)呢?”“大會(huì)、小會(huì)說了那么多,怎么還錯(cuò)了呀?”

這也很像AI幻覺,把看見的清楚當(dāng)成已經(jīng)對(duì)齊了。那你是不是沒有給具體指標(biāo)?給了指標(biāo)之后是不是沒有提醒他有哪些驗(yàn)算點(diǎn)?驗(yàn)算的時(shí)間對(duì)齊了嗎?都沒有。

他(下屬)確實(shí)做錯(cuò)了,但你把你的責(zé)任盡到了嗎?準(zhǔn)確表達(dá)了嗎?在該需要你跟他做過程對(duì)齊的時(shí)候,你對(duì)齊了嗎?

一些公司的領(lǐng)導(dǎo)經(jīng)常說“這事別解釋,結(jié)果說明一切,你就是不認(rèn)真”,這就是把單一的輸出結(jié)果當(dāng)成真實(shí)的標(biāo)簽。

類似的話還有“像個(gè)好答案,就是個(gè)好答案”“現(xiàn)在提風(fēng)險(xiǎn)就是不想擔(dān)責(zé),提什么風(fēng)險(xiǎn)”,這樣說連證偽精神都沒有了,肯定會(huì)出錯(cuò)。

這時(shí)組織激勵(lì)在起作用,表達(dá)不確定會(huì)被懲罰,表達(dá)確定就會(huì)被獎(jiǎng)勵(lì),于是系統(tǒng)就開始偏向于大膽生成,而不是校準(zhǔn)與保守。

所以,永遠(yuǎn)不要對(duì)下屬說這樣的話:你們給我承諾,你提風(fēng)險(xiǎn),你就是不擔(dān)責(zé)任。

這樣你沒法負(fù)責(zé),就相當(dāng)于你在訓(xùn)練第一代、第二代大模型,每個(gè)答案猜一個(gè),給不出你就是“懶”,這樣任何時(shí)候它都給你答案,但這個(gè)答案是不確定的。

而你,只是為了完成流程,它猜了答案之后,你趕緊簽個(gè)字,往上一遞交,上面給拍板,就這么干。決策流程都做了,但沒有人負(fù)責(zé),因?yàn)檎麄€(gè)流程都是對(duì)的。

部門溝通時(shí),有人會(huì)說:“按照經(jīng)驗(yàn),這次一定翻車,別冒險(xiǎn),按老辦法干”。這也是個(gè)AI幻覺實(shí)驗(yàn):用過去熟悉的模板替代對(duì)當(dāng)前情景的驗(yàn)證。

不能這么講,你要說“這次怎么翻車,把道理講出來”,找到一個(gè)證偽點(diǎn)就夠了。不要說“按經(jīng)驗(yàn)不起作用”這種話。

在算法時(shí)代,清潔的數(shù)據(jù)是唯一的硬通貨。數(shù)據(jù)是干凈的,這是最重要的東西。算力很容易打造,但數(shù)據(jù)很難。

現(xiàn)在大模型訓(xùn)練最缺的是什么?高質(zhì)量數(shù)據(jù)的匱乏。

大家用DeepSeek都有一個(gè)感覺,剛剛出來的時(shí)候非常牛,用上半年之后體感水平下降了,為什么?有人說,這是因?yàn)?,大量的網(wǎng)友跟它聊天,把它水平搞下來了。這個(gè)未必對(duì),但其中有正確的直覺。

在智人社群,干凈的事實(shí)是最穩(wěn)的出發(fā)點(diǎn)。我們是智人,我們是動(dòng)物里面最厲害的那群動(dòng)物,在智人的群落里面,干凈的事實(shí)是最穩(wěn)定的,事實(shí)要是干凈的,沒有被錯(cuò)誤地清洗過的。

把AI當(dāng)人,把人當(dāng)AI,就會(huì)極大地降低認(rèn)知負(fù)擔(dān)。

結(jié)語(yǔ)

很多人唱衰文科,覺得AI時(shí)代數(shù)理能力才是核心,但真相并不那么簡(jiǎn)單:AI能替代奧林匹克金獎(jiǎng)級(jí)別的解題能力,卻替代不了底層的邏輯判斷、因果洞察、證偽思維和責(zé)任擔(dān)當(dāng)。

對(duì)抗AI幻覺,本質(zhì)是修煉自己的認(rèn)知能力。我們要做的,不是追求一個(gè)永遠(yuǎn)正確的AI,而是建立一套“承認(rèn)不確定性、敬畏客觀事實(shí)、可追溯、可糾錯(cuò)”的決策系統(tǒng)。

這個(gè)世界永遠(yuǎn)是不確定的,真正靠譜的決策,從來都不是找到一個(gè)全對(duì)的答案,而是哪怕身處不確定中,也能守住事實(shí)的底線、承擔(dān)決策的責(zé)任。

我們要永遠(yuǎn)記?。?b>AI給出的是線索,不是答案;是建議,不是決策。沒有可追溯的事實(shí),就沒有靠譜的決策;沒有中間變量因果鏈條,全是自欺欺人的賭局。

AI是提升效率的工具,而我們永遠(yuǎn)是決策的主人。

今天我們深嵌于一個(gè)政治、經(jīng)濟(jì)、科技、哲學(xué)都在經(jīng)歷持續(xù)變革和深刻重塑的復(fù)雜社會(huì)與商業(yè)系統(tǒng)之中。

真正的挑戰(zhàn)是:我們的認(rèn)知框架、組織形態(tài)和行動(dòng)工具,還停留在“前AI時(shí)代”。在前所未有的復(fù)雜系統(tǒng)性變革中,我們需要的是理解世界底層的“元能力”。

面向AI新時(shí)代,筆記俠PPE(哲學(xué)、政治學(xué)與經(jīng)濟(jì)學(xué))課程,正是為理解這樣的復(fù)雜系統(tǒng)而生:理解國(guó)際貿(mào)易與經(jīng)濟(jì)政策、理解國(guó)際政治與治理模式、理解全球技術(shù)與科技范式、理解AI哲學(xué)和科技經(jīng)濟(jì)、理解文明進(jìn)程與哲學(xué)意義。這是第五代企業(yè)家應(yīng)有的一套“操作系統(tǒng)”。

筆記俠PPE課程26級(jí)招生現(xiàn)已啟動(dòng)。駕馭技術(shù)、洞察世界、扎根中國(guó)、修煉心力,在應(yīng)對(duì)時(shí)代重重挑戰(zhàn)中尋找決策底牌。

穿越變革的舊世界,找到時(shí)代的新大陸,從升級(jí)你的PPE決策底層開始。

歡迎你掃描下方海報(bào)二維碼,添加課程主理人咨詢?cè)斍椤?/p>


好文閱讀推薦:

“子彈筆記”是筆記俠的矩陣公眾號(hào),聚焦職場(chǎng)效率追求、人際關(guān)系與高潛成長(zhǎng)者,幫你3分鐘吃透核心觀點(diǎn)和方法論。歡迎關(guān)注~

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
雷軍千里直播難自證,小米公關(guān)為何總錯(cuò)位?

雷軍千里直播難自證,小米公關(guān)為何總錯(cuò)位?

黑企鵝觀察
2026-04-19 10:40:55
五一假期火車票開售以來,鐵路12306拒絕出票105.6萬張

五一假期火車票開售以來,鐵路12306拒絕出票105.6萬張

環(huán)球網(wǎng)資訊
2026-04-19 15:23:04
央視揭露:美國(guó)1年投1300萬美元在中國(guó)搞“滲透”,俄羅斯、伊朗、古巴也是重點(diǎn)目標(biāo);細(xì)節(jié)曝光

央視揭露:美國(guó)1年投1300萬美元在中國(guó)搞“滲透”,俄羅斯、伊朗、古巴也是重點(diǎn)目標(biāo);細(xì)節(jié)曝光

極目新聞
2026-04-19 11:39:23
美尖端領(lǐng)域10人接連死亡,美前高官:FBI調(diào)查或發(fā)現(xiàn)“難以置信的離奇情況”

美尖端領(lǐng)域10人接連死亡,美前高官:FBI調(diào)查或發(fā)現(xiàn)“難以置信的離奇情況”

紅星新聞
2026-04-19 15:48:10
萬達(dá)電影,明天改名!王健林時(shí)代落幕

萬達(dá)電影,明天改名!王健林時(shí)代落幕

新民晚報(bào)
2026-04-19 19:54:05
英超德比2-1:兩人重傷+火爆沖突+100分鐘絕殺 10.2億豪門坐穩(wěn)前5

英超德比2-1:兩人重傷+火爆沖突+100分鐘絕殺 10.2億豪門坐穩(wěn)前5

狍子歪解體壇
2026-04-19 23:07:25
何潤(rùn)東回應(yīng)亮相“蘇超”為何不騎馬:10年前一定騎馬,現(xiàn)在50多歲了,“一摔下來就幻滅,對(duì)項(xiàng)羽不太尊重,想給大家留下美好印象”

何潤(rùn)東回應(yīng)亮相“蘇超”為何不騎馬:10年前一定騎馬,現(xiàn)在50多歲了,“一摔下來就幻滅,對(duì)項(xiàng)羽不太尊重,想給大家留下美好印象”

揚(yáng)子晚報(bào)
2026-04-19 09:12:34
為什么全國(guó)人民都在拒接電話?

為什么全國(guó)人民都在拒接電話?

黯泉
2026-04-18 17:00:56
普京時(shí)代進(jìn)入倒計(jì)時(shí),中國(guó)必須警惕俄羅斯政策突變

普京時(shí)代進(jìn)入倒計(jì)時(shí),中國(guó)必須警惕俄羅斯政策突變

阿七說史
2026-04-18 15:47:09
停止焦慮最好的辦法,不是讀書,不是運(yùn)動(dòng),而是……

停止焦慮最好的辦法,不是讀書,不是運(yùn)動(dòng),而是……

壹心理
2026-04-19 11:03:36
全國(guó)各地區(qū)人均居民存款排行:北京領(lǐng)跑,浙江亮眼,東北三省也很高

全國(guó)各地區(qū)人均居民存款排行:北京領(lǐng)跑,浙江亮眼,東北三省也很高

戶外釣魚哥阿旱
2026-04-18 12:49:37
下周預(yù)期要大漲方向!五大熱點(diǎn)題材周末不斷發(fā)酵  核心標(biāo)的已梳理

下周預(yù)期要大漲方向!五大熱點(diǎn)題材周末不斷發(fā)酵 核心標(biāo)的已梳理

元芳說投資
2026-04-19 17:03:48
機(jī)關(guān)事業(yè)單位“緊日子”來臨,2026年起,這些費(fèi)用一律不再報(bào)銷

機(jī)關(guān)事業(yè)單位“緊日子”來臨,2026年起,這些費(fèi)用一律不再報(bào)銷

復(fù)轉(zhuǎn)這些年
2026-04-19 19:13:36
賽力斯車載馬桶引爭(zhēng)議!每臺(tái)車向華為交13.6萬背后,市值7個(gè)月腰斬

賽力斯車載馬桶引爭(zhēng)議!每臺(tái)車向華為交13.6萬背后,市值7個(gè)月腰斬

深藍(lán)財(cái)經(jīng)
2026-04-19 14:13:01
4月17日,日本開始賭國(guó)運(yùn)了

4月17日,日本開始賭國(guó)運(yùn)了

閑閑碎
2026-04-18 20:34:49
醪糟再次被關(guān)注!醫(yī)生發(fā)現(xiàn):高血脂患者喝醪糟,不用多久4大變化

醪糟再次被關(guān)注!醫(yī)生發(fā)現(xiàn):高血脂患者喝醪糟,不用多久4大變化

芹姐說生活
2026-04-19 15:52:53
以色列已失控?以軍炮打聯(lián)合國(guó)維和部隊(duì),法軍犧牲,馬克龍表態(tài)

以色列已失控?以軍炮打聯(lián)合國(guó)維和部隊(duì),法軍犧牲,馬克龍表態(tài)

來科點(diǎn)譜
2026-04-19 07:15:46
黃仁勛最怕的事:DeepSeek+華為正在發(fā)生

黃仁勛最怕的事:DeepSeek+華為正在發(fā)生

固件更新中
2026-04-18 20:04:19
以軍:打死阿里·里達(dá)·阿巴斯

以軍:打死阿里·里達(dá)·阿巴斯

南方都市報(bào)
2026-04-19 21:17:31
山東乳山銀灘“195平米復(fù)式房”1萬元起拍,已有多人競(jìng)價(jià),拍賣公司:產(chǎn)證面積97.94平米,另有贈(zèng)送面積,非法拍可隨時(shí)過戶

山東乳山銀灘“195平米復(fù)式房”1萬元起拍,已有多人競(jìng)價(jià),拍賣公司:產(chǎn)證面積97.94平米,另有贈(zèng)送面積,非法拍可隨時(shí)過戶

極目新聞
2026-04-19 14:06:31
2026-04-20 01:16:49
筆記俠 incentive-icons
筆記俠
互聯(lián)網(wǎng)最前沿的創(chuàng)業(yè)筆記
10049文章數(shù) 77640關(guān)注度
往期回顧 全部

科技要聞

50分26秒破人類紀(jì)錄!300臺(tái)機(jī)器人狂飆半馬

頭條要聞

半年下沉22厘米 女子家中坐擁價(jià)值上億別墅卻沒法住人

頭條要聞

半年下沉22厘米 女子家中坐擁價(jià)值上億別墅卻沒法住人

體育要聞

湖人1比0火箭:老詹比烏度卡像教練

娛樂要聞

何潤(rùn)東漲粉百萬!內(nèi)娛隔空掀桌第一人

財(cái)經(jīng)要聞

華誼兄弟,8年虧光85億

汽車要聞

29分鐘大定破萬 極氪8X為什么這么多人買?

態(tài)度原創(chuàng)

健康
數(shù)碼
手機(jī)
教育
軍事航空

干細(xì)胞抗衰4大誤區(qū),90%的人都中招

數(shù)碼要聞

亞馬遜明確:未來Fire TV Stick全換Vega OS

手機(jī)要聞

8.8英寸小鋼炮!REDMI K Pad 2核心配置揭曉

教育要聞

27fall,申請(qǐng)最容易翻車的三所英國(guó)大學(xué)!

軍事要聞

伊朗逼退美掃雷艇:美方求給15分鐘撤退

無障礙瀏覽 進(jìn)入關(guān)懷版