大模型的能力再?gòu)?qiáng)，也無(wú)非是把人類(lèi)的表面功夫?qū)W得更像；大模型的認(rèn)知輸出，與人類(lèi)做出的判斷有著本質(zhì)的區(qū)別；它不是真正的認(rèn)知主體，它不會(huì)承擔(dān)什么，也并不相信什么；它極盡掌握人類(lèi)之術(shù)，而全無(wú)人類(lèi)之道。

最近一項(xiàng)來(lái)自歐洲的研究，進(jìn)一步揭示了人類(lèi)智能與人工智能之間的本質(zhì)區(qū)別。由羅馬Sapienza大學(xué)計(jì)算機(jī)科學(xué)系Walter Quattrociocchi等三位學(xué)者合寫(xiě)的論文《人類(lèi)智能與人工智能之間的認(rèn)識(shí)論斷層線》（Epistemological Fault Lines Between Human and Artificial Intelligence ），引發(fā)了廣泛的關(guān)注。

這個(gè)研究團(tuán)隊(duì)，包括了計(jì)算機(jī)科學(xué)、心理學(xué)、數(shù)學(xué)和科學(xué)等領(lǐng)域的學(xué)者。他們發(fā)現(xiàn)，盡管大型語(yǔ)言模型（LLM）通常被描述為人工智能，但其認(rèn)識(shí)論特征與人類(lèi)認(rèn)知之間存在根本性的差異。人類(lèi)與機(jī)器輸出在表層上的對(duì)齊，掩蓋了生成這些結(jié)果的底層過(guò)程在機(jī)制上的深度錯(cuò)位。大型語(yǔ)言模型并非認(rèn)識(shí)論意義上的“認(rèn)知主體”，而應(yīng)被理解為概率性的模式補(bǔ)全系統(tǒng)；在形式上，它們更類(lèi)似于在高維語(yǔ)言轉(zhuǎn)移圖上的隨機(jī)游走過(guò)程，而非基于信念結(jié)構(gòu)或世界模型進(jìn)行推理的系統(tǒng)。

通過(guò)對(duì)人類(lèi)智能與人工智能認(rèn)識(shí)流程的系統(tǒng)性對(duì)照分析，他們定義了七條關(guān)鍵的認(rèn)識(shí)論斷層線：

1，錨定斷層（The Grounding fault）人類(lèi)將判斷錨定于感知的、具身的與社會(huì)性的經(jīng)驗(yàn)之中；大語(yǔ)言模型僅從文本出發(fā)，通過(guò)符號(hào)間接重構(gòu)意義。

2，情境解析斷層（The Parsing fault）人類(lèi)通過(guò)整合的感知與概念過(guò)程來(lái)解析情境；大語(yǔ)言模型則進(jìn)行機(jī)械式的分詞處理，生成在結(jié)構(gòu)上便利但在語(yǔ)義上單薄的表征。

3，經(jīng)驗(yàn)斷層（The Experience fault）人類(lèi)依賴(lài)情景記憶、直覺(jué)物理與直覺(jué)心理，以及習(xí)得的概念；大語(yǔ)言模型僅依賴(lài)嵌入空間中編碼的統(tǒng)計(jì)關(guān)聯(lián)。

4，動(dòng)機(jī)斷層（The Motivation fault）人類(lèi)判斷受情感、目標(biāo)、價(jià)值以及進(jìn)化塑造的動(dòng)機(jī)所引導(dǎo)；大語(yǔ)言模型不具備內(nèi)在偏好、目標(biāo)或情感意義。

5，因果斷層（The Causality fault）人類(lèi)借助因果模型、反事實(shí)推理與有原則的評(píng)估進(jìn)行思考；大語(yǔ)言模型在不構(gòu)建因果解釋的情況下整合文本語(yǔ)境，而是依賴(lài)表層相關(guān)性。

6，元認(rèn)知斷層（The Metacognitive fault）人類(lèi)能夠監(jiān)控不確定性、識(shí)別錯(cuò)誤，并可以懸置判斷；大語(yǔ)言模型缺乏元認(rèn)知，且必須始終產(chǎn)生輸出，從而使幻覺(jué)在結(jié)構(gòu)上不可避免。

7，價(jià)值斷層（The Value fault）人類(lèi)判斷反映身份、道德以及現(xiàn)實(shí)世界中的利害關(guān)系；大語(yǔ)言模型的“判斷”只是概率性的下一個(gè)詞元預(yù)測(cè)，不具備內(nèi)在價(jià)值或可追責(zé)性。

因?yàn)檫@些認(rèn)識(shí)斷層，大模型整體表現(xiàn)出一種“認(rèn)識(shí)表象”（Epistemia），其中語(yǔ)言層面的似真性取代了真正的認(rèn)識(shí)論評(píng)估，從而制造出一種無(wú)需判斷付出的的“知道感”。

論文認(rèn)為幻覺(jué)是大語(yǔ)言模型的固有缺陷。它們不是某個(gè)本應(yīng)具備認(rèn)知能力的系統(tǒng)所出現(xiàn)的異常，而是從統(tǒng)計(jì)模型中采樣的必然結(jié)果 —— 這類(lèi)模型并未編碼指涉關(guān)系、真值條件或證據(jù)約束。在生成式系統(tǒng)中，生成與外部現(xiàn)實(shí)脫節(jié)的內(nèi)容并非例外，而是其默認(rèn)的運(yùn)行狀態(tài)。

盡管Transformer加上擴(kuò)展定律（scaling law），是大模型的利器，在諸多領(lǐng)域中表現(xiàn)流暢且具有適應(yīng)性。但是，大模型依據(jù)的是統(tǒng)計(jì)規(guī)律，提取自人類(lèi)生成文本，而非對(duì)世界的表征。它們所呈現(xiàn)出的能力，源于對(duì)語(yǔ)言如何運(yùn)作的學(xué)習(xí)，而非對(duì)事實(shí)狀況形成信念。它們并不追蹤真值條件或因果結(jié)構(gòu)，而是追蹤文本中的共現(xiàn)模式、關(guān)聯(lián)關(guān)系與延續(xù)方式。

從這一意義上說(shuō)，擴(kuò)展定律并不是從語(yǔ)言自動(dòng)化通向認(rèn)知的橋梁。增加數(shù)據(jù)規(guī)模與參數(shù)數(shù)量，只是細(xì)化了一個(gè)函數(shù)逼近器，并未改變其底層計(jì)算方式。擴(kuò)展增加了覆蓋面，也讓語(yǔ)言變得更平滑，但不是認(rèn)識(shí)論上的通達(dá)性。它改善了與人類(lèi)輸出在表層上的對(duì)齊，卻并未在內(nèi)部過(guò)程上促成趨同。

哈佛大學(xué)知名心理學(xué)家平克（Steven Pinker）高度評(píng)價(jià)了這項(xiàng)研究，在于它對(duì)自然的與人工的智能之間做出了定性的分析。

既然AI與人類(lèi)的認(rèn)知有這種根本區(qū)別，它對(duì)于AI評(píng)價(jià)體系、治理框架都會(huì)帶來(lái)重大影響。研究者們尤其提出，社會(huì)中的組織日益圍繞生成式人工智能，需要建立起認(rèn)識(shí)論的素養(yǎng)。他們提出了如下建議：

評(píng)測(cè)：作者們明確反對(duì)當(dāng)前主流的評(píng)測(cè)邏輯，即用“模型是否像一個(gè)好答題者”來(lái)評(píng)估。他們指出，這種評(píng)估方式只檢驗(yàn)輸出的外觀，而不檢驗(yàn)判斷的過(guò)程。認(rèn)識(shí)論測(cè)評(píng)，要超越表面對(duì)齊。不該只看答案對(duì)不對(duì)，而要看系統(tǒng)在什么時(shí)候應(yīng)該“不回答”、是否能暴露不確定性、是否對(duì)因果變化敏感。

治理：要超越行為合規(guī)。作者們非常明確地批評(píng)了當(dāng)前 AI 治理的主流路徑，即關(guān)注模型有沒(méi)有說(shuō)“壞話(huà)”；有沒(méi)有違法、歧視、仇恨內(nèi)容；有沒(méi)有行為對(duì)齊。他們認(rèn)為這抓錯(cuò)了層級(jí)。真正的風(fēng)險(xiǎn)不是模型說(shuō)錯(cuò)，而是亂說(shuō)，它在不具備判斷能力的情況下，被當(dāng)成判斷機(jī)制來(lái)使用。

因此，要限定可讓AI替代的場(chǎng)景，區(qū)分輔助性使用（起草、檢索、提示）和判斷性使用（醫(yī)療、法律、政策、新聞）。后者中不能允許模型成為“最終判斷者”，這不是技術(shù)建議，而是制度設(shè)計(jì)建議。

作者們認(rèn)為，僅僅標(biāo)注“使用了 AI”是不夠的。應(yīng)該披露的是AI是否核驗(yàn)了事實(shí)，是否管理了不確定性輸出是有證據(jù)支持的？推測(cè)性的？還是純語(yǔ)言生成的？重點(diǎn)不是“使用了 AI”，而是AI 在這個(gè)流程中，是否被當(dāng)成了判斷主體。

不要迷信技術(shù)增強(qiáng)，那也只是緩解問(wèn)題，而不是解決問(wèn)題。作者特別點(diǎn)名RAG、工具調(diào)用、外部記憶等，這些都不能解決認(rèn)識(shí)論問(wèn)題，只可能降低部分錯(cuò)誤率，卻可能增強(qiáng)權(quán)威感與說(shuō)服力。因此，技術(shù)增強(qiáng)必須伴隨制度約束，否則會(huì)加劇認(rèn)識(shí)表象癥。

教育：面對(duì)AI，教育應(yīng)該從“批判性思維”升級(jí)為“認(rèn)識(shí)論素養(yǎng)”（epistemic literacy），這是論文中最人文、但也最深的一點(diǎn)。因?yàn)閭鹘y(tǒng)批判性思維假設(shè)判斷者就是表達(dá)者，論證等于信念，錯(cuò)誤相當(dāng)于認(rèn)知失??；但在生成式 AI 環(huán)境中，判斷被“外包”，表達(dá)被“自動(dòng)化”，信念不再由表達(dá)者承擔(dān)。

認(rèn)識(shí)論素養(yǎng)不是教人多懷疑，而是教人識(shí)別判斷是否真的發(fā)生，識(shí)別那7條認(rèn)識(shí)論斷層線的癥狀：面對(duì)AI的回答，需要重建判斷流程，如什么時(shí)候必須二次核查，什么時(shí)候應(yīng)當(dāng)拒絕現(xiàn)成答案。認(rèn)識(shí)論素養(yǎng)教人如何在一個(gè)“判斷被模擬”的環(huán)境中，重新把判斷奪回來(lái)。

最后這一點(diǎn)尤其重要。如果說(shuō)在一些工作場(chǎng)景中，人類(lèi)會(huì)把一些可以放心的判斷交給AI，在教育中，必須建培養(yǎng)出學(xué)生的判斷能力。AI進(jìn)入學(xué)校，改變教育，終將造就其原生的一代。人類(lèi)要保持其認(rèn)識(shí)世界的主體地位，就要從娃娃抓起。

論文原文：

https://osf.io/preprints/psyarxiv/c5gh8_v1