多年來，人工智能一直被包裝得近乎神奇。只要輸入足夠多的數(shù)據(jù)，訓(xùn)練一個(gè)足夠復(fù)雜的模型，智能就會涌現(xiàn)！預(yù)測能力提升！決策速度加！快系統(tǒng)會"學(xué)習(xí)"！這種敘事很方便，但也越來越具有誤導(dǎo)性。當(dāng)今AI的主導(dǎo)架構(gòu)假設(shè)了一種清晰的分離：數(shù)據(jù)是原材料，模型是智能的居所。一旦訓(xùn)練完成，數(shù)據(jù)就退居幕后，決策從抽象的權(quán)重、參數(shù)和損失函數(shù)中流出。

人們看重的只是模型的輸出，而不是支撐它的證據(jù)。這種分離正是當(dāng)前AI眾多失敗的根源——例如無法追溯的偏見、無法解釋的決策、條件變化時(shí)就會崩潰的預(yù)測。這也解釋了為什么對自動化系統(tǒng)的信任正在以與采用速度同樣快的速度喪失。

還有另一種構(gòu)建智能的方式。不是制造洞察力，而是測量它。在這套架構(gòu)中，模型即數(shù)據(jù)，數(shù)據(jù)即模型。不是比喻，而是機(jī)制。

為什么僅有相關(guān)性還不夠

大多數(shù)AI系統(tǒng)通過大規(guī)模發(fā)現(xiàn)相關(guān)性來運(yùn)作。如果兩件事物的共現(xiàn)頻率足夠高，模型就會把其中一個(gè)視為另一個(gè)的預(yù)測因素。這種方法在起作用的時(shí)候效果不錯(cuò)——直到它失效為止。相關(guān)性是脆弱的。當(dāng)環(huán)境變化、激勵(lì)轉(zhuǎn)變或行為適應(yīng)時(shí)，相關(guān)性就會斷裂。市場提供了無數(shù)例子：在失效之前一直有效的金融策略；針對悄然失效的假設(shè)而優(yōu)化的供應(yīng)鏈；放大噪音的推薦系統(tǒng)，因?yàn)樵胍粼?jīng)看起來像預(yù)測信號。問題不在于計(jì)算力的缺乏，而在于相關(guān)性沒有對不確定性的記憶。它無法告訴你一個(gè)關(guān)系有多可靠，只能告訴你它以前出現(xiàn)過。當(dāng)世界發(fā)生變化——它總是會變的——相關(guān)性無法指導(dǎo)什么應(yīng)該保留下來。

當(dāng)測量引領(lǐng)時(shí)會發(fā)生什么變化

《信息力學(xué)機(jī)制理論：通過不確定性測量實(shí)現(xiàn)泛化》（學(xué)習(xí)即測量）框架中描述的框架，不是用直覺取代模型，而是用測量取代模型。系統(tǒng)不是將一個(gè)全局函數(shù)擬合到數(shù)據(jù)上，而是測量數(shù)據(jù)的各個(gè)部分之間有多少可互換。學(xué)習(xí)變成量化不確定性的過程，使用驚奇度來確定一個(gè)觀測是否可以在不丟失信息的情況下替代另一個(gè)。沒有假設(shè)的分布。沒有固定的損失函數(shù)。沒有將知識凍結(jié)在時(shí)間中的訓(xùn)練階段。推理直接從數(shù)據(jù)執(zhí)行，通過識別最具信息量的案例，并根據(jù)其替代的驚奇程度進(jìn)行加權(quán)。泛化不存在于參數(shù)中，而是從一致的局部關(guān)系及其測量偏差中涌現(xiàn)。剩下的不是偽裝成真理的相關(guān)性，而是帶有每一步不確定性注釋的證據(jù)。這就是"數(shù)據(jù)即模型"的機(jī)械含義。

去除隱藏的“糖”

傳統(tǒng)模型依賴隱藏的糖：捷徑、代理和在訓(xùn)練過程中被“烘焙”進(jìn)去的歸納偏置。一旦“烘焙”進(jìn)去，它們就與輸出不可分割。你無法檢查它們。你無法選擇性地移除它們。你只能希望它們表現(xiàn)良好。測量驅(qū)動的系統(tǒng)完全去除了糖。沒有東西被烘焙進(jìn)去。關(guān)系只有通過降低不確定性才能贏得影響力。如果一個(gè)特征持續(xù)降低驚奇度，它就重要。如果不能，那么它就會在沒有再訓(xùn)練、沒有解釋情境、沒有事后修復(fù)的情況下消退。沒有必要在事后為決策辯護(hù)，因?yàn)橄到y(tǒng)從一開始就不依賴看不見的假設(shè)。蛋糕不是被烘焙出來的。配料本身就是蛋糕。

為什么這很重要

這不是學(xué)術(shù)爭論。它正在三個(gè)地方同時(shí)與現(xiàn)實(shí)碰撞。第一，監(jiān)管?？山忉屝圆辉偈强蛇x項(xiàng)。EU AI Act（歐盟人工智能法案）、美國行業(yè)執(zhí)法，以及全球隱私制度都指向同一要求：決策必須可追溯到數(shù)據(jù)。無法展示哪些證據(jù)重要、為什么重要的系統(tǒng)，將無法通過監(jiān)管審查。第二，市場。董事會和首席財(cái)務(wù)官們不再滿足于"模型這么說的"。他們想知道什么發(fā)生了變化、什么導(dǎo)致了結(jié)果、以及它在下個(gè)季度是否仍然成立。無法回答這些問題的系統(tǒng)將失去信譽(yù)和資金。第三，脆弱性。相關(guān)性驅(qū)動的系統(tǒng)在壓力下失敗得最嚴(yán)重。測量驅(qū)動的系統(tǒng)通過在新數(shù)據(jù)到來時(shí)更新相關(guān)性來適應(yīng)。沒有再訓(xùn)練周期。沒有脆弱的重新優(yōu)化。只有修訂后的不確定性。

智能即測量，而非猜測

這里最深刻的轉(zhuǎn)變是哲學(xué)性的，但也是實(shí)踐性的：智能從通過優(yōu)化制造轉(zhuǎn)變?yōu)橥ㄟ^測量執(zhí)行。預(yù)測變得次要。不確定性變得明確。證據(jù)優(yōu)先于抽象。系統(tǒng)不再問"什么答案最合適？"它問"如果這是真的，會有多驚奇？"這個(gè)區(qū)別很重要。模型猜測，測量約束。當(dāng)智能嵌入到帶有不確定性注釋的數(shù)據(jù)中時(shí)，算法的角色改變了。它們不創(chuàng)造意義。它們查詢意義是否成立。數(shù)據(jù)不服務(wù)于模型，它約束模型。這就是為什么"數(shù)據(jù)即模型，模型即數(shù)據(jù)"不是口號。這是對沒有問責(zé)制的抽象的拒絕。

可信AI的未來

隨著AI系統(tǒng)深入市場、醫(yī)療保健、金融和廣告領(lǐng)域，信任成為限制因素。無法將決策追溯到證據(jù)的系統(tǒng)將不被允許運(yùn)營——無論監(jiān)管機(jī)構(gòu)、客戶還是股東都不會允許。答案不是更大的模型或更多的參數(shù)，而是更好的測量。當(dāng)學(xué)習(xí)是不確定性測量的行為——而不是將歷史壓縮成權(quán)重——透明度就成為內(nèi)置的，結(jié)果就變得可辯護(hù)，信任就不再是營銷說辭。在一個(gè)越來越由機(jī)器運(yùn)行的世界里，能夠持續(xù)存在的系統(tǒng)不會是猜測最好的，而是能夠展示其工作過程的。