（來源：麻省理工科技評論）

人類的本質(zhì)，從根本上說，是一種預(yù)測者。

無論是借助過往經(jīng)驗，還是依賴因果邏輯，試圖看清未來這件事幫助我們狩獵、躲避獵捕、播種農(nóng)作物、建立社會紐帶，并在一個并不以人類生存為優(yōu)先的世界中延續(xù)至今。事實上，隨著占卜工具歷經(jīng)數(shù)百年的演變，我們對未來可以被認(rèn)知、被掌控的信念，只增未減。

如今，我們淹沒在一片鋪天蓋地、無休無止的預(yù)測海洋之中，大多數(shù)人對此幾乎毫無察覺。就在我寫下這句話的此刻，某臺遠(yuǎn)程服務(wù)器上的算法正忙著根據(jù)我已輸入的文字，猜測我的下一個詞。如果你正在網(wǎng)上閱讀這篇文章，另一套算法可能已經(jīng)為你推送了一則它判定你最有可能點擊的廣告。

如果想到一群逐利的企業(yè)正將一套無處不在、幾乎隱形的預(yù)測機制悄悄嫁接進(jìn)你的生活，你感到不安……那我們感同身受。

這一切究竟是如何發(fā)生的？人們渴望可靠預(yù)測的心理不難理解。但沒有人曾主動報名，要讓一個無處不在的算法神諭來介入自己生活的方方面面。

三本新書試圖厘清這個以未來為導(dǎo)向的世界——我們?nèi)绾巫叩浇裉欤约斑@種變化意味著什么。三本書各有其應(yīng)對新現(xiàn)實的方案，但在一件事上達(dá)成共識：預(yù)測歸根結(jié)底是關(guān)于權(quán)力與控制的。

（來源：麻省理工科技評論）

在《預(yù)測的手段：AI 的真實運作機制（以及誰從中獲益）》（The Means of Prediction: How AI Really Works (and Who Benefits)）一書中，牛津大學(xué)經(jīng)濟(jì)學(xué)家馬克西米利安·卡西（Maximilian Kasy）解釋了我們生活中的大多數(shù)預(yù)測，是如何建立在對大規(guī)模標(biāo)注數(shù)據(jù)集中規(guī)律的統(tǒng)計分析之上的——這在 AI 領(lǐng)域被稱為監(jiān)督學(xué)習(xí)。算法一旦在這類數(shù)據(jù)集上完成“訓(xùn)練”，便可接收各種新信息，并對某一具體的未來結(jié)果給出最優(yōu)猜測。

你是否會違反假釋條件？能否還清房貸？入職后會獲得晉升嗎？大學(xué)考試能否取得好成績？你家遭到轟炸時你是否在家？我們的生活越來越多地被機器對這些問題的回答所塑造——有時，也會被它縮短。

如果想到一群逐利的企業(yè)正將一套無處不在、幾乎隱形的預(yù)測機制悄悄嫁接進(jìn)你的生活，你感到不安……那我們感同身受。這種格局正在將世界推向一個更冷酷、更單調(diào)、更工具化的方向——生活的可能性被提前封堵，根深蒂固的偏見愈發(fā)固化，所有人的大腦似乎都在加速退化?？ㄎ髡J(rèn)為，這一結(jié)果完全在意料之中。

AI 的擁躉們或許會將這些后果定性為無意為之，或僅僅是優(yōu)化與對齊層面的問題?？ㄎ鞯挠^點則截然不同：這些后果恰恰說明系統(tǒng)在按預(yù)期運轉(zhuǎn)?！叭绻粋€決定你在社交媒體上看到什么內(nèi)容的算法在煽動憤怒，”他寫道，“從而最大化互動率和廣告點擊量，那是因為煽動憤怒有利于廣告銷售利潤?！?/p>

同樣的邏輯也適用于那些將“可能在工作之外承擔(dān)家庭照護(hù)責(zé)任”的求職者一票否決的算法，以及那些“篩除可能患上慢性疾病或殘疾人士”的算法。對公司利潤有利的事，未必對你的求職前景或預(yù)期壽命有利。

卡西與其他批評者的不同之處在于，他并不認(rèn)為致力于打造偏見更少、更公平的算法能解決任何問題。試圖重新校準(zhǔn)天平，無法改變一個基本事實：預(yù)測算法依賴的歷史數(shù)據(jù)往往充斥著種族歧視、性別歧視以及其他形式的缺陷。他指出，逐利的動機始終會凌駕于消除危害的努力之上。應(yīng)對這一困局的唯一出路，是對卡西所稱的“預(yù)測手段”實施廣泛的民主管控，涵蓋數(shù)據(jù)、計算基礎(chǔ)設(shè)施、技術(shù)專長與能源。

《預(yù)測的手段》超過一半的篇幅用于闡述這一目標(biāo)的實現(xiàn)路徑，涉及的機制包括“數(shù)據(jù)信托”（代表數(shù)據(jù)貢獻(xiàn)者就數(shù)據(jù)處理和使用方式作出決定的公共集體機構(gòu)），以及旨在將 AI 造成的社會危害納入核算的企業(yè)稅收方案。書中充斥著大量經(jīng)濟(jì)學(xué)術(shù)語，探討“變革主體”如何推動實現(xiàn)“價值對齊”以“最大化社會福祉”。我認(rèn)為這些思路有其合理性，但持懷疑態(tài)度的人或許會指出，卡西構(gòu)建新型公共服務(wù)機構(gòu)的這套嚴(yán)謹(jǐn)、系統(tǒng)性方案，偏偏出現(xiàn)在公眾對機構(gòu)信任度跌至歷史低點的時代。此外，還有那個大腦退化的問題。

值得肯定的是，卡西在這一點上是個現(xiàn)實主義者。他并不認(rèn)為上述任何提案都會輕易落地，也不指望這些變革能一蹴而就，甚至在近期內(nèi)實現(xiàn)。他在書末提出了一個令人不安的問題：我們還有那樣的時間嗎？

讀完卡西關(guān)于掌控預(yù)測手段的藍(lán)圖，另一個迫切的問題隨之浮現(xiàn)：我們究竟是如何走到機器介導(dǎo)的預(yù)測幾乎無處可逃這一步的？馬克思或許會言簡意賅地答：資本主義。這個答案有一定道理，但它無法解釋，為何同一類算法既在為氣候變化建立模型，又在決定你能否獲得腎臟移植，或是我能否申請到汽車貸款。

（來源：麻省理工科技評論）

《非理性決策：我們?nèi)绾螌⑦x擇權(quán)交給計算機》（The Irrational Decision: How We Gave Computers the Power to Choose for Us）一書的作者本杰明·雷克特（Benjamin Recht）或許會告訴你，我們當(dāng)下的困境與決策理論（即經(jīng)濟(jì)學(xué)家所稱的理性選擇理論）的理念和意識形態(tài)密切相關(guān)。雷克特是加州大學(xué)伯克利分校電氣工程與計算機科學(xué)系的博學(xué)教授，他更傾向于用“數(shù)學(xué)理性”這一術(shù)語，來描述那種激發(fā)了建造計算機沖動、塑造了計算機最終運作方式、并影響了計算機所擅長解決問題類型的狹窄統(tǒng)計觀念。

這套信仰體系可以追溯至啟蒙運動，但在雷克特的敘述中，它真正扎根是在第二次世界大戰(zhàn)末期。沒有什么比戰(zhàn)爭更能讓人聚焦于風(fēng)險與快速決策，而那些在對抗軸心國過程中被證明尤為有效的數(shù)學(xué)模型，說服了一批精英科學(xué)家和統(tǒng)計學(xué)家：這些模型或許也可以作為設(shè)計第一批計算機的邏輯基礎(chǔ)。于是，計算機作為理想理性主體的概念由此誕生：一臺能夠通過量化不確定性、最大化效用來作出最優(yōu)決策的機器。

雷克特指出，直覺、經(jīng)驗與判斷力，讓位于優(yōu)化、博弈論與統(tǒng)計預(yù)測?！斑@一時期發(fā)展出的核心算法，驅(qū)動著我們現(xiàn)代世界的自動化決策，無論是管理供應(yīng)鏈、安排航班時刻，還是在你的社交媒體信息流中投放廣告，”他寫道。在這個以優(yōu)化為導(dǎo)向的現(xiàn)實中，“每一個人生決策都被設(shè)定成仿佛是在一家虛構(gòu)賭場中的一輪博弈，每一種論點都可以被簡化為成本與收益、手段與目的?！?/p>

雷克特指出，如今，數(shù)學(xué)理性（披著人類外衣）的最佳代言人，莫過于民調(diào)專家內(nèi)特·西爾弗（Nate Silver）、哈佛大學(xué)心理學(xué)家史蒂文·平克（Steven Pinker），以及一批硅谷寡頭。這些人從根本上相信，如果更多人采納他們的分析思維方式，學(xué)會權(quán)衡成本與收益、評估風(fēng)險、進(jìn)行最優(yōu)規(guī)劃，世界將會變得更好。換言之，他們認(rèn)為我們都應(yīng)該像計算機一樣做決策。

我們又該如何證明，那些無法量化的人類直覺、道德與判斷力，才是應(yīng)對世界上某些最重要、最棘手問題的更優(yōu)途徑？

雷克特認(rèn)為，這種想法荒謬至極，理由不止一個。僅舉其一：并非自動化出現(xiàn)之后，人類才學(xué)會做出基于證據(jù)的決策。“清潔飲水、抗生素與公共衛(wèi)生領(lǐng)域的進(jìn)步，使人類預(yù)期壽命從 19 世紀(jì) 50 年代的不足 40 歲提升至 1950 年的 70 歲，”雷克特寫道?！皬?19 世紀(jì)末到 20 世紀(jì)初，物理學(xué)領(lǐng)域涌現(xiàn)出改變世界的重大突破，包括熱力學(xué)、量子力學(xué)和相對論的新理論?！比祟愒跊]有正式理性體系的前提下，造出了汽車和飛機；在沒有最優(yōu)決策理論的情況下，也摸索出了現(xiàn)代民主這樣的社會創(chuàng)新。

那么，我們?nèi)绾握f服平克和西爾弗這樣的人，讓他們相信生活中大多數(shù)決策其實并不適合被數(shù)學(xué)理性的磨盤碾壓？更進(jìn)一步，我們又該如何證明，那些無法量化的人類直覺、道德與判斷力，在應(yīng)對世界上某些最重要、最棘手的問題時，或許是更優(yōu)的方式？

（來源：麻省理工科技評論）

也許可以從提醒理性主義者這一點入手：任何預(yù)測，無論是計算機生成的還是其他形式的，本質(zhì)上都只是一種愿望——只不過這種愿望具有強烈的自我實現(xiàn)傾向。這一理念貫穿了卡里薩·維利茲（Carissa Véliz）那本視野廣闊、論戰(zhàn)色彩鮮明的著作《預(yù)言：從古代神諭到 AI 的預(yù)測、權(quán)力與未來之爭》（Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI）。

身為牛津大學(xué)哲學(xué)家的維利茲將預(yù)測視為“一塊將現(xiàn)實向自身彎曲的磁鐵”。她寫道：“當(dāng)磁力足夠強大時，預(yù)測本身就成為其得以實現(xiàn)的原因?！?/p>

以戈登·摩爾（Gordon Moore）為例。他雖未出現(xiàn)在《預(yù)言》一書中，但在雷克特的數(shù)學(xué)理性發(fā)展史中占有相當(dāng)重要的位置。作為科技巨頭 Intel 的聯(lián)合創(chuàng)始人，摩爾以其 1965 年的預(yù)測聞名于世：集成電路中晶體管的密度每兩年翻一番。“摩爾定律”最終被證明是正確的，時至今日仍然成立，盡管受制于硅原子的物理尺寸極限，它似乎正在逐漸失去動力。

關(guān)于摩爾定律，你可以講述這樣一個故事：戈登只是一個富有遠(yuǎn)見的人。他那篇發(fā)表于《電子學(xué)》雜志、如今已成經(jīng)典的 1965 年評論文章《在集成電路上塞入更多元件》，不過是對計算領(lǐng)域的發(fā)展趨勢將如何影響半導(dǎo)體產(chǎn)業(yè)未來的簡單外推。

另一個故事是：摩爾將一個經(jīng)過深思熟慮的預(yù)測拋向世界，而整個行業(yè)都有集體利益驅(qū)動它成為現(xiàn)實。正如雷克特所指出的，企業(yè)制造更快、更小芯片的財務(wù)動機過去存在，現(xiàn)在依然存在。行業(yè)可能為維持摩爾定律的有效性投入了數(shù)十億美元，但從中獲得的收益無疑更為豐厚。摩爾定律是一塊力量強勁的磁鐵。

維利茲指出，預(yù)測不僅有自我實現(xiàn)的習(xí)性，還會讓我們對當(dāng)下的挑戰(zhàn)分心。當(dāng)一位 AI 樂觀主義者承諾通用人工智能將是人類需要解決的最后一個問題時，這不僅塑造了我們對 AI 在生活中所扮演角色的認(rèn)知，也將我們的注意力從那些現(xiàn)實而緊迫的當(dāng)下問題上引開，而這些問題在許多情況下正是 AI 本身造成的。

從這個意義上說，圍繞預(yù)測的問題（誰在作出預(yù)測？誰有權(quán)作出預(yù)測？）從根本上也是關(guān)于權(quán)力的問題。維利茲認(rèn)為，依賴預(yù)測程度最深的社會，往往也是最傾向于壓迫與威權(quán)主義的社會，這絕非偶然?！邦A(yù)測是披著面紗的規(guī)范性斷言，它們告訴我們該如何行動，”她寫道?！八鼈兪钦軐W(xué)家所稱的言語行為。當(dāng)我們相信一個預(yù)測并據(jù)此行動時，這與服從命令并無二致?！?/p>

盡管科技公司極力希望我們相信相反的事，但技術(shù)并非命運。人類創(chuàng)造了它，也選擇如何使用它，或者不使用它。面對生活中那些不請自來、無處不在的日常預(yù)測，我們能做的最恰當(dāng)、也最具人性的事，或許就是：拒絕服從。

https://www.technologyreview.com/2026/02/18/1132579/robots-predict-future-book-review/