預(yù)測神經(jīng)動力學(xué)

Predictive Neural Dynamics

https://www.emergentmind.com/topics/predictive-neural-dynamics

• 預(yù)測性神經(jīng)動力學(xué)是生物和人工神經(jīng)系統(tǒng)在多個尺度上形成、傳輸和利用預(yù)測的機(jī)制。

• 它們整合了分層預(yù)測編碼、循環(huán)網(wǎng)絡(luò)架構(gòu)以及信息論度量，以減少預(yù)測誤差并實(shí)現(xiàn)魯棒控制。

• 最近的進(jìn)展將這些原理應(yīng)用于機(jī)器人學(xué)和人工智能中的預(yù)測控制建模，實(shí)現(xiàn)了實(shí)時、可解釋和自適應(yīng)的系統(tǒng)行為。

預(yù)測性神經(jīng)動力學(xué)涵蓋神經(jīng)系統(tǒng)——無論是生物的還是人工的——在多個尺度上（從細(xì)胞電生理學(xué)到高層感知與運(yùn)動規(guī)劃）形成、傳遞并利用對未來狀態(tài)之預(yù)測的機(jī)制。該領(lǐng)域整合了循環(huán)與層級神經(jīng)回路模型、對預(yù)測與誤差的信息論量化方法，以及支持魯棒預(yù)測與控制的學(xué)習(xí)算法。近期研究結(jié)合了神經(jīng)網(wǎng)絡(luò)架構(gòu)、動力系統(tǒng)理論、信息論與最優(yōu)控制理論，以剖析預(yù)測在腦功能中的作用，為神經(jīng)科學(xué)提供可解釋的分析工具，并啟發(fā)先進(jìn)的機(jī)器學(xué)習(xí)與控制框架。

1. 理論基礎(chǔ)：預(yù)測編碼與層級神經(jīng)動力學(xué)
   預(yù)測性神經(jīng)動力學(xué)的核心是預(yù)測編碼框架，該框架將感知與行動形式化為層級化推理與預(yù)測誤差最小化的過程。其典型架構(gòu)包含循環(huán)、多層網(wǎng)絡(luò)，其中每一層生成對下層活動的自上而下預(yù)測，而自下而上的信號則傳遞偏差（即預(yù)測誤差）（Choi 等，2016；Choi 等，2017；Ofner 等，2021）。其關(guān)鍵特性包括：

• 雙向?qū)蛹壖軜?gòu) ：高層區(qū)域發(fā)送生成性預(yù)測；低層區(qū)域反饋“意外”（即預(yù)測誤差）信號。
• 時間與空間層級性：不同層級以不同時間尺度與空間粒度運(yùn)作，反映了生物皮層的多尺度組織特性（Choi 等，2016；Choi 等，2017；Hwang 等，2017）。
• 迭代式推理：網(wǎng)絡(luò)狀態(tài)通過循環(huán)更新以減小自由能或預(yù)測誤差，梯度信息或局部赫布型/可塑性規(guī)則引導(dǎo)權(quán)重與狀態(tài)的適應(yīng)性調(diào)整（Ofner 等，2021；Hwang 等，2017；Huang 等，2022）。

解析模型明確刻畫了此類架構(gòu)中的穩(wěn)定性與波傳播特性。數(shù)學(xué)結(jié)果表明：自下而上與自上而下校正權(quán)重（α, λ）、循環(huán)反饋強(qiáng)度以及激活函數(shù)的非線性特性共同決定了活動傳播（即預(yù)測誤差波或信號波）是向上、向下傳播，抑或停滯；參數(shù)空間中存在自然區(qū)域，分別對應(yīng)感覺驅(qū)動型、強(qiáng)先驗(yàn)驅(qū)動型，或處于平衡態(tài)的“健康”預(yù)測編碼（Alamia 等，2025年5月14日；Faye 等，2023）。

1. 神經(jīng)與機(jī)器學(xué)習(xí)模型：架構(gòu)與算法

   預(yù)測性神經(jīng)動力學(xué)在多種模型類別中得以具體實(shí)現(xiàn)，橫跨生物合理性與工程實(shí)用性兩個維度：

• 預(yù)測性狀態(tài)空間模型與深度循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）：長短期記憶網(wǎng)絡(luò)（LSTM）與回聲狀態(tài)網(wǎng)絡(luò)（ESN）已被用于預(yù)測生物神經(jīng)元的發(fā)放與簇發(fā)放行為，以及高維混沌系統(tǒng)與狀態(tài)躍遷系統(tǒng)。這些架構(gòu)既能預(yù)測局部時間波動，也能預(yù)見大尺度狀態(tài)變遷；其中ESN展現(xiàn)出對訓(xùn)練中從未出現(xiàn)過的系統(tǒng)狀態(tài)進(jìn)行預(yù)測的能力（Plaster 等，2019；Pershin 等，2021）。
• 層級化、多尺度RNN：如“預(yù)測性多時空尺度RNN”（P-MSTRNN）與“預(yù)測性視覺–運(yùn)動深度動態(tài)神經(jīng)網(wǎng)絡(luò)”（P-VMDNN）等模型，通過協(xié)調(diào)空間與時間上的表征層級，實(shí)現(xiàn)穩(wěn)健的預(yù)測與意圖推斷——高層編碼緩慢變化的、類意圖的吸引子態(tài)，而低層則追蹤精細(xì)的感官或運(yùn)動細(xì)節(jié)（Choi 等，2016；Choi 等，2017；Hwang 等，2017）。
• 記憶中的記憶（MIM）網(wǎng)絡(luò)：在循環(huán)模塊中直接嵌入時間差分運(yùn)算，以處理高階非平穩(wěn)信號；通過分解時空趨勢，使深層架構(gòu)能夠捕獲多尺度結(jié)構(gòu)（Wang 等，2018）。
• 脈沖門控與振蕩環(huán)路：脈沖門控信息路由、分層赫布型環(huán)路，以及顯式的振蕩門控機(jī)制已被分析用于在線自回歸（AR）過程預(yù)測，其研究既強(qiáng)調(diào)生物合理性，也突出功能性振蕩復(fù)用（oscillatory multiplexing）的作用（Shao 等，2017）。
• 可微分廣義預(yù)測編碼：通過深度神經(jīng)網(wǎng)絡(luò)參數(shù)化并結(jié)合自動微分技術(shù)，實(shí)現(xiàn)變分自由能目標(biāo)函數(shù)，整合層級性與動力學(xué)預(yù)測；該方法兼具生物學(xué)可解釋性，并能擴(kuò)展至非線性、高維任務(wù)（Ofner 等，2021）。

1. 信息論與實(shí)證量化
   對預(yù)測性神經(jīng)動力學(xué)的定量理解，得益于信息論工具與多模態(tài)數(shù)據(jù)分析方法的推進(jìn)：

• 局部主動信息存儲（AIS）與傳遞熵（TE）

  ：這兩項(xiàng)核心指標(biāo)用于在每一時間點(diǎn)上量化一個神經(jīng)過程在多大程度上可由其自身過去狀態(tài)解釋（AIS），以及在不同過程之間有多少新信息被傳遞（TE）。在突觸層面，AIS 與 TE 呈正相關(guān)可定量地區(qū)分兩種策略：“預(yù)測并傳遞可預(yù)測成分”（predict-and-pass-predictable）與“預(yù)測并僅傳遞誤差”（predict-and-pass-errors）（Wollstadt 等，2022）。

• 部分信息分解（PID）

  ：用于拆解信息傳遞中的“唯一性”（unique）與“協(xié)同性”（synergistic）成分，從而分離純粹的自下而上傳遞與依賴于當(dāng)前系統(tǒng)狀態(tài)的（即預(yù)測誤差驅(qū)動的）信息路由（Wollstadt 等，2022）。

• 腦記錄中的相干性分析

  ：EEG頻段與刺激動態(tài)之間的時空相干性，可揭示自然視覺與語言加工中的預(yù)測性神經(jīng)特征；該方法能區(qū)分統(tǒng)計(jì)結(jié)構(gòu)完整與受損的刺激條件，并映射生成模型如何隨經(jīng)驗(yàn)發(fā)生調(diào)諧（Borneman 等，2025年12月24日）。

這些理論框架已在實(shí)驗(yàn)中直接操作化應(yīng)用，例如：
? 視網(wǎng)膜–外膝體突觸分析（證實(shí)了可預(yù)測輸入成分的傳遞）；
? EEG與光流信號的相干性研究（揭示了語言理解中層級化的預(yù)測性神經(jīng)特征）。

1. 模型預(yù)測控制與工程應(yīng)用
   預(yù)測性神經(jīng)動力學(xué)通過將所學(xué)習(xí)的神經(jīng)模型嵌入模型預(yù)測控制（MPC）框架，支撐了多種先進(jìn)現(xiàn)實(shí)世界控制策略：

• 機(jī)器人中的神經(jīng)MPC：深度神經(jīng)網(wǎng)絡(luò)（DNN），包括大型架構(gòu)與殘差多層感知機(jī)（MLP），被耦合至多段射擊法（multiple-shooting）或序列二次規(guī)劃（SQP）MPC回路中。借助對所學(xué)動力學(xué)模型的局部泰勒展開及批量化自動微分（autodiff）等技術(shù)，系統(tǒng)可在嵌入式硬件上實(shí)現(xiàn)實(shí)時運(yùn)行，在高敏捷性任務(wù)中性能超越小型模型與解析模型方法（Salzmann 等，2022）。
• 混合整數(shù)預(yù)測控制（MIPC）：通過對ReLU網(wǎng)絡(luò)進(jìn)行激進(jìn)稀疏化（借助連續(xù)松弛與架構(gòu)協(xié)同優(yōu)化獲得），可將非線性神經(jīng)動力學(xué)編碼為適配混合整數(shù)規(guī)劃（MIP）求解器的直接形式，從而實(shí)現(xiàn)全局最優(yōu)規(guī)劃；其性能優(yōu)于未稀疏化網(wǎng)絡(luò)及強(qiáng)化學(xué)習(xí)基線方法（Liu 等，2023）。
• 具有限時收斂性的神經(jīng)MPC：神經(jīng)動力學(xué)二次規(guī)劃（QP）求解器（例如：限時收斂神經(jīng)動力學(xué)，F(xiàn)TCND）可嵌入MPC回路中，實(shí)現(xiàn)亞毫米級軌跡跟蹤，兼具限時收斂性與對機(jī)械擾動的魯棒性（Su 等，2024）。
• 概率性與具探索意識的MPC：儲備池計(jì)算模型（如ESN）被集成至模型預(yù)測路徑積分（MPPI）控制框架中，實(shí)現(xiàn)快速在線系統(tǒng)辨識與不確定性驅(qū)動的主動探索；在非線性、模型不確定環(huán)境中，其性能優(yōu)于標(biāo)準(zhǔn)基于QP的MPC（Inoue 等，2025年9月4日）。

上述控制理論方面的進(jìn)展，展示了預(yù)測性神經(jīng)原理向?qū)嶋H工程系統(tǒng)的成功轉(zhuǎn)化。

1. 預(yù)測性神經(jīng)動力學(xué)在感知、心智模擬與人工智能中的應(yīng)用

   預(yù)測性動力學(xué)機(jī)制支撐了大腦——以及人工模型——進(jìn)行靈活模擬、規(guī)劃與“心智時間旅行”的能力：

• 潛在狀態(tài)的未來預(yù)測

  ：經(jīng)過訓(xùn)練以預(yù)測緊湊潛在表征（尤其是源自視頻基礎(chǔ)模型的表征）演化的感知–認(rèn)知網(wǎng)絡(luò)，其行為最契合人類行為判斷與精細(xì)的靈長類皮層神經(jīng)放電模式，表明大腦的內(nèi)部模型運(yùn)作于 未來潛在狀態(tài) 層面，而非原始感官信號層面（Nayebi 等，2023）。

• 心智模擬與意圖推斷

  ：配備預(yù)測編碼與誤差回歸機(jī)制的網(wǎng)絡(luò)，可內(nèi)生生成多模態(tài)行為軌跡，并對隱藏意圖進(jìn)行逆向推斷，其機(jī)制與生物鏡像神經(jīng)元系統(tǒng)及高層運(yùn)動控制中的機(jī)制高度平行（Hwang 等，2017）。

• 魯棒性與去噪能力

  ：將預(yù)測編碼動力學(xué)嵌入傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)（CNN）中（如“Predify”框架），可構(gòu)建具備迭代誤差校正能力的層級結(jié)構(gòu)，從而實(shí)現(xiàn)表征去噪、提升對抗魯棒性，并誘導(dǎo)出類腦的時間推理特性（Choksi 等，2021）。

上述發(fā)現(xiàn)既對神經(jīng)科學(xué)模型構(gòu)成約束，亦為具身人工智能（Embodied AI）架構(gòu)設(shè)計(jì)提供啟發(fā)——強(qiáng)調(diào)層級性、時間延展性與生成性潛在預(yù)測是認(rèn)知系統(tǒng)的核心組織原則。

1. 解析現(xiàn)象：波傳播、穩(wěn)定性與功能障礙

   顯式的數(shù)學(xué)模型刻畫了預(yù)測性神經(jīng)動力學(xué)如何支撐系統(tǒng)穩(wěn)定性與波傳播，并進(jìn)一步通過參數(shù)掃描揭示各類功能障礙的潛在機(jī)制：

• 行進(jìn)波與傳播失效：系統(tǒng)分析識別出不同參數(shù)區(qū)域——活動中可向上（前饋誤差驅(qū)動）、向下（自上而下預(yù)測驅(qū)動）傳播，或被“釘扎”停滯；并揭示了輸入幅度與時程對傳播與否存在的閾值現(xiàn)象（Alamia 等，2025年5月14日；Faye 等，2023）。在反饋強(qiáng)度/閾值參數(shù)空間中繪制的相圖，呈現(xiàn)“健康”、“感覺門控主導(dǎo)”與“強(qiáng)先驗(yàn)主導(dǎo)”等不同動力學(xué)模式，分別可類比于“盲視”（blindsight）、自閉癥譜系障礙及精神分裂癥等感知障礙。
• 振蕩模式與傳導(dǎo)延遲：層間傳導(dǎo)延遲，以及自下而上與自上而下通路強(qiáng)度的相互作用，可產(chǎn)生振蕩現(xiàn)象——這些振蕩對應(yīng)電生理記錄中觀測到的α、β、γ頻段活動，并復(fù)現(xiàn)經(jīng)驗(yàn)性EEG/MEG中觀測到的波傳播特征（Faye 等，2023）。
• 側(cè)向預(yù)測編碼與反應(yīng)加速：單層模型表明，習(xí)得的側(cè)向連接權(quán)重可驅(qū)動冗余抑制、對熟悉輸入的加速響應(yīng)，以及對稱性破缺（symmetry breaking），這些特性再次與實(shí)驗(yàn)觀測到的皮層微環(huán)路結(jié)構(gòu)高度吻合（Huang 等，2022）。

上述分析統(tǒng)一了動力系統(tǒng)理論與信息處理視角，將預(yù)測編碼框架拓展至嚴(yán)格定義的多尺度、多動力學(xué)模式情境中。

1. 展望與啟示
   預(yù)測性神經(jīng)動力學(xué)目前已整合若干統(tǒng)一性原理——層級生成建模、預(yù)測誤差最小化、時空與信息論的量化分析，以及最優(yōu)控制——這些原理已在生物與人工系統(tǒng)中獲得定量實(shí)現(xiàn)?？鐚W(xué)科進(jìn)展仍在持續(xù)推進(jìn)，體現(xiàn)在以下方向：

• 將層級化、多尺度架構(gòu)擴(kuò)展至現(xiàn)實(shí)世界任務(wù)與大規(guī)模數(shù)據(jù)場景；

• 在不同模態(tài)與模型類別間統(tǒng)一信息論診斷工具（如AIS、TE、PID）；

• 在工程系統(tǒng)中嵌入顯式的預(yù)測結(jié)構(gòu)，以實(shí)現(xiàn)具有前瞻性、魯棒性與可解釋性的控制；

• 聯(lián)結(jié)神經(jīng)、行為與計(jì)算三個層面，深化對心智模擬、推理與規(guī)劃機(jī)制的理解；

• 通過解析方法剖析不同參數(shù)區(qū)域下系統(tǒng)的穩(wěn)定性、波傳播及失效現(xiàn)象，既服務(wù)于模型驗(yàn)證，亦有助于理解認(rèn)知功能障礙的機(jī)制。

理論、實(shí)證與工程層面的持續(xù)互動，有望進(jìn)一步澄明“預(yù)測”在各類認(rèn)知與行為領(lǐng)域中的神經(jīng)基礎(chǔ)與計(jì)算能力（Choi 等，2016；Hwang 等，2017；Ofner 等，2021；Nayebi 等，2023；Borneman 等，2025年12月24日；Alamia 等，2025年5月14日；Wollstadt 等，2022；Su 等，2024；Inoue 等，2025年9月4日；Liu 等，2023；Pershin 等，2021；Wang 等，2018）。

原文鏈接： https://www.emergentmind.com/topics/predictive-neural-dynamics