以ChatGPT、DeepSeek為代表的大模型采取“大數(shù)據(jù)、大算力、強(qiáng)算法”的技術(shù)路線，極大地推動(dòng)了語(yǔ)言理解、意圖識(shí)別、內(nèi)容生成、問(wèn)題求解等領(lǐng)域的進(jìn)展，成為當(dāng)前人工智能的主流和巔峰。然而，在令人矚目的能力躍遷背后，其固有缺陷與結(jié)構(gòu)性瓶頸也日益凸顯。

當(dāng)前大模型主要面臨四個(gè)方面的局限。其一，過(guò)度消耗數(shù)據(jù)與算力。參數(shù)規(guī)模動(dòng)輒千億乃至萬(wàn)億級(jí)，需要海量數(shù)據(jù)擬合并消耗巨大算力與能源；推理模型因生成大量“思考”Token，能耗進(jìn)一步攀升。其二，災(zāi)難性遺忘。在面向新任務(wù)微調(diào)時(shí)，模型通過(guò)全局參數(shù)更新適配新數(shù)據(jù)，卻以犧牲既有知識(shí)為代價(jià)，難以實(shí)現(xiàn)真正的持續(xù)學(xué)習(xí)。其三，抽象能力弱。模型更擅長(zhǎng)從大數(shù)據(jù)中提取統(tǒng)計(jì)模式，而非形成對(duì)概念本質(zhì)的深層理解，推理魯棒性差，出現(xiàn)各類幻覺(jué)。其四，黑盒難解釋。復(fù)雜網(wǎng)絡(luò)結(jié)構(gòu)與高度非線性映射，使推理過(guò)程難以解釋與溯因，更難以“知錯(cuò)就改”。

究其根源，在于當(dāng)前人工神經(jīng)網(wǎng)絡(luò)架構(gòu)、訓(xùn)練與推理機(jī)制的固有局限。首先，人工神經(jīng)網(wǎng)絡(luò)架構(gòu)缺乏可塑性，缺少與問(wèn)題背后機(jī)理的聯(lián)系，難以刻畫(huà)因果關(guān)系。其次，訓(xùn)練時(shí)反向傳播機(jī)制以全局誤差為優(yōu)化目標(biāo)，迭代更新所有參數(shù)，消耗大量訓(xùn)練數(shù)據(jù)與算力，并導(dǎo)致遺忘。再次，推理時(shí)所有參數(shù)都參與正向傳播運(yùn)算，消耗大量算力。這些根源性問(wèn)題進(jìn)一步導(dǎo)致大模型存在幻覺(jué)、可控性差、魯棒性不足等缺陷。更為嚴(yán)峻的是，大模型的原創(chuàng)概念、核心技術(shù)與算力生態(tài)是由美國(guó)打造和主導(dǎo)，所做的是“延長(zhǎng)線”式的工作。

回顧人工智能發(fā)展歷史，腦科學(xué)一直推動(dòng)著人工智能的發(fā)展，今天的大模型正是借鑒了大腦在網(wǎng)絡(luò)拓?fù)?、信息表征以及編碼機(jī)制方面的理論。因此，深度借鑒腦科學(xué)的研究成果，有望找到一條更加有效的機(jī)器智能發(fā)展路徑。

受此啟發(fā)，我們提出了人腦記憶智能啟發(fā)的機(jī)器智能新思路。腦科學(xué)的研究表明：記憶是智能的基礎(chǔ)，深刻影響人腦學(xué)習(xí)、抽象、聯(lián)想、推理等高級(jí)認(rèn)知活動(dòng)。第一，記憶的稀疏激活、預(yù)測(cè)編碼等機(jī)制使人腦高度節(jié)能。人腦針對(duì)特定任務(wù)一般只激活約1%～4%的神經(jīng)元，預(yù)測(cè)編碼則減少了冗余信息處理，使得人腦高效提取記憶，快速學(xué)習(xí)新信息。第二，突觸可塑性與吸引子機(jī)制是人類持續(xù)學(xué)習(xí)的基礎(chǔ)。大腦采取局部學(xué)習(xí)策略，僅更新少量特定腦區(qū)的突觸連接；同時(shí)人腦吸引子具有良好的抗噪聲能力，能回憶出完整信息，避免了災(zāi)難性遺忘。第三，抽象?具象協(xié)同機(jī)制使得人腦能快速適應(yīng)新任務(wù)、新場(chǎng)景。大腦能從具象信息中提取抽象概念，并將二者關(guān)聯(lián)，形成完整、靈活且高效的記憶表征。第四，抽象與聯(lián)想?yún)f(xié)同使得人腦推理更具邏輯性與可解釋性。抽象有助于人腦在不同場(chǎng)景中進(jìn)行類比和推理，聯(lián)想因其連貫思維使得推理可解釋。這些機(jī)制共同鑄就了人腦低功耗、小樣本、強(qiáng)泛化、可解釋的智能特征，為設(shè)計(jì)機(jī)器記憶智能提供了天然藍(lán)圖。

“機(jī)器記憶智能”的核心思想是：將人腦記憶機(jī)理引入機(jī)器智能的表征、學(xué)習(xí)與推理過(guò)程。以吸引子為機(jī)器記憶基本單元，構(gòu)建“層間抽象?層內(nèi)聯(lián)想”的表征結(jié)構(gòu)；借鑒突觸可塑性與稀疏激活機(jī)制，形成低功耗、小樣本、強(qiáng)泛化的持續(xù)學(xué)習(xí)機(jī)制；將聯(lián)想?混沌的動(dòng)力學(xué)引入記憶激活與推理過(guò)程，實(shí)現(xiàn)過(guò)程可解釋、結(jié)果能溯因并在不符合常識(shí)的環(huán)境下具有探索性推理的能力。機(jī)器記憶智能有望從根本上擺脫傳統(tǒng)數(shù)據(jù)驅(qū)動(dòng)的路徑依賴，推動(dòng)人工智能與腦科學(xué)深度交叉融合，走出一條不同于大模型的人工智能自主創(chuàng)新發(fā)展之路。

作者簡(jiǎn)介

鄭慶華

中國(guó)工程院院士，同濟(jì)大學(xué)黨委書(shū)記，教育部科技委學(xué)部委員，教育部大學(xué)計(jì)算機(jī)教學(xué)指導(dǎo)委員會(huì)主任，國(guó)家自然科學(xué)基金創(chuàng)新群體負(fù)責(zé)人。研究領(lǐng)域?yàn)榇髷?shù)據(jù)知識(shí)工程、機(jī)器記憶智能。獲得國(guó)家科技進(jìn)步二等獎(jiǎng) 3 項(xiàng)，國(guó)家教學(xué)成果一等獎(jiǎng)2 項(xiàng)、二等獎(jiǎng) 3 項(xiàng)，省部級(jí)科學(xué)技術(shù)一等獎(jiǎng) 5 項(xiàng)、中國(guó)自動(dòng)化學(xué)會(huì)科技進(jìn)步特等獎(jiǎng)以及何梁何利基金“科學(xué)與技術(shù)進(jìn)步獎(jiǎng)”、中國(guó)科協(xié)“求是”杰出青年獎(jiǎng)、中國(guó)青年科技獎(jiǎng)、國(guó)務(wù)院政府特殊津貼專家等獎(jiǎng)項(xiàng)和榮譽(yù)。

來(lái)源：智能系統(tǒng)學(xué)報(bào)