編輯部 整理
量子位 | 公眾號 QbitAI

清華教授唐杰最新在微博發(fā)表了自己關(guān)于AI的一些感悟，非常值得一讀～

共八個(gè)小點(diǎn)，不算長篇大論，但扎實(shí)有料：

• 基座模型繼續(xù)scaling仍然高效；
• 真實(shí)使用體驗(yàn)想進(jìn)一步上臺階，長尾能力的對齊和推理增強(qiáng)繞不過去；
• Agent代表模型開始進(jìn)入環(huán)境、開始形成生產(chǎn)力；
• 一旦模型進(jìn)入持續(xù)交互的世界，記憶機(jī)制、在線學(xué)習(xí)、自我評估就會(huì)成為核心工程題，而不是可選項(xiàng)；
• AI終究要落到替人完成工作、創(chuàng)造增量價(jià)值上；
• 領(lǐng)域大模型是個(gè)偽命題；

唐杰表示，發(fā)微博是想分享一下，希望對大家有用。

茲以推文刊載，供大家廣泛閱讀、傳播。

以下為其感悟原文：

01，關(guān)于scaling基座模型

預(yù)訓(xùn)練使得大模型已經(jīng)掌握世界常識知識，并且具備簡單推理能力。

更多數(shù)據(jù)、更大參數(shù)和更飽和的計(jì)算仍然是scaling基座模型最高效的辦法。

02，關(guān)于激活對齊和增強(qiáng)推理能力

激活對齊和增強(qiáng)推理能力，尤其是激活更全面的長尾能力是保證模型效果的另一關(guān)鍵，通用benchmark的出現(xiàn)一方面評測了模型通用效果，但也可能使得很多模型過擬合。

真實(shí)場景下是如何讓模型更快、更好的對齊長尾的真實(shí)場景，增強(qiáng)實(shí)際體感。

mid和post training使得更多場景的快速對齊和強(qiáng)推理能力成為可能。

03，關(guān)于Agent

agent是模型能力擴(kuò)展的一個(gè)里程碑，也是體現(xiàn)ai模型進(jìn)入人類真實(shí)（虛擬/物理）世界的關(guān)鍵。

沒有agent能力，大模型將停留在（理論學(xué)習(xí)）階段，就類似一個(gè)人不斷學(xué)習(xí)，哪怕學(xué)習(xí)到博士，也只是知識積累，還沒有轉(zhuǎn)化為生產(chǎn)力。

原來的agent是通過模型應(yīng)用來實(shí)現(xiàn)，現(xiàn)在模型已經(jīng)可以直接將agent數(shù)據(jù)集成到訓(xùn)練過程，增強(qiáng)了模型的通用性，其實(shí)難題還是不同agent環(huán)境的泛化和遷移并不是那么容易，因此最簡單辦法也只有不斷增加不同agent環(huán)境的數(shù)據(jù)和針對不同環(huán)境的強(qiáng)化學(xué)習(xí)。

04，關(guān)于模型記憶

實(shí)現(xiàn)模型記憶成為一個(gè)必須做的事情，這也是一個(gè)模型應(yīng)用到真實(shí)環(huán)境必須有的能力。

人類記憶分為短期（前額葉）、中期（海馬體）、長期（分布式大腦皮層）、人類歷史（wiki或史書）四個(gè)階段。

大模型如何實(shí)現(xiàn)不同階段的記憶是個(gè)關(guān)鍵，context、rag、模型參數(shù)可能分別對應(yīng)了人類的不同記憶階段，但如何實(shí)現(xiàn)是個(gè)關(guān)鍵，一種辦法是壓縮記憶，簡單存在context，如果大模型可以支持足夠長的context，那基本有可能實(shí)現(xiàn)短中長期的記憶。

但如何迭代模型知識，更改模型參數(shù)這還是個(gè)難題。

05，關(guān)于在線學(xué)習(xí)與自我評估

在線學(xué)習(xí)與自我評估。

有了記憶機(jī)理，在線學(xué)習(xí)成為一個(gè)重點(diǎn)，目前的大模型定時(shí)重新訓(xùn)練，這有幾個(gè)問題：

• 模型無法真正的自我迭代，但模型的自學(xué)習(xí)自迭代一定會(huì)是下一個(gè)階段必然具有的能力；
• 重新訓(xùn)練還比較浪費(fèi)，同時(shí)也會(huì)丟掉很多交互數(shù)據(jù)。

因此如何實(shí)現(xiàn)在線學(xué)習(xí)是個(gè)關(guān)鍵，自我評估是在線學(xué)習(xí)的一個(gè)關(guān)鍵點(diǎn)，要想模型自我學(xué)習(xí)，模型首先要知道自己對還是不對，如果知道了（哪怕概率知道）模型就知道了優(yōu)化目標(biāo)，能夠自我改進(jìn)。

因此構(gòu)建模型自我評價(jià)機(jī)制是個(gè)難題。

這也可能是下一個(gè)scaling范式。

continual learning/real time learning/online learning？

06，關(guān)于模型研發(fā)和應(yīng)用結(jié)合

最后，大模型的發(fā)展越來越端到端，不可避免的要把模型研發(fā)和模型應(yīng)用結(jié)合起來。

ai模型應(yīng)用的第一性不應(yīng)該是創(chuàng)造新的app，他的本質(zhì)是agi替代人類工作，因此研發(fā)替代不同工種的ai是應(yīng)用的關(guān)鍵。

chat部分替代了搜索，部分其實(shí)融合了情感交互。

明年將是ai替代不同工種的爆發(fā)年。

07，關(guān)于多模態(tài)和具身

寫在最后的是多模態(tài)和具身。

多模態(tài)肯定是個(gè)未來也很有前景，當(dāng)下的問題是多模態(tài)不大能幫助到agi的智能上界，而通用agi的智能上界到底在哪兒還不知道。

可能最有效的方式還是分開發(fā)展，文本、多模態(tài)、多模態(tài)生成。

當(dāng)然適度的探索這三者的結(jié)合肯定能發(fā)現(xiàn)一些很不一樣的能力，這需要勇氣和雄厚的資本支持。

同理，如果看懂了agent就知道具身的痛在哪里了，太難通用了（也不一定），但至少少樣本去激活通用具身能力基本不可能。

那怎么辦呢，采數(shù)據(jù)，或者合成數(shù)據(jù)，都不是那么容易，也貴。

但反之一旦數(shù)據(jù)規(guī)模上去了，通用能力出來了自然會(huì)形成門檻。

當(dāng)然這只是智能方面的難題，對于具身，機(jī)器人本身也是個(gè)問題，不穩(wěn)定，故障頻繁都限制了具身智能的發(fā)展。

2026年這些都將取得長足進(jìn)步。

08，關(guān)于領(lǐng)域大模型和大模型應(yīng)用

也討論一下領(lǐng)域大模型和大模型應(yīng)用。

我一直認(rèn)為領(lǐng)域大模型就是個(gè)偽命題，都agi了哪有什么domain-specific agi……

但，agi還沒實(shí)現(xiàn)，領(lǐng)域模型會(huì)長時(shí)間存在（多長，不好說，ai發(fā)展實(shí)在太快了）。

領(lǐng)域模型的存在本質(zhì)上是應(yīng)用企業(yè)不愿意在ai企業(yè)面前認(rèn)輸，希望構(gòu)建領(lǐng)域know how的護(hù)城河，不希望ai入侵，希望把a(bǔ)i馴化為工具。

而ai的本質(zhì)是海嘯，走到哪里都將一切卷了進(jìn)去，一定有一些領(lǐng)域公司走出護(hù)城河，自然就卷進(jìn)了agi的世界。

簡而言之，領(lǐng)域的數(shù)據(jù)、流程、agent數(shù)據(jù)慢慢的都會(huì)進(jìn)入主模型。

而大模型的應(yīng)用也要回到第一性原理，ai不需要?jiǎng)?chuàng)建新的應(yīng)用。

ai的本質(zhì)是模擬人或者代替人或者幫助人實(shí)現(xiàn)人類的某些必須要做到事（某些工種）。

可能就是兩種，一種就是ai化以前的軟件，原來需要人參與的改成ai，另一種就是創(chuàng)造對齊人類某個(gè)工種的ai軟件，替代人類工作。

所以大模型應(yīng)用需要幫助到人、創(chuàng)造新的價(jià)值。

如果做一個(gè)ai軟件沒人用，不能產(chǎn)生價(jià)值，那這個(gè)ai軟件肯定沒有生命力。

參考鏈接：
https://weibo.com/2126427211/5247011059141988