本期為TechBeat人工智能社區(qū)第735期線上Talk。

北京時(shí)間12月17日(周三) 20:00，香港大學(xué)博士生吳成岳的Talk將準(zhǔn)時(shí)在TechBeat人工智能社區(qū)開播！

他與大家分享的主題是：從理論瓶頸到實(shí)際加速—通過Fast-dLLM實(shí)現(xiàn)高效擴(kuò)散LLM推理。介時(shí)他將向大家介紹 Fast-dLLM 及其 v2 版本。該方法通過近似分塊緩存、置信度感知解碼及 AR-Diffusion 混合架構(gòu)，實(shí)現(xiàn)了高達(dá) 27.6 倍的吞吐提升。

Talk·信息

主題：從理論瓶頸到實(shí)際加速 — 通過Fast-dLLM實(shí)現(xiàn)高效擴(kuò)散LLM推理

嘉賓：香港大學(xué) · 博士生 - 吳成岳

時(shí)間：北京時(shí)間12月17日(周三) 20:00

地點(diǎn)：TechBeat人工智能社區(qū)

http://www.techbeat.net/

Talk·介紹

Diffusion LLM 雖具備并行生成與雙向注意力優(yōu)勢，卻因無法利用 KV Cache 及并行解碼質(zhì)量下降，推理速度遠(yuǎn)遜于自回歸模型。本次分享介紹 Fast-dLLM 及其 v2 版本，通過近似分塊緩存、置信度感知解碼及 AR-Diffusion 混合架構(gòu)，實(shí)現(xiàn)了高達(dá) 27.6 倍的吞吐提升；v2 版本更在保持高質(zhì)量的同時(shí)，超越 LLaMA3 等 SOTA 模型 2.5 倍速，打破了其實(shí)用化瓶頸。

Talk大綱

1. 背景與挑戰(zhàn)：

對比自回歸模型，解析 Diffusion LLMs 的并行生成潛力，并指出阻礙其實(shí)際部署的兩大核心瓶頸——KV Cache 的缺失與并行解碼的質(zhì)量退化。

2. Fast-dLLM (Training-free)：

介紹如何通過近似分塊 KV 緩存機(jī)制解決緩存不兼容問題，利用置信度感知并行解碼策略修復(fù)由條件獨(dú)立假設(shè)導(dǎo)致的質(zhì)量下降。

3. Fast-dLLM v2 (Hybrid Paradigm)：

詳解進(jìn)階版架構(gòu)，引入 Block Diffusion（AR-Diffusion 混合范式）與層級緩存機(jī)制，展示如何僅用約 1B token 實(shí)現(xiàn)低成本高效適配。

4. 實(shí)驗(yàn)與評估：

展示與 Vanilla Diffusion 及 LLaMA3/Qwen2.5 等頂尖自回歸模型的對比結(jié)果，分析在推理速度（最高 27.6x 吞吐提升）與生成質(zhì)量上的綜合表現(xiàn)。

5. 總結(jié)：

探討 Fast-dLLM 系列工作對 Diffusion LLM 邁向大規(guī)模實(shí)用化的里程碑意義。

Talk·預(yù)習(xí)資料

論文鏈接： https://arxiv.org/abs/2505.22618 代碼鏈接： https://github.com/NVlabs/Fast-dLLM

論文鏈接： https://arxiv.org/abs/2509.26328

Talk·提問交流

在Talk界面下的【交流區(qū)】參與互動(dòng)！留下你的打call和問題，和更多小伙伴們共同討論，被講者直接翻牌解答！

你的每一次貢獻(xiàn)，我們都會給予你相應(yīng)的i豆積分，還會有驚喜獎(jiǎng)勵(lì)哦！

Talk·嘉賓介紹

吳成岳???????????

香港大學(xué) · 博士生
???

研究領(lǐng)域包括多模態(tài)基礎(chǔ)模型和大語言模型。迄今已在CVPR、ACL、ICML、NeurlPS 等國際頂會發(fā)表論文十余篇，六篇為第一作者，累計(jì)引用1400余次，相關(guān)開源項(xiàng)目在GitHub上獲得超1.8萬星標(biāo)。

主導(dǎo)研發(fā)了統(tǒng)一的多模態(tài)理解框架Janus，在DeepSeek提出視覺編碼解耦的新范式。在NVIDIA實(shí)習(xí)期間，作為Fast-dLLM 項(xiàng)目核心成員，提出理論驅(qū)動(dòng)的解碼算法，使擴(kuò)散語言模型生成效率提升了 10 倍，后續(xù)迭代版本Fast-dLLM v2 進(jìn)一步實(shí)現(xiàn)2-3倍加速。

個(gè)人主頁: https://www.techbeat.net/grzytrkj?id=46004

-The End-

如果你也想成為講者

自薦 / 推薦

單人Talk | 團(tuán)隊(duì)專場 | 錄播or直播 | 閉門交流

多種方式任你選擇！

推薦講者成功也有獎(jiǎng)勵(lì)哦~

關(guān)于TechBeat人工智能社區(qū)

TechBeat(www.techbeat.net)隸屬于將門創(chuàng)投，是一個(gè)薈聚全球華人AI精英的成長社區(qū)。

我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其學(xué)習(xí)成長。

期待這里可以成為你學(xué)習(xí)AI前沿知識的高地，分享自己最新工作的沃土，在AI進(jìn)階之路上的升級打怪的根據(jù)地！

更多詳細(xì)介紹>>

預(yù)約本期Talk