3月27日，作為2026中關村論壇核心組成部分，由趨境科技與九源智能計算系統(tǒng)生態(tài)聯(lián)合體共同主辦的“全棧智能 全域推理：Token爆發(fā)元年的全場景大規(guī)模推理服務”專題研討會成功舉辦。論壇匯聚院士、頂尖學者及產業(yè)領軍人物，聚焦大模型時代推理服務的核心技術、產業(yè)實踐和生態(tài)協(xié)同，共探高效、穩(wěn)定、安全、普惠的大模型推理服務體系建設。

活動特邀九源智能計算生態(tài)聯(lián)合體秘書長、清華大學教授、趨境科技首席科學家武永衛(wèi)擔任主持人。啟元實驗室副主任劉航、工業(yè)和信息化部電子工業(yè)標準化研究院副院長郭楠為活動致辭。中國工程院院士、九源智能計算系統(tǒng)生態(tài)聯(lián)合體理事長、清華大學教授、趨境科技首席科學顧問鄭緯民受邀出席并做主旨演講，從宏觀視角解讀了從“模型服務”邁向“Token服務”的底層邏輯與基礎設施變革。趨境科技創(chuàng)始人兼CEO艾智遠現(xiàn)場發(fā)布全新一代AI推理平臺——趨境 ATaaS 高效能 AI Token 生產服務平臺（Approaching.AI Token as a Service），為破解算力投入與Token產出失衡難題提供了系統(tǒng)性解決方案。眾多等產業(yè)鏈領軍企業(yè)代表現(xiàn)場帶來主旨演講，分享AI推理服務產業(yè)的發(fā)展新路徑。

鄭緯民院士：AI產業(yè)核心已從模型服務轉向Token服務

鄭緯民院士在題為《從模型服務到Token服務》的主旨演講中指出，隨著智能體、AI Coding等應用的爆發(fā)式增長，Token消耗量呈百倍、千倍級躍升，2026年已成為名副其實的“Token爆發(fā)元年”。AI產業(yè)的核心關注焦點，正從“模型參數(shù)規(guī)模、模型可用性”全面轉向“穩(wěn)定、低成本、高質量交付的Token產能”。

“未來的智能基礎設施應圍繞‘Token即服務（TaaS，Token as a Service）’進行重構”。鄭緯民院士表示，傳統(tǒng)模型服務的核心是保障模型可得性與接口完整性，而Token服務的核心是保障Token產能的可用性，更關注成本、吞吐、延遲與可靠性等生產性指標，是一個極端復雜的多維系統(tǒng)最優(yōu)化問題，必須完成全鏈路的系統(tǒng)級創(chuàng)新。

對此，鄭緯民院士明確了TaaS發(fā)展的三大核心技術底座：一是全系統(tǒng)異構協(xié)同，通過將不同計算任務合理分配至GPU、CPU、內存和SSD，打破算力瓶頸；二是存算協(xié)同實現(xiàn)“以存換算”，通過前置KV Cache等技術，大幅降低重復計算量，提升推理效率；三是面向SLO的智能調度，精準地將用戶業(yè)務需求“翻譯”為底層資源決策。鄭院士表示：“只有讓智能生成像水電一樣被穩(wěn)定地調度與供給，才能真正迎來算力制造Token為王的普惠智能時代?！?/p>

趨境ATaaS平臺重磅發(fā)布，打造全球領先的Token生產效能放大器

趨境科技在論壇上重磅發(fā)布了其核心產品——趨境ATaaS高效能AI Token生產服務平臺。本次發(fā)布由趨境科技創(chuàng)始人兼CEO艾智遠，與中國工程院院士、九源智能計算生態(tài)聯(lián)合體理事長、清華大學教授、趨境科技首席科學家鄭緯民，以及并行科技董事長陳健、中科曙光智能計算產品事業(yè)部總經理杜夏威、華為昇騰計算業(yè)務副總裁兼首席產品規(guī)劃師葉耀榮、京東Infra產品負責人郝鵬、浦江實驗室代表鐘普共同揭曉。

針對當前大模型推理服務中普遍存在的硬件資源閑置、軟件適配滯后、算力配置粗放、架構演進失衡四大核心難題，該平臺將有效破解大額硬件投入難以轉化為優(yōu)質 Token 產能、資源浪費與成本空耗突出的行業(yè)困境，以高效能Token生產為核心目標，可支撐萬級別AI推理需求，并達到日均萬億級別Token整體產能。

趨境ATaaS平臺依托四大自研核心技術，構建覆蓋異構整合、智能調度、彈性擴容的全鏈路能力：

·六合：異構推理2.0：全球首創(chuàng)大模型計算邏輯重構技術，深度融合CPU+GPU、國產與非國產算力，實現(xiàn)任務的智能分流，可將萬卡級智算集群運營成本壓降20%以上。

·月餅：以存換算2.0：全球首創(chuàng)超體量KV Cache緩存技術，將KV Cache存儲空間擴展百倍至千倍，緩存命中率最高可達90%，直接削減90%的GPU算力開銷。

·雙儀：虛實同構：全球首創(chuàng)算子級SLO仿真技術，實現(xiàn)算力資源的智能預規(guī)劃與動態(tài)調優(yōu)，可精準切分異構算力，將萬卡級智算集群硬件綜合資源利用率最高提升數(shù)倍。

·萬象：極致彈性：打通規(guī)?；慨a最后壁壘，支持萬億參數(shù)大模型7秒快速拉起與動態(tài)配置變更、數(shù)百節(jié)點超大規(guī)模EP彈性調度，為萬卡級高性能橫向擴展提供關鍵能力。

趨境ATaaS平臺的發(fā)布為AI基礎設施的建設和運營提供了新的思路和行業(yè)標準，使每單位算力和能耗投入都能夠數(shù)倍轉化為更穩(wěn)定、更可衡量的Token價值產出，更標志著AI基礎設施發(fā)展焦點從單純的算力規(guī)模競爭，轉向對 Token 生產效率的綜合衡量，推動算力基礎設施從“數(shù)據中心”向“Token工廠”全面演進。

全產業(yè)鏈生態(tài)協(xié)同，凝聚國產算力發(fā)展核心共識

本次論壇不僅是技術的展示臺，更是產業(yè)生態(tài)協(xié)同的匯聚點。趨境科技積極推動與產業(yè)鏈上下游伙伴的深度合作，致力于構建開放共贏的智能計算生態(tài)。論壇上，來自并行科技、九源智能計算系統(tǒng)生態(tài)聯(lián)合體、中科曙光、京東云、阿里云、華為、商湯科技等企業(yè)的代表在論壇上圍繞國產算力多場景推理優(yōu)化實踐、推理框架實踐、Token時代AI引擎、算力底座高效推理等前沿話題以及與趨境科技的深度合作展開深入分享。

并行科技作為國內領先的算力服務商，在第三方算力服務領域位列第一，并行科技董事長陳健在演講中指出，其MaaS服務得到趨境科技的大力支持，雙方合作將高質量Token的生產成本大幅優(yōu)化，并將特定場景下的集群性能提升50%，共同為智譜、Kimi、MiniMax、DeepSeek等頭部大模型客戶提供優(yōu)質服務。

九源智能計算系統(tǒng)生態(tài)聯(lián)合體副秘書長王豪杰指出，Token時代競爭轉向單位成本產出，國產卡面臨“生態(tài)驅動”困局。九源聯(lián)合體打造國產智能計算生態(tài)，已取得多項成果：全國產化方案適配多款GPU、串行代碼高效并行的九源領域編程語言“九齒”、支撐Mooncake推理加速系統(tǒng)、基于國產芯片的高效智能體，并與KTransformers等框架深度聯(lián)動，推動國產算力從“可用”邁向“好用”。

京東云AI Infra產品負責人郝鵬表示，京東云已與趨境科技達成深度合作，聯(lián)合打造下一代推理引擎，共同賦能Mooncake開源生態(tài)。華為昇騰計算業(yè)務副總裁、首席產品規(guī)劃師葉耀榮強調，趨境與昇騰展開了全方位的技術和商業(yè)化合作，部分項目中在昇騰AI集群上實現(xiàn)了2倍以上性能提升。此外，阿里云政企事業(yè)部教育科研解決方案總監(jiān)楊坤、商湯科技大裝置首席架構師項鐵堯等也分享了與趨境科技在Mooncake等開源項目上深度合作，以及為趨境Token服務提供高可靠算力支持的實踐。

在圓桌對話環(huán)節(jié)，清華大學計算機系副教授章明星與中國移動數(shù)智化部副總經理陳國，天數(shù)智芯副總裁宋煜，中國科學技術大學計算機學院特任教授、博導李誠，美團首席工程師錢玉磊，趨境科技Mooncake首席工程師楊珂，圍繞“國產推理基礎設施從‘可用’到‘好用’的路線選擇與關鍵突破”展開探討。各方凝聚了三大共識：一是軟硬深度協(xié)同是釋放國產算力潛能的關鍵，需通過系統(tǒng)級優(yōu)化彌合硬件性能與業(yè)務需求之間的鴻溝；二是生態(tài)統(tǒng)一與標準建設至關重要，打破“百花齊放”帶來的適配難題，才能實現(xiàn)規(guī)模化應用；三是人才培養(yǎng)是產業(yè)根基，需通過開源社區(qū)、技術競賽等方式，培育兼具理論與工程能力的AI Infra人才。

本次研討會的成功舉辦，恰逢AI產業(yè)從模型競爭轉向規(guī)?；瘧?、從MaaS轉向TaaS的關鍵節(jié)點，不僅為AI推理服務領域搭建了產學研用深度交流的平臺，更為AI產業(yè)高質量發(fā)展謀劃路徑。論壇同期宣布2026年春季啟元人工智能大賽正式啟動，旨在通過賽教融合，為國產智能計算生態(tài)培育新一代人才，持續(xù)推動AI產業(yè)的開源創(chuàng)新與規(guī)?；瘧?。

轉載來源：趨境科技

本文為量子位獲授權轉載，觀點僅為原作者所有。