編輯｜澤南

大模型推理的基石 vLLM，現(xiàn)在成為創(chuàng)業(yè)公司了。

北京時間周五凌晨傳來消息，由開源軟件 vLLM 的創(chuàng)建者創(chuàng)立的人工智能初創(chuàng)公司 Inferact 正式成立，其在種子輪融資中籌集了 1.5 億美元（約合 10 億元人民幣），公司估值達到 8 億美元。

本輪融資由風險投資公司 Andreessen Horowitz（a16z）和 Lightspeed 領投，Sequoia Capital、Altimeter Capital、Redpoint Ventures 和 ZhenFund 也參與了投資。

Inferact 的 1.5 億美元天使輪融資雖不及 Ilya Sutskever 的公司 SSI 的 10 億美元，但已經(jīng)超過了 Mistral AI 的 1.15 億美元，是有史以來規(guī)模最大的種子輪融資之一，標志著業(yè)界對于 AI 推理基礎設施的重視程度正在急速提升。

Inferact 的使命是將 vLLM 發(fā)展成為世界領先的 AI 推理引擎，并通過降低推理成本、加快推理速度來加速 AI 的發(fā)展。

該公司認為，AI 行業(yè)未來面臨的最大挑戰(zhàn)不是構(gòu)建新模型，而是如何以低成本、高可靠性地運行現(xiàn)有模型。

毫無疑問，Inferact 的核心是開源項目 vLLM，這是一個于 2023 年啟動的開源項目，旨在幫助企業(yè)在數(shù)據(jù)中心硬件上高效運行 AI 模型。

vLLM 最初由加州大學伯克利分校（UC Berkeley）的天空計算實驗室 (Sky Computing Lab) 開發(fā)，現(xiàn)由 PyTorch 基金會負責管理，已吸引了來自整個 AI 行業(yè)的 2000 多名貢獻者，是全球范圍內(nèi)最受歡迎的開源大模型推理加速框架。

如今，vLLM 的推理能力在為 Meta、谷歌、Character.AI 等科技公司提供支持。

Inferact 的首席執(zhí)行官 Simon Mo 是一位伯克利在讀博士生，他是 vLLM 的創(chuàng)始維護者之一。Mo 表示，公司成立于 2025 年 11 月，并于本周正式對外公布。他將 Inferact 的起源與伯克利早期的一些軟件項目進行了比較，這些項目后來發(fā)展成為規(guī)模更大的企業(yè)，例如 Apache Spark 和 Ray。

在宣布融資的同時，Lightspeed（光速創(chuàng)投）也發(fā)布了對 Simon Mo 的訪談。在其中 Simon Mo 談到了對于全球 AI 算力緊缺的擔憂，「當前用于大模型訓練的 AI 集群，將在六個月內(nèi)完全被用于推理…… 推理會逐漸消耗掉所有算力容量，并耗盡所有新增的容量?！?/p>

在公告中，Inferact 表示，其定位于模型和硬件的交匯點：當模型廠商發(fā)布新架構(gòu)時，他們會與 vLLM 合作，確保提供首日支持；當硬件廠商開發(fā)新芯片時，他們會與 vLLM 集成；當大模型團隊進行大規(guī)模部署時，他們會運行 vLLM，從前沿實驗室到超大規(guī)模數(shù)據(jù)中心，再到服務數(shù)百萬用戶的初創(chuàng)公司，無一例外。

如今，vLLM 支持了 500 多種模型架構(gòu)，可在 200 多種加速器上運行，并支持著全球規(guī)模的推理。這個由 2000 多位貢獻者共同構(gòu)建的生態(tài)系統(tǒng)，是 Inferact 得以成立的基礎。

Inferact 表示，其首要任務是繼續(xù)支持 vLLM 作為獨立的開源項目，并將改進成果分享給社區(qū)。他們計劃進一步提升 vLLM 的性能，深化對新興模型架構(gòu)的支持，并擴大對前沿硬件的覆蓋范圍。Inferact 的第二個目標是開發(fā)一款獨立的商業(yè)產(chǎn)品，幫助企業(yè)在不同類型的硬件上更高效地運行 AI 模型。

值得關(guān)注的是，vLLM 項目的核心貢獻者清華博士游凱超成為了這家公司的聯(lián)合創(chuàng)始人。

據(jù)介紹，Inferact 的創(chuàng)始團隊包括 Simon Mo、Woosuk Kwon、Kaichao You（游凱超）、Roger Wang、Joseph Gonzalez、Ion Stoica 等人。

https://inferact.ai/

https://www.bloomberg.com/news/articles/2026-01-22/andreessen-backed-inferact-raises-150-million-in-seed-round