今天聊一個(gè)很多 Mac 用戶關(guān)心的問題：MiniMax-M2.7 怎么在 Mac 上跑起來？

MiniMax-M2.7 是什么來頭？

先簡(jiǎn)單回顧一下

M2.7 是 MiniMax 最新的開源大模型，MoE 架構(gòu)，總參數(shù) 228.7B，每 token 激活約 10B 參數(shù)，192K 上下文

這貨最亮眼的幾個(gè)數(shù)據(jù)：

• **SWE-Pro 56.22%**，和 GPT-5.3-Codex 打平

• MLE Bench Lite 66.6%獎(jiǎng)牌率，僅次于 Opus-4.6 和 GPT-5.4

• 原生支持 Agent Teams，多智能體協(xié)作

• Always-reasoning 模式，始終開啟思考鏈

問題是——228B 參數(shù)，普通人怎么跑？答案是量化。但 MiniMax 的量化比一般模型坑多得多

為什么標(biāo)準(zhǔn)量化在 MiniMax 上翻車？

這是寫這篇文章最想說的一件事：標(biāo)準(zhǔn) MLX 均勻量化在 MiniMax-M2.7 上完全失效——MMLU 直接降到 ~25%，基本等于隨機(jī)猜

原因在于 MoE 架構(gòu)的路由器（Router Gate）

均勻量化連路由器一起壓了，導(dǎo)致 token 被分配到錯(cuò)誤的專家上，整個(gè)模型就廢了

所以 Mac 用戶想跑 M2.7，目前只有兩條靠譜的路

路徑一：JANGTQ + MLX Studio（推薦?。?/p>

JANGTQ（JANG TurboQuant）是目前最小體積、最高質(zhì)量的 M2.7 Apple Silicon 量化方案，來自 JANGQ-AI 團(tuán)隊(duì)

核心思路：混合精度量化。路由專家 MLP（占 98% 參數(shù)）用 2-bit codebook + Hadamard 旋轉(zhuǎn)壓縮，而 Attention、共享專家、Router Gate 保持 8-bit 或 fp16。

硬核數(shù)據(jù)：

指標(biāo)

數(shù)值

磁盤占用

56.5 GB

GPU 顯存

56.5 GB

MMLU（200題）

91.5%

速度（M3 Ultra）

~44 tok/s

你沒看錯(cuò)——2-bit 量化，只要 56.5GB，MMLU 居然能打到 91.5%。對(duì)比標(biāo)準(zhǔn) MLX 量化的 ~25%，這差距簡(jiǎn)直是天壤之別

怎么跑：

最簡(jiǎn)單的方式是用 MLX Studio（內(nèi)置了 JANGTQ 運(yùn)行時(shí)和 Metal 內(nèi)核）：

命令行方式也行：

pip install jang-tools

from huggingface_hub import snapshot_download
from jang_tools.load_jangtq import load_jangtq_model
from mlx_lm import generate

 model_path = snapshot_download("JANGQ-AI/MiniMax-M2.7-JANGTQ")
model, tokenizer = load_jangtq_model(model_path)

 messages = [{"role": "user", "content": "用5句話解釋光合作用"}]
prompt = tokenizer.apply_chat_template(messages, add_generation_prompt=True, tokenize=False)
out = generate(model, tokenizer, prompt, max_tokens=600, verbose=True)

 # 剝離推理鏈獲取最終答案
if""in out:
    out = out.split("")[-1].strip()
print(out)

硬件要求：

機(jī)器

最低內(nèi)存

預(yù)期速度

M3 Ultra / M2 Ultra

96 GB

~44 tok/s

M4 Max

96 GB

~35-40 tok/s

M4 Pro

64 GB

~25-30 tok/s（非常緊張）

64GB 的 M4 Pro 理論上能跑，但會(huì)很緊張

96GB 是比較舒服的起點(diǎn)

路徑二：LM Studio + GGUF（最省心）

如果你就想點(diǎn)幾下鼠標(biāo)就開跑，LM Studio 是最簡(jiǎn)單的選擇。

LM Studio 已經(jīng)上線了 MiniMax-M2.7 的 GGUF 版本，基于 llama.cpp b8778 量化。

使用步驟：

1. 下載安裝 LM Studio：https://lmstudio.ai/download

2. 搜索minimax/minimax-m2.7

3. 選擇量化版本下載

4. 設(shè)置參數(shù)：Temperature=1.0（必須?。?、Top K=40、Top P=0.95

5. 開始對(duì)話

GGUF 來源是lmstudio-community/MiniMax-M2.7-GGUF。如果追求更好的量化質(zhì)量，Unsloth 提供了 22 個(gè) Dynamic 2.0 量化版本，逐層差異化量化，質(zhì)量全面優(yōu)于標(biāo)準(zhǔn) imatrix。

但有個(gè)大問題：LM Studio 官方標(biāo)注最低系統(tǒng)內(nèi)存 138GB

兩條路徑，怎么選？
兩條路徑對(duì)比

維度

JANGTQ + MLX Studio

LM Studio / GGUF

最小磁盤

56.5 GB

~108 GB

最低內(nèi)存

64 GB

138 GB

MMLU 質(zhì)量

91.5%

~64-65%（4-bit）

速度(M3 Ultra)

~44 tok/s

待測(cè)

易用性

需安裝 jang-tools

開箱即用

生態(tài)兼容

MLX 生態(tài)

OpenAI 兼容 API

我的建議：

• 96GB 以下的 Mac→ 只能走 JANGTQ，別無(wú)選擇

• 128GB+ 且需要 OpenAI 兼容 API→ LM Studio / GGUF 更方便

• 追求最佳質(zhì)量→ JANGTQ 碾壓，2-bit 打 4-bit，這個(gè)結(jié)果說實(shí)話我也很意外

不管走哪條路，這幾個(gè)參數(shù)必須注意：

1. Temperature 必須設(shè) 1.0—— temp=0 會(huì)導(dǎo)致思考鏈死循環(huán)，模型會(huì)一直 下去停不了

2. max_tokens ≥ 8192—— Always-reasoning 模型的思考過程需要足夠空間

3. 內(nèi)存必須大于模型文件大小—— 否則回退到硬盤卸載，速度斷崖式下降

MiniMax-M2.7 在 Mac 上的本地部署，JANGTQ 是目前當(dāng)之無(wú)愧的最優(yōu)解——體積最小、質(zhì)量最高。2-bit 量化能拿到 91.5% MMLU，這在我寫過的所有量化方案里都算炸裂級(jí)別的。

LM Studio 勝在省心和生態(tài)兼容，但內(nèi)存門檻太高。

如果你手上有一臺(tái) 96GB+ 的 Mac，強(qiáng)烈建議先試試 JANGTQ

56.5GB 下載完就能跑，44 tok/s 的速度日常使用完全夠了。

.7

制作不易，如果這篇文章覺得對(duì)你有用，可否點(diǎn)個(gè)關(guān)注。給我個(gè)三連擊：點(diǎn)贊、轉(zhuǎn)發(fā)和在看。若可以再給我加個(gè)，謝謝你看我的文章，我們下篇再見！