Mac mini vs Mac Studio 記憶體頻寬、TB5 叢集與本地 LLM 速度,全部用官網數字算給你看
四台機器、兩條軸線:容量決定模型跑不跑得動,記憶體頻寬決定它跑多快。 本頁把 Apple 官網的實際售價與規格換算成可驗算的單價與速度上限,不談體感。
本頁所有售價都是 Apple 官網設定工具實際跑出來的金額,不是推估值。 四組配置逐一核對:Mac mini M6 32GB/512GB = NT$50,900;Mac mini M5 Pro 64GB/512GB = NT$94,900; Mac Studio M5 Max 128GB/512GB = NT$175,900;Mac Studio M5 Ultra 256GB/1TB = NT$339,900。
兩款機器官網目前標示預訂中、9 月 22 日開始發售,Mac Studio 每位顧客限購兩部。 M5 Ultra 的 512GB 記憶體選項官網註明10 月底才推出。 價格會變動,下單前仍請以官網當下報價為準。
先講清楚:這四台的差別是兩條軸,不是一條
多數比較表只排「多少 GB」。但決定你實際體驗的,是容量與頻寬各自負責的兩件不同的事
容量:跑不跑得動
模型權重必須整份放進統一記憶體,放不下就是完全跑不起來,沒有「慢一點」這個選項。 這條軸是階梯式的:32GB 擋在 70B 之外,128GB 擋在大型 MoE 之外。 容量決定的是可行與不可行的分界。
頻寬:跑多快
生成每一個詞元,晶片都得把整份權重從記憶體讀過一遍。所以生成速度的上限直接由頻寬除以權重大小決定, 與 CPU 或 GPU 核心數關係不大。M5 Ultra 的 1,200 GB/s 是 M6 的 7.8 倍, 同一個模型的 tok/s 差距就是這個倍數。
四款主力機型速覽
每張卡片同時列出「官方入門機」與「本頁比較的配置」,兩組都是官網實價
Mac mini
Mac mini
Mac Studio
Mac Studio
一頁式全參數交叉對照表
價格列同時給入門機與本頁配置。表格可左右捲動;打開上方「高亮關鍵差異」可標出有差別的列
| 硬體參數 / 機型 |
Mac mini
Apple M6
NT$ 29,900 起
|
Mac mini
Apple M5 Pro
NT$ 59,900 起
|
推薦
Mac Studio
Apple M5 Max
NT$ 84,900 起
|
Mac Studio
Apple M5 Ultra
NT$ 199,900 起
|
|---|---|---|---|---|
| 晶片與核心架構 | ||||
| CPU 核心超級/效能/節能 | 12 核(2 / 4 / 6) | 15 核(5 / 10 / —) | 18 核(6 / 12 / —) | 30 核(10 / 20 / —) |
| GPU 核心 | 12 核 | 16 核可選 20 核 | 32 核可選 40 核(本頁配置) | 64 核可選 80 核 |
| 神經網路引擎(NPU) | 雙 16 核心 | 16 核心 | 16 核心 | 32 核心 |
| 媒體引擎解碼/編碼/ProRes | 1 / 1 / 1 | 1 / 1 / 1 | 1 / 2 / 2 | 2 / 4 / 4 |
| 記憶體與頻寬 | ||||
| 記憶體頻寬 | 153 GB/s加購 24/32GB 後為 170 | 307 GB/s | 460 GB/s40 核 GPU 版為 614 | 1.2 TB/s |
| 標配統一記憶體 | 16 GB | 24 GB | 36 GB40 核 GPU 版起跳 48GB | 96 GB |
| 記憶體可加購上限 | 32 GB | 64 GB | 128 GB僅 40 核 GPU 版可選 | 512 GB需 36 核/80 核版,10 月底推出 |
| 標配 SSD | 256 GB | 512 GB | 512 GB | 1 TB可加購至 16TB |
| Thunderbolt 與連接埠 | ||||
| 背面 Thunderbolt | 3 × TB4最高 40Gb/s | 3 × TB5最高 120Gb/s | 4 × TB5最高 120Gb/s | 4 × TB5最高 120Gb/s |
| 正面連接埠 | 2 × USB-C(10Gb/s) 3.5mm 耳機孔 |
2 × USB-C(10Gb/s) 3.5mm 耳機孔 |
2 × USB-C(10Gb/s) SDXC(UHS-II) |
2 × Thunderbolt 5 SDXC(UHS-II) |
| USB4 速度上限 | 40 Gb/s | 40 Gb/s | 120 Gb/s | 120 Gb/s |
| 其他連接埠 | HDMI | HDMI | HDMI 2.1 2 × USB-A(5Gb/s) |
HDMI 2.1 2 × USB-A(5Gb/s) |
| 乙太網路 | 2.5 Gb可加購 10Gb | 2.5 Gb可加購 10Gb | 10 Gb 標配 | 10 Gb 標配 |
| 顯示器輸出 | ||||
| 外接顯示器上限 | 3 部 | 3 部 | 5 部 | 8 部 |
| 單一 Thunderbolt 埠可帶 | 2 部 | 3 部 | 4 部 | 4 部 |
| DisplayPort 版本 | 原生 DP 1.4 | 原生 DP 2.1 | DP 2.1 | DP 2.1 |
| 8K 60Hz 最多幾部 | 1 部 | 1 部 | 2 部 | 4 部 |
| 電力與無線 | ||||
| 最大連續功率 | 155 W | 155 W | 480 W | 480 W |
| 無線 | N1 · Wi-Fi 7 · 藍牙 6 · Thread | N1 · Wi-Fi 7 · 藍牙 6 · Thread | N1 · Wi-Fi 7 · 藍牙 6 · Thread | N1 · Wi-Fi 7 · 藍牙 6 · Thread |
| 售價(兩組皆為官網實價) | ||||
| 官方入門機 | NT$ 29,90016GB / 256GB | NT$ 59,90024GB / 512GB | NT$ 84,90036GB / 512GB | NT$ 199,90096GB / 1TB |
| 本頁比較的配置 | NT$ 50,90032GB / 512GB | NT$ 94,90064GB / 512GB | NT$ 175,900128GB / 512GB | NT$ 339,900256GB / 1TB |
| 每 GB/s 頻寬成本 入門機售價 ÷ 頻寬 | NT$ 195 | NT$ 195 | NT$ 185 | NT$ 167 |
記憶體到底多少錢:答案是一個常數
網路上常見的「售價 ÷ 記憶體」其實在問錯問題。真正該看的是官網加購級距的邊際單價
Apple 台灣官網七個統一記憶體加購級距,跨 M6、M5 Pro、M5 Max、M5 Ultra 四款晶片, 換算後單價完全相同。
這個數字讓「哪台記憶體比較划算」這個問題直接消失。 不論你買哪一台,多要一個 GB 就是多付 875 元,沒有量大優惠,也沒有高階機比較吃虧。 要決定買多少記憶體,只需要問「我需要幾 GB」,不必再比較機型間的單位成本。
相對地,「售價 ÷ 記憶體容量」這個常見指標沒有意義:它把機殼、散熱、SSD、10GbE 全部攤到記憶體頭上。用它算,入門機是 1,869/2,496/2,358/2,082 元/GB(不單調,看起來 M5 Pro 最貴); 換成加購到頂的配置又變成 1,591/1,483/1,374/1,328(一路遞減,看起來越貴越划算)。 同一批機器、兩個相反的結論,只因為換了配置——這說明量的不是記憶體的價格。
| 晶片 | 級距 | 算式 | 邊際單價 |
|---|---|---|---|
| M6 | 16 → 24GB | +7,000 ÷ 8 GB | 875 元/GB |
| M6 | 16 → 32GB | +14,000 ÷ 16 GB | 875 元/GB |
| M5 Pro | 24 → 48GB | +21,000 ÷ 24 GB | 875 元/GB |
| M5 Pro | 24 → 64GB | +35,000 ÷ 40 GB | 875 元/GB |
| M5 Max 40 核 | 48 → 64GB | +14,000 ÷ 16 GB | 875 元/GB |
| M5 Max 40 核 | 48 → 128GB | +70,000 ÷ 80 GB | 875 元/GB |
| M5 Ultra | 96 → 256GB | +140,000 ÷ 160 GB | 875 元/GB |
兩件由這個常數推出來的事:
- 記憶體是 SSD 的 51 倍貴。 同一份官網級距算下來,1TB 以上的 SSD 加購是每 GB 17.09 元(512GB→1TB 那一階略貴,20.51 元)。 875 ÷ 17.09 ≈ 51.2 倍。這也是為什麼「用外接硬碟當虛擬記憶體跑大模型」不成立—— 便宜的那個東西,速度是慢兩個數量級的那個(見下一節的頻寬階梯)。
- Mac Studio 那個「+NT$10,500 升級 40 核 GPU」其實要多花 21,000 元。 官網在晶片頁標示 40 核 GPU 加價 10,500,但基礎機價從 84,900 跳到 105,900。 差額是因為 40 核版的標配記憶體同時從 36GB 變成 48GB, 那 12GB 正好是 12 × 875 = 10,500 元。兩筆加起來才是 21,000。
記憶體頻寬階梯:為什麼模型一定要住在統一記憶體裡
同一條對數軸上,把四台機器的統一記憶體頻寬與所有對外傳輸介面放在一起比
橫軸為對數刻度(GB/s),每格代表 10 倍。刻意用點而不用長條——在對數軸上,長條的長度比例是假的。 外接介面已從 Gb/s 換算為 GB/s(÷ 8)以便同軸比較。
M5 Ultra 的統一記憶體頻寬(1,200 GB/s)相對於 Thunderbolt 5 對稱雙向(10 GB/s)
連最入門的 M6(170 GB/s)都是 Thunderbolt 4(5 GB/s)的 34 倍
M5 Ultra 統一記憶體相對於 10Gb 乙太網路(1.25 GB/s)
Thunderbolt 4 與 5:那個「120Gb/s」是怎麼回事
四台機器只有 Mac mini M6 還是 Thunderbolt 4。TB5 的三個數字代表三種不同情況,而它比 TB4 多出來的還不只是速度
| 項目 | Thunderbolt 4 | Thunderbolt 5 |
|---|---|---|
| Apple 官網標示速度 | 最快可達 40 Gb/s | 最快可達 120 Gb/s |
| 對稱雙向(一般傳輸) | 40 Gb/s ↓ / 40 Gb/s ↑ | 80 Gb/s ↓ / 80 Gb/s ↑ |
| 頻寬提升模式高頻寬顯示器用 | 無此模式 | 120 Gb/s ↓ / 40 Gb/s ↑ |
| 原生 DisplayPort | DP 1.4 | DP 2.1 |
| 單一埠可帶顯示器 | 2 部(Mac mini M6) | 3 部(mini M5 Pro)/ 4 部(Studio) |
| 同埠 USB4 速度 | 40 Gb/s | mini 40 Gb/s / Studio 120 Gb/s |
| RDMA 多機叢集需 macOS 26.2 以上 | 不支援 | 支援下一節整節在講這件事 |
還有一件官網有寫、但很容易略過的事: 同樣是 Thunderbolt 5 埠,Mac Studio 上的 USB4 可達 120Gb/s,Mac mini M5 Pro 上只標 40Gb/s。 接 USB4(非 Thunderbolt)擴充座時,兩台機器的天花板不一樣。
Thunderbolt 埠總數:M6 / M5 Pro / M5 Max / M5 Ultra。只有 M5 Ultra 的正面兩個埠是 Thunderbolt,另外三台的正面 USB-C 都是 10Gb/s
兩台 Mac Studio 標配萬兆乙太網路;兩台 Mac mini 標配 2.5Gb,10Gb 要另外加購
只有 Mac Studio 有讀卡機,Mac mini 兩款都沒有。相機工作流程這一項比埠數更關鍵
多機叢集:Thunderbolt 5 真正拉開差距的地方
TB5 比 TB4 多的不只是速度——它可以把好幾台 Mac 的統一記憶體串成一個池,跑單機根本裝不下的模型
Mac mini 頁(只出現在 M5 Pro 段落):「還能讓你將多部 Mac mini 串連成裝置叢集,以執行更大型的本地 AI 模型。」
Mac Studio 頁:「支援叢集運算,分散式 AI 推論速度提升,最快可達 3 倍」
底層是 macOS 26.2 起加入的 RDMA over Thunderbolt(remote direct memory access,遠端直接記憶體存取): 一台 Mac 可以直接讀寫另一台的記憶體,不必經過整套網路協定堆疊。 Apple 自己用開源的 JACCL 函式庫實作,MLX 接在它上面; 官網點名的第三方 app 是 exo 與 LM Studio Bionic。 它硬性要求 Thunderbolt 5——所以這一節與 Mac mini M6 完全無關。
| 項目 | Mac mini M6 | Mac mini M5 Pro | Mac Studio M5 Max | Mac Studio M5 Ultra |
|---|---|---|---|---|
| Thunderbolt | 3 × TB4 | 3 × TB5 | 4 × TB5 | 6 × TB5含正面 2 個 |
| 可組 RDMA 叢集 | 不支援 | 可 | 可 | 可 |
| 全網狀節點上限埠數 + 1 | — | 4 台 | 5 台 | 7 台 |
| 組成 4 節點後剩餘 TB 埠 | — | 0 個螢幕只能走 HDMI | 1 個 | 3 個 |
| 單機記憶體上限 | 32 GB | 64 GB | 128 GB | 512 GB10 月底推出 |
| 4 節點記憶體池 | — | 256 GB | 512 GB | 2,048 GB需 512GB 版 |
| 4 節點峰值功率 | — | 620 W | 1,920 W | 1,920 W |
Apple 自己示範與標示的都是 4 節點,上表的 5 台/7 台是從埠數推出來的理論值, 不是官方保證的配置。另外 exo 的說明文件提到 Mac Studio 靠近乙太網路孔的那個 TB5 埠不能用於 RDMA—— 那份說明寫於 M3 Ultra 世代,本文沒有辦法證實新機是否相同;若成立,Studio 的上限要各減一台。
上一節說 TB5 只有 10 GB/s,那怎麼串得動?
- 因為跨機器傳的不是權重,是活化值(activations)。 權重固定住在各節點自己的統一記憶體裡,一輩子不過線。 線上跑的是每層算完的中間結果——以一個詞元計,那是幾 MB 的量級,不是幾十 GB。 階梯圖上那個 120 倍的差距,量的是「權重進不進得了晶片」,不是「跨機器要傳多少」,兩者根本不是同一件事。
- 真正的瓶頸是延遲,不是頻寬。 張量平行(tensor parallelism)把同一層切開分給各機器算,每一層、每一個詞元都要同步一次, 一次生成要來回上千次。這種時候決定成敗的是往返延遲: 走 TCP 約 300 µs,走 RDMA 降到 50 µs 以下——差了一個數量級,這才是 RDMA 的意義。 也因此串連只能用 Thunderbolt 直連,走 10GbE 交換器不會有同樣的效果。
- 還有一種切法完全不吃延遲,但也不會變快。 管線平行(pipeline parallelism)是把整個模型按層數切段,一台放前 1/4、下一台放次 1/4, 只在段落交界傳一次活化值。通訊量最小、最容易成立,但一個詞元仍得依序穿過每一台, 所以它只解決「裝不裝得下」,不解決「快不快」。MLX 要用它得自己加 --pipeline 參數。
| 來源 | 測試內容 | 1 節點 | 4 節點 | 倍數 |
|---|---|---|---|---|
| Apple 官方2026 年 7 月測試 | 72B 稠密模型 + 32K 提示詞,mlx-lm,全網狀 TB5 + RDMA | 基準 | — | 最快 3 倍 |
| exo 官方宣稱 | 張量平行加速比 | — | — | 2 台 1.8 倍 4 台 3.2 倍 |
| 第三方實測Geerling,2025-12 4 × M3 Ultra/1.5TB |
Qwen3 235B 8-bit,exo + RDMA | 19.5 tok/s | 31.9 tok/s | 1.64 倍 |
| 第三方實測同一套硬體的對照組 | Qwen3 235B 8-bit,llama.cpp 走 TCP | 20.4 tok/s | 15.2 tok/s | 0.75 倍越串越慢 |
| 第三方實測 | DeepSeek V3.1 671B,exo + RDMA | — | 32.5 tok/s | TCP 對照組僅 14.6 |
| 第三方實測 | Kimi K2 Thinking 1T 4-bit(權重約 658GB) | 裝不下 | 28.3 tok/s | 單機無解 |
要特別提醒兩件事。 第一,上表的實測是 M3 Ultra 世代的機器,不是本文比較的四台;引用它是為了看 TCP 與 RDMA 的落差與趨勢, 不能拿來預測 M5 的絕對數字。第二,該次測試明講沒有測長上下文的提示詞處理, 只反映穩定生成階段,而 exo 當時仍是 pre-release 版本。
| 買法 | 售價 | 每節點頻寬 | TB5 線 | 峰值功率 |
|---|---|---|---|---|
| 1 台 M5 Ultra 256GB | NT$ 339,900 | 1,200 GB/s | 0 條 | 480 W |
| 2 台 M5 Max 128GB | NT$ 351,800175,900 × 2 | 614 GB/s | 1 條 | 960 W |
| 4 台 M5 Pro 64GB | NT$ 379,60094,900 × 4 | 307 GB/s | 6 條 | 620 W |
四台 Mac mini M5 Pro 串出 256GB 記憶體池,比一台 M5 Ultra 256GB 多花的錢。 而且每個節點的頻寬只有它的 1/3.9。
同樣是 256GB,越串越貴、每節點頻寬越低、線越多。 單機那個買法在售價、頻寬、功率、佈線四項上全部勝出—— 這不是巧合,因為記憶體單價是全線固定的 875 元/GB,串連並不會讓那個常數變便宜, 卻要多買三套機殼、電源、散熱與 SSD。
所以「串連比較划算」是錯的,串連解決的是另一個問題:買不到的容量。 單機天花板是 512GB(而且 10 月底才推出)。 要跑 Kimi K2 Thinking 這種 4-bit 權重就 658GB 的模型, 不是划不划算的問題,是單機根本沒有那個選項——上表第三方實測也記錄了它至少需要 2 個節點。 另外兩個串連才有的好處:可以分批買(先一台、之後再加), 以及那些機器本來就各有各的用途,叢集只是它們閒著時的第二身分。
真的要動手之前,這七件事會擋住你:
- macOS 26.2 以上,而且每一台的版本號要完全一致——exo 的說明文件寫明連 beta 版號都必須相同,否則 RDMA 埠彼此看不到對方。
- 每一台都要進 Recovery 模式手動開啟。關機、長按電源鍵十秒進「選項」、開終端機執行
rdma_ctl enable、重開機。這件事無法遠端做,機器不在手邊就別想了。 - 線材必須真的支援 TB5。手邊的 USB4 或 Thunderbolt 4 線接得上、也會亮,但不會有 RDMA。
- 4 節點要 6 條線,而且沒有 switch 可買。Mac mini 只有 3 個 TB5 埠,組完 4 節點就一個埠都不剩,螢幕得改走 HDMI、外接硬碟只能用前面 10Gb/s 的 USB-C。
- 記憶體池不是單純相加。每台都各自跑一份 macOS,本頁一律以總容量的 72% 估算可用空間——256GB 的池實際約 184GB 放得下權重,四台的系統開銷是四份、不是一份。
- 電力要先算過。四台 Mac Studio 峰值 1,920 W,超過台灣家用常見 110V/15A 迴路的 1,650 W 上限,得拆到兩個迴路;四台 Mac mini 只有 620 W,同一條迴路吃得下。
- 軟體還在動。第三方實測當時 exo 為 pre-release、TCP over TB5 曾出現不穩定與崩潰。這是 2025 年 12 月的狀況,動手前值得先確認當下版本。
本地大型語言模型:生成速度可以先算出來
生成每個詞元都要把整份權重讀過一遍,所以速度上限 = 記憶體頻寬 ÷ 權重大小
| 模型(Q4 量化) | Mac mini M6 170 GB/s · 32GB |
Mac mini M5 Pro 307 GB/s · 64GB |
Mac Studio M5 Max 614 GB/s · 128GB |
Mac Studio M5 Ultra 1,200 GB/s · 256GB |
|---|---|---|---|---|
| Llama 3.1 8B權重 4.8 GB | 25tok/s 有餘裕 |
45tok/s 有餘裕 |
90tok/s 有餘裕 |
175tok/s 有餘裕 |
| Qwen3 14B權重 8.4 GB | 14tok/s 有餘裕 |
26tok/s 有餘裕 |
51tok/s 有餘裕 |
100tok/s 有餘裕 |
| Qwen2.5-Coder 32B權重 19.2 GB | 6tok/s 上下文空間吃緊 |
11tok/s 有餘裕 |
22tok/s 有餘裕 |
44tok/s 有餘裕 |
| Llama 3.3 70B權重 42.0 GB | 記憶體不足 | 5tok/s 上下文空間吃緊 |
10tok/s 有餘裕 |
20tok/s 有餘裕 |
| Qwen3 235B-A22B(MoE)權重 141.0 GB(每詞元只讀 13.2 GB) | 記憶體不足 | 記憶體不足 | 記憶體不足 | 64tok/s 上下文空間吃緊 |
tok/s ≈ 記憶體頻寬 ÷ 權重位元組數 × 0.70權重大小以 Q4_K_M 量化每參數約 0.6 位元組估算(8B ≈ 4.8GB、70B ≈ 42GB)。 乘上 0.70 是因為實務上讀不滿理論頻寬,這是 llama.cpp/MLX 在 Apple Silicon 上的常見區間; 這個係數是經驗值,不是官方數字,你的實測會落在附近而不會剛好相等。 可用記憶體以總容量的 72% 估算(macOS 要留給系統與其他程式); 權重超過可用記憶體 75% 就標為「上下文空間吃緊」——塞得下權重不等於還放得下夠長的上下文。
MoE 模型是例外,而且是關鍵的例外: Qwen3 235B-A22B 總參數 235B(權重 141GB,只有 256GB 機器裝得下), 但每個詞元只啟用 22B(13.2GB),所以它在 M5 Ultra 上跑得比稠密的 70B 還快。 大容量統一記憶體真正的價值在這裡:不是把稠密模型跑更快,是讓 MoE 這種「大而稀疏」的架構變得可行。
表格讀出來的三個結論:
- M6 的天花板是 14B,不是 32B。 32B 雖然塞得進 32GB,但只剩很少空間給上下文,而且 6 tok/s 已經低於一般可用的閱讀速度。 要在 Mac mini 上舒服跑本地模型,14B 是實際的上限。
- M5 Pro 的 64GB 是「70B 跑得動但很勉強」。 42GB 權重對上約 46GB 可用記憶體,剩下的空間放不了多長的上下文,速度也只有 5 tok/s。 如果目標明確是 70B,這台是錯的選擇。
- M5 Max 128GB 是稠密 70B 的實用起點。 10 tok/s 加上充足的上下文空間,這是四台裡第一台把 70B 從「能載入」變成「能用」的機器。 而它的 614GB/s 頻寬,正好是因為 128GB 只有 40 核 GPU 版可選才拿到的。
選購決策:從你要跑什麼往回推
記憶體單價是固定的 875 元/GB,所以問題不是「哪台划算」,而是「我需要多少」
開發與日常多工
NT$36,900(24GB/256GB)就順帶把頻寬從 153 升到 170GB/s。除非確定要跑 14B 以上的本地模型,32GB 那 7,000 元用不太到。
重度編譯、4K 剪輯
NT$59,900 就有 307GB/s 與 3 個 Thunderbolt 5。真正的取捨在這裡:沒有讀卡機、10GbE 要加購、媒體引擎仍是單編碼器。
本地 70B 模型、多軌 8K
NT$175,900。四台裡唯一把 70B 從「能載入」變成「能用」的;雙編碼引擎與 10GbE 標配同時到位。128GB 與 614GB/s 是綁在一起買的。
大型 MoE、多螢幕監控
NT$199,900 起。要跑 235B 等級的 MoE 才需要加到 256GB(+140,000)。純粹要八螢幕或四路 8K 編碼的話,96GB 入門機就夠。
還有一個上面四張卡都沒放的情況:模型比單機上限還大。 512GB 以上就沒有單機選項了,只能靠 Thunderbolt 5 串多台——但那條路的成本、佈線與電力代價, 多機叢集那一節已經逐項算過,結論是:塞得進單機就不要串。
數字怎麼來的
官方數字(可直接核對):晶片核心數、記憶體頻寬、記憶體與 SSD 選項、連接埠、顯示器上限、 媒體引擎、功率、售價與加購級距,全部取自 Apple 台灣官網的 Mac mini 與 Mac Studio 技術規格頁與購買頁,2026-08-30 逐項查核。加購價差是在官網設定工具上實際選出各組配置後讀到的金額。
推導值(本頁算出來的,算式都寫在對應段落):每 GB 記憶體邊際單價、每 GB/s 頻寬成本、 SSD 邊際單價、頻寬倍數、生成速度上限。
經驗值(不是官方數字,會因軟體與設定而異):Q4_K_M 每參數 0.6 位元組、 實務頻寬利用率 0.70、可用記憶體比例 0.72。這三個係數只影響 tok/s 的絕對值,不影響機型之間的比例關係。
第三方數字(非官方,出處與日期都寫在對應段落):多機叢集那一節的實測 tok/s、
TCP 與 RDMA 的延遲差距,來自 Jeff Geerling 2025 年 12 月以 4 台 M3 Ultra Mac Studio
所做的公開測試;叢集的硬性條件(macOS 26.2、全網狀接線、rdma_ctl enable、
版本號須一致)取自 exo 專案的說明文件;平行化策略的說明取自 Apple MLX 的 distributed
文件與 WWDC26 的相關場次。這些測試用的是前一代硬體,只能看趨勢,不能當成 M5 的預期值。
兩款機器官網標示 9 月 22 日開始發售、目前為預訂狀態,Mac Studio 每位顧客限購兩部。 M5 Ultra 的 512GB 記憶體選項官網註明 10 月底推出。實際售價以 Apple 官網當下報價為準。