Vanilla Lab

← 回文章列表

兩台 Mac 跑 8,160 億參數,Zeabur 卻收攤:AI 正在吃掉中間那層

2026-10-17
黑底圖表:一百萬台幣換成 DeepSeek API,快取命中率 99%,四個用量從 272 年到 9 年

10 月 15 日,Meta 把 8,160 億參數的 Muse Spark Open 放上 Hugging Face,兩台 Mac Studio 就能跑。

10 月 17 日,台灣團隊做的部署平台 Zeabur 寄信給用戶,年底關站。

一則講能力下放到桌面,一則講一層服務消失。看起來無關,其實是同一個動作的兩端。

Zeabur 的死因有兩個

先排時間軸。

2 月 23 日,官方公告共享叢集退場。8 月 27 日第一次資安事件:攻擊者從一個用戶部署的 NextChat 2.16.1 進來(CVE-2026-7644,MCP 授權檢查不足),在共享叢集內網撿到快取的 Legacy API Key,那支金鑰指向內部管理服務,裡面放著長期使用的 AWS root 金鑰。
最後讀到正式環境資料庫,專案環境變數裡有第三方 API key、資料庫密碼。

9 月 21 日,AI Hub 關閉,未用額度退回。

10 月 14 日晚間第二次。這次平台自己的資料庫被讀,環境變數、帳號資訊、API token、zSend 金鑰都在裡面,session 簽章金鑰全部輪替,所有用戶被登出。

10 月 17 日早上,創辦人林沅霖寄信:逐步結束營運。12 月 1 日共享叢集暫停、專用伺服器停止續費,12 月 31 日全部關閉。

他在信裡給的理由有三個:安全、營運負擔、繼續投入的錢。還有一句關鍵:AI 讓部署需求變高,但把部署的門檻壓低了,平台的成長因此停住。

所以死因不只一個。資安是那顆子彈,AI 拆門檻是慢性病。

另一邊,門檻被搬到桌上

Muse Spark Open 的規格是這樣:總參數 8,160 億,MoE 每次只啟用 420 億(5.1%),上下文 100 萬 token,原生多模態。

原始 BF16 權重超過 1.6TB,量化成 NVFP4 之後約 493GB。兩台 M5 Ultra 的 Mac Studio,每台 512GB 統一記憶體,加起來 1TB,裝得下模型,還剩 531GB 給推論時的 KV cache。

蘋果的 MLX 透過 Thunderbolt 5 做分散式推論,8,192 token 上下文的測試裡,兩台採張量平行每秒 24.99 個 token,四台 36.73 個。這個速度大約是人類閱讀的四倍半。

代價也寫得很清楚。256GB 版 M5 Ultra Mac Studio 單台 10,799 美元起(約 34 萬台幣),要跑完整模型得兩台以上,512GB 版當時還沒上市。四台 256GB 的配置大約 4.3 萬美元(約 135 萬台幣)。

從「租 GPU」變成「買兩台桌機」,這是同一件事的另一種說法。

被抽掉的是中間那層

  • 部署層:把程式碼變成線上服務這件事,現在 coding agent 自己會做完

  • 推理層:本來要租 GPU 雲或買 MaaS,現在兩台桌機可以自己扛

  • 工具鏈:Zeabur 自己在停運公告裡說,要出給 Claude Code、Codex 讀的遷移指南

中間層要活下來,靠的是信任或獨家能力。Zeabur 的獨家能力被 AI 抹平,信任被兩次事件打掉,兩邊同時歸零。

活下來的兩端很明顯:一邊有硬體(蘋果、NVIDIA),一邊有模型(Meta、DeepSeek、Kimi)。中間那層如果只是「幫你跨過門檻」,門檻一消失,它就沒有生意。

別急著喊取代

三個冷水。

第一,Meta 那張自評表現在有第三方對照了。Artificial Analysis 給 Muse Spark Open 39 分(Intelligence Index v4.3.2),開源同級的 120 個模型裡排第 10,中位數是 19。所以「美國最強開放權重」這句話在 AA 的尺上站得住,但 39 分是開源前段,不是前沿。

同一張榜上還看不到 DeepSeek V4.1 Flash 1017,它 10 月 17 日才上線。能先對的只有價格:Meta 每百萬 token 輸入 1.25 美元、輸出 4.25 美元,DeepSeek Flash 是 0.15 與 0.60,差七到八倍。

第二,開放權重不等於開源。Muse Model License 寫得很清楚:年營收超過 2,000 萬美元的企業,若以模型即服務對外提供輸出,要另外跟 Meta 簽約。自己用、放進產品裡,不用。

第三,24.99 tok/s 是 8,192 token 上下文的數字,適合一個人或一個小團隊在桌邊用。要服務幾百個併發請求,還是得回資料中心。

一百萬買機器,還是買 API

兩台 512GB 大約 93 萬到 100 萬台幣。512GB 版官方還沒公布價格,這個數字是照蘋果記憶體級距推出來的。

同樣的錢換成 DeepSeek Flash 的離峰牌價(人民幣,每百萬 token):快取命中 0.02、未命中 1、輸出 4。命中價是未命中價的五十分之一,成本結構就卡在這裡。

一個月的用量分四級,命中率抓 99%:

  • 10 億 token:NT$307,272 年

  • 50 億:NT$1,533,54 年

  • 100 億:NT$3,065,27 年

  • 300 億:NT$9,195,9 年

命中率掉到 97%,百億那格從 27 年變 21 年。決定成本的是快取,不是模型。

【2026-10-18 更新】這一段最早寫的是 1.5 年,那是完全不計快取的最壞情況。實際上 agent 工作的輸入大多是重複的 context,命中率 97% 到 99%。我自己 8 月和 9 月每個月跑掉百億 token,帳單沒有一個月超過 100 美元。原本那個數字作廢。

反過來說,買機器更不划算:一百萬的機器要用 27 年才攤平,那時候機器早就報廢。要買只有一個理由,資料不能出去。

我的位置

Zeabur 我早期也放過東西,後來搬走了,算是提前退租的前房客。

這波能力下沉對獨立開發者是好事:模型一樣,成本從月租變成電費加硬體攤提。
但對「只做一層方便」的產品是壞消息,因為方便這種東西,AI 每三個月就拆掉一層。

結論

  • Zeabur:8 月與 10 月兩次資安事件後宣布年底關站,12 月 1 日起服務陸續停,12 月 31 日全部關閉

  • Muse Spark Open:8,160 億參數、42 億活躍、NVFP4 約 493GB,兩台 512GB M5 Ultra Mac Studio 可跑,每秒 24.99 個 token;AA 給 39 分,開源同級排第 10

  • 被夾殺的是中間層:部署、推理代管、工具鏈,兩端(硬體與模型)反而更值錢

AI 沒有搶走需求,它把需求和中間那層一起拆了,只留下兩端。

PS. Zeabur跟Muse其實我沒有很在意
我比較關心肯德基把百事可樂換成可口可樂對我味覺的影響 xd



౨ৎ Anthony 不負責任編輯 ~

留言 (0)