Meta 在 8 月 10 日發布 Muse Glimmer 30B，這是一個可在本機執行、能讀文字與圖片的開放權重 Agent 模型。先講硬體結論：有 24GB 顯示記憶體，可以從 16.8GB 的量化版開始；Mac 建議至少 32GB 統一記憶體；只有 8GB 或 16GB 記憶體，就先不要下載。 「可在消費級電腦執行」不等於一般文書筆電都跑得動。
這次值得看的地方，是 Meta 把模型權重、視覺編碼器和 DFlash 加速元件一起釋出，授權採 Apache 2.0。它適合已有本機推論經驗、希望讓模型讀專案檔案、看螢幕截圖或呼叫工具的開發者；只想在電腦上聊天的人，使用較小的本機模型會省下更多記憶體與等待時間。
Muse Glimmer 30B 需要多少記憶體？
官方 GGUF 模型卡提供兩個 4-bit 文字模型，視覺和加速功能要另外載入 companion 檔案。下表的檔案大小與記憶體估算都來自模型卡；「適合誰」是本站依實際部署餘裕給的判斷。
| 版本 | 文字模型 | 加視覺與 DFlash | 官方目標硬體 | 適合誰 |
|---|---|---|---|---|
| K-Quant-17GB | 16.8GB | 約 20GB | 24GB | 先確認模型能否完成任務、在意容量 |
| K-Quant-Dynamic | 19.7GB | 約 23GB | 32GB | 有 32GB 以上記憶體、希望少一點量化損失 |
| BF16 完整精度 | 未提供 GGUF | 超過 55GB | 64GB VRAM | 微調、研究或有工作站的團隊 |
官方以 15 個基準的平均準確率估算，Dynamic 版相較完整精度下降 0.2%，17GB 版下降 1.0%。這是 Meta 自己的測試，不能當成你在中文客服、程式庫或文件上的保證；它只說明 32GB 版保留較多精度。
24GB 顯示卡使用者，建議先只載入文字模型，確認提示格式、工具呼叫和速度正常，再加 1.4GB 視覺編碼器與 1.6GB DFlash。Apple Silicon 雖然由 CPU 與 GPU 共用統一記憶體，作業系統和其他應用程式也會占用空間，因此 24GB Mac 沒有與 24GB 獨立顯示卡相同的餘裕。我不建議為了勉強塞入模型，長期把交換空間當成顯示記憶體使用。
不熟悉量化、GGUF 和統一記憶體，可先看 本機 AI 基礎概念；想比較現有工具，再讀 Ollama 本機模型指南與 LM Studio 本機伺服器設定。
Muse Glimmer 30B 怎麼下載與啟動？
截至 8 月 11 日，Hugging Face 的基礎模型和 GGUF 儲存庫都可直接存取，沒有 gated model 的額外申請頁。最少踩坑的路徑是使用 llama.cpp b10353 或更新版本；Muse Glimmer 支援程式碼在 8 月 10 日才合併，舊版會直接不認得架構。
先安裝 Hugging Face CLI，再下載 17GB 文字模型。需要讀圖片時才把 mmproj-kquant.gguf 加進下載清單：
pip install huggingface_hub
hf download meta-models/Muse-Glimmer-30B-GGUF \
--local-dir Muse-Glimmer-30B-GGUF \
--include "muse-glimmer-30B-kquant-17gb.gguf" \
--include "mmproj-kquant.gguf"第一次啟動先用 32,768 context，確認記憶體和輸出格式正常，再逐步放大。官方模型卡列出 131,072 以上 context，但 llama-server 會把總 context 分給並行槽位；直接開滿長度，KV cache 和輸入圖片仍會吃掉剩餘空間。
llama-server \
-m Muse-Glimmer-30B-GGUF/muse-glimmer-30B-kquant-17gb.gguf \
--mmproj Muse-Glimmer-30B-GGUF/mmproj-kquant.gguf \
-ngl 99 -c 32768 -np 1 \
--host 127.0.0.1 --port 8080 \
--jinja --temp 1.0 --top-p 0.95 --top-k 64--jinja 不能省略。若回答開頭出現 to=self<|message|>，通常是 llama.cpp 的版本或 chat parser 太舊。Ollama、LM Studio 與 Open WebUI 很方便，但這個架構剛發布；介面若顯示不支援，不要反覆改模型檔，先確認底層 llama.cpp 版本。需要把本機端點接到瀏覽器介面時，可參考 Open WebUI 設定指南。
DFlash 真的能讓它快很多嗎？
Muse Glimmer 另附一個 1.6GB 的 DFlash drafter。它會一次提出 16 個候選 token，再由主模型平行驗證；DFlash 論文的核心目的，是減少逐 token 產生造成的延遲。
Meta 用 17GB 量化版測得，RTX 5090 從每秒 74.9 token 提升到 233.4 token，M4 Max 從 23.7 提升到 37.8，M5 Max 從 26.6 提升到 50.2。這些是官方在 batch size 1、greedy decoding 下的數字，RTX 使用 llama.cpp，Mac 使用 ExecuTorch；你的 context 長度、提示內容、量化版本和散熱都會改變結果。
我的建議是先不用 DFlash 完成一組固定測試，再載入 drafter 比較首字延遲、輸出速度與峰值記憶體。速度已足夠時，多占 1.6GB 不一定划算；需要長篇推理或連續工具呼叫，再開加速比較合理。
中文能力與 131K context 該怎麼驗？
基礎模型卡寫的是訓練資料涵蓋超過 100 種語言，並明確提醒並非每種語言都完成評估。知識截止日是 2026 年 1 月 4 日，支援文字與圖片輸入、文字輸出，不支援音訊輸入或輸出。
台灣使用者不要只問幾題百科。先準備 30 個與工作相同的案例，至少包括繁體中文工具名稱、全形標點、台灣日期格式、混合中英文檔名、表格截圖，以及工具回傳錯誤後能否重試。每題記錄正確答案、錯誤類型、耗時和是否呼叫錯工具。
131K context 也不代表把整個公司雲端硬碟丟進去就會更準。長 context 會增加記憶體占用，還可能讓重要指令被大量舊內容稀釋。程式專案應先限定資料夾、排除建置產物與密鑰，再把相關檔案送入；文件任務則先檢索，再只提供與問題有關的段落。
本機 Agent 比雲端安全嗎？
模型權重在自己的電腦上，確實能避免每次推論都把提示送到雲端。但只要 Agent 能開網頁、寄信、執行終端機或呼叫第三方 API，資料仍可能離開電腦。模型也可能把網頁或文件中的惡意指令誤當成工作指示。
Meta 的評估報告顯示，在 Siren AgentDojo 測試中，Muse Glimmer 的攻擊成功率為 28.4%，高於同表 Gemma4-31B 的 25.6%；Meta 自己也建議，涉及不可逆動作時加入人工確認。這組廠商測試至少說明一件事：「本機」和「不會中提示注入」是兩個問題。
第一個 Agent 建議只給單一測試資料夾的唯讀權限，關閉外網，記錄每次工具呼叫。確認讀檔與摘要穩定後，再逐項開放寫檔、特定網域和沙盒終端機。刪除、付款、寄信、發布內容與修改正式環境，一律在執行前顯示完整動作並由人確認。企業團隊可直接用 AI Agent 導入檢查清單核對權限、日誌與回復機制。
誰適合現在下載？
有 24GB 以上硬體、已會使用 llama.cpp，而且正要做本機程式 Agent、文件問答或截圖理解的人，可以下載 17GB 版測試。32GB 以上使用者可比較 Dynamic 版；研究微調才需要考慮完整精度權重。
我不建議三種人現在投入：只有 8GB／16GB 文書筆電、期待按一下就得到完整桌面助理、或準備讓模型直接操作正式帳號與檔案的人。Muse Glimmer 的亮點是把 30B 多模態 Agent 壓到高階個人硬體，不是把部署、評測與權限設計全部消失。
常見問題
Muse Glimmer 30B 最低需要多少 VRAM？
官方把 16.8GB 的 K-Quant-17GB 版定位在 24GB 硬體，加上視覺編碼器與 DFlash 後約占 20GB。完整精度版本的目標是 64GB VRAM；8GB 或 16GB 裝置不適合當成實用起點。
24GB Mac 可以跑 Muse Glimmer 30B 嗎？
模型可能放得下 17GB 文字版本，但 Mac 的統一記憶體還要分給作業系統與其他程式，加入視覺和 DFlash 後餘裕很小。實際使用建議 32GB 統一記憶體起跳，24GB 裝置先關閉其他程式並縮短 context 測試。
Muse Glimmer 30B 可以商用嗎？
模型權重與官方釋出的量化元件採 Apache 2.0 授權，模型卡列出的預定用途包含商業與研究用途。部署者仍要遵守適用法律、保留授權通知，並自行為產品情境做安全與隱私評估。
Muse Glimmer 支援繁體中文嗎？
官方稱訓練資料涵蓋超過 100 種語言，但沒有公布每種語言的獨立成績，也提醒部分語言表現可能下降。台灣團隊應以自己的繁體中文提示、文件和工具 schema 做固定測試，不能只看英文基準。
Muse Glimmer 能直接在 Ollama 或 LM Studio 執行嗎？
官方已釋出 GGUF，但底層推論引擎必須認得 Muse Glimmer 架構。llama.cpp 要使用 b10353 以上版本；Ollama 或 LM Studio 若尚未更新內含的引擎，可能暫時無法載入，先檢查版本再等工具更新。
參考來源
- Meta Research：Introducing Muse Glimmer: An Open Agentic Model That Runs on Your Device（2026-08-10）
- Hugging Face／Meta：Muse Glimmer Model Card（2026-08-10）
- Hugging Face／Meta：Muse Glimmer GGUF Model Card（2026-08-10）
- Meta Research：Muse Glimmer Methodology（2026-08-10）
- ggml-org／GitHub：model: Muse Glimmer Support #26841（2026-08-10）
- arXiv：DFlash: Block Diffusion for Flash Speculative Decoding（2026-05-28）