AI PC 熱潮裡，大家最常看的規格是 NPU TOPS。
這很合理。Copilot+ PC、Snapdragon X、Intel Core Ultra、AMD Ryzen AI，都需要一個簡單數字讓市場比較。但 Computex 2026 的另一個關鍵訊號是：AI 硬體競爭正在從算力，往記憶體與儲存延伸。
Micron 在 Computex 2026 發布 AI memory / storage portfolio 時，把這件事講得很直接：AI workload 正從 training 擴大到 large-scale inference、reasoning-heavy systems 與 agent-based systems，記憶體和儲存壓力正在穿透整個 compute stack。
這跟 AI PC、RTX Spark、GIGABYTE AI TOP ATOM、Intel agentic inference 都有關。因為 agentic AI 不是一次 prompt，一次回答；它是長時間、多步驟、多工具、多資料、多模型的流程。這種流程會大量消耗 memory bandwidth、memory capacity、KV cache、local storage 與資料搬移能力。
簡單講：AI PC 下一階段不能只問 TOPS，要問模型和 context 放不放得下。
發生了什麼？
Micron 在 Computex 2026 展示從 data center 到 intelligent edge 的 AI-optimized memory 與 storage portfolio，包括 HBM4、SOCAMM2、DDR5 RDIMM、data center SSD、LPCAMM2、GDDR7、LPDDR5X、client SSD、UFS 等。
Micron 的核心論點可以整理成三句：
- AI context lengths 正在快速增加；
- server memory content 過去三年已經翻倍；
- 系統效能越來越由 memory bandwidth 與 memory capacity 決定。
這不是單一新品發布，而是 AI infrastructure 架構變化。
過去 AI 產業最直覺的敘事是 GPU FLOPS、HBM 供應、data center power。現在 inference 與 agentic AI 進入生產環境後，瓶頸開始變細：
| 工作負載 | 需要什麼記憶體 / 儲存能力 |
|---|---|
| LLM inference | HBM bandwidth、KV cache、batching、低延遲 |
| Reasoning model | 更長 context、更長運算路徑、更多中間狀態 |
| Agent workflow | 工具調用、長時間任務狀態、文件、向量資料、沙盒 |
| RAG / enterprise search | 大量資料檢索、SSD latency、cache hierarchy |
| AI PC 本機模型 | DRAM / LPDDR 容量、SSD 載入速度、功耗 |
| Physical AI / 車用 AI | sensor fusion、edge inference、耐熱與可靠性 |
這也說明，為什麼 Micron 不只講 HBM，而是從 HBM、SOCAMM、RDIMM、SSD、LPCAMM、LPDDR、GDDR 一路講到 UFS。
AI 記憶體階層正在改變
Micron 把 data center AI memory hierarchy 拆成幾層，這個框架很適合理解接下來的 AI hardware。
| 層級 | 代表技術 | 在 AI 裡的角色 |
|---|---|---|
| HBM | HBM4 | 高速模型執行、hot KV cache、GPU 附近的高頻資料 |
| System memory | LPDDR / DDR / SOCAMM / RDIMM | orchestration、long-context expansion、CPU / GPU 協作 |
| Data center SSD | PCIe Gen6 SSD、高容量 SSD | persistent KV cache、資料湖、AI training / inference 資料層 |
| Client memory | LPCAMM2、LPDDR5X、GDDR7 | AI PC、workstation、edge 裝置的本機模型與推論 |
| Client SSD | PCIe Gen5 NVMe SSD | 本機模型載入、local cache、資料集、向量索引 |
這裡的關鍵是：AI workload 不再只是在 GPU HBM 裡跑完。
Agent 會拿文件、查資料庫、使用工具、保持狀態、讀長上下文、呼叫多個模型。這些行為會讓資料在 GPU HBM、system memory、SSD、network storage、甚至 client device 之間移動。
因此，memory hierarchy 的設計會直接影響 token cost、latency、power、throughput 與使用體驗。
KV cache 是核心瓶頸之一
要理解 Micron 為什麼強調 HBM、DDR、SSD，就要理解 KV cache。
在 transformer 模型推論裡，模型會保存先前 token 的 key / value 狀態，讓後續 token 產生時不必重新計算所有歷史內容。context 越長、同時服務的使用者越多、agent 任務越長，KV cache 壓力就越高。
這也是為什麼 long-context model 和 agentic workflow 會把記憶體推到戰略位置。
傳統聊天機器人可能只是一次問答；agent 可能要：
- 讀一整個 repo；
- 檢索 200 份 PDF；
- 保持一個專案的長期狀態；
- 同時跑 planner、executor、critic、retriever；
- 在沙盒中執行程式碼；
- 把結果寫回 CRM、ERP、email 或 ticket system。
這些任務都會增加 context、cache、storage 與資料搬移壓力。
所以 AI infrastructure 的問題會從「哪張 GPU 快」變成「整個 memory / storage hierarchy 能不能支撐 agent 長時間工作」。
對 AI PC 的意義
Micron 這份 Computex 訊號最值得接到 AI PC 上。
現在市場習慣用 TOPS 看 AI PC，但 TOPS 只代表某種低精度 NPU 運算能力。真正的本機 AI 體驗還取決於：
- DRAM / LPDDR 容量；
- memory bandwidth；
- SSD 載入模型速度；
- SSD 能耗；
- 模型是否能常駐；
- 是否能同時跑多個小模型或 agent；
- OS 是否能在 CPU / GPU / NPU 間有效分配；
- local cache 和向量索引是否夠快；
- 長時間任務是否會吃掉電池。
Micron 提到 LPCAMM2 可用 LPDDR5X 做到模組化、低功耗、128-bit dual-channel 設計，GDDR7 帶來更高 bandwidth 與 AI inference throughput，client SSD 可以讓 LLM 快速載入並提高能源效率。這些都指向同一件事：AI PC 的下一輪競爭會回到系統設計，而不只是 NPU 單點規格。
這也解釋為什麼 Snapdragon C 那類入門 AI PC 不能只問「有沒有 NPU」。如果記憶體太小、SSD 太慢、系統無法讓模型常駐，本機 AI 只會變成幾個展示功能。
對資料中心的意義
資料中心端，Micron 的訊號更直接：inference 會讓記憶體和儲存變成 token economy 的一部分。
訓練時代大家看 GPU cluster；推論時代要看 latency、batching、KV cache、模型服務成本、context 長度、每 watt token 產出。Agentic AI 又會增加多輪推理與工具調用，使得 CPU、memory、SSD、network 共同決定整體吞吐。
Micron 的 HBM4、SOCAMM2、256GB DDR5 RDIMM、PCIe Gen6 SSD、高容量 245TB SSD 這些產品，背後共同服務的問題是：
如何讓 GPU 不要等資料，如何讓長上下文與 agent state 不要把系統拖慢。
這也是為什麼 AI factory 不能只買 GPU。它需要完整 memory / storage architecture。
對台灣與供應鏈的意義
Micron 在台北 Computex 講這件事，很有代表性。
AI server、AI PC、AI workstation、edge AI 裝置都在台灣供應鏈周圍成形。過去關鍵字是 GPU、server、ODM、液冷。接下來記憶體與儲存也會變成競爭主軸。
對供應鏈來說，機會不只是 HBM。還包括：
- AI PC 的 LPCAMM / LPDDR 設計；
- workstation 的大容量 DRAM；
- data center SSD；
- 高容量 SSD 取代 HDD 的資料湖；
- edge AI 裝置的低功耗記憶體；
- 車用與 industrial AI 的耐熱儲存；
- local agent 的 model cache 與向量索引。
如果 AI agent 真正普及，記憶體需求會被拉到 PC、edge、workstation、server、data center 每一層。
風險與問題
第一，記憶體需求增加不等於所有產品都會受益。不同層級的 AI workload 需要不同產品。HBM、LPDDR、DDR、SSD 的毛利、供需、客戶、替代方案都不同，不能把所有 memory 都混成一個 AI 概念。
第二，AI PC 端的軟體成熟度仍是限制。即使硬體有足夠 memory，如果 Windows、本機模型、App、driver、API 沒有把資源用好，使用者不會感受到價值。
第三，長 context 的成本可能被模型架構改善抵消一部分。未來如果有更有效率的 attention、cache compression、retrieval、state management，硬體需求成長曲線可能改變。但短中期來看，agentic inference 的記憶體壓力是清楚的。
第四，memory shortage 與價格波動會反過來影響 AI PC 普及。如果高容量 DRAM / LPDDR / SSD 供應吃緊，入門 AI PC 很可能被迫在容量上妥協，讓本機 AI 體驗下降。
Mason 判斷
Micron 這波最重要的訊號是：AI 的瓶頸正在從單點算力，變成整個資料常駐與資料移動問題。
Training era 看 GPU；agentic inference era 要看 GPU + CPU + memory + storage + network + OS scheduling。
這對 AI PC 特別重要。未來消費者看 AI PC，不能只問 NPU 幾 TOPS，而要問：
- 記憶體是不是 16GB、32GB、64GB，還是更高；
- SSD 是否夠快，能否快速載入本機模型；
- 本機模型能不能常駐；
- 多 agent 同時運作時會不會卡；
- Windows AI APIs 能不能有效調度 CPU / GPU / NPU；
- 整機功耗是否能支撐常駐 AI。
如果這些條件不成立，AI PC 會停留在行銷規格。 如果成立，AI PC 才有機會從「有 AI 功能的 PC」變成「能讓 agent 長時間工作的本機端點」。
你可以怎麼看？
買 AI PC 的人
- 不要只看 TOPS。至少一起看記憶體容量、SSD、是否可升級、電池、散熱與實際 AI App。
- 入門 AI PC 若記憶體太小，未來本機 agent 體驗可能很快受限。
企業 IT
- 規劃 AI PC refresh 時，應把 memory baseline 拉高，不要用傳統 office PC 規格思考。
- 對本機 RAG、資料快取、離線 agent、敏感資料處理，要評估 SSD 與管理策略。
開發者
- 本機 agent 的效能瓶頸不一定在模型本身，常常在資料載入、cache、向量索引、context management。
- 設計 agent 時要把 memory footprint 和 storage access 當成產品需求。
投資與供應鏈觀察者
- AI memory 不是單一 HBM 故事，而是 data center、AI PC、edge、client SSD、車用與 workstation 的多層需求。
- 觀察重點是不同 memory tier 是否真的被 agentic workload 拉動，而不是只看 AI 關鍵字。
FAQ
AI PC 為什麼不能只看 NPU TOPS？
因為本機 AI 體驗還取決於模型能否常駐、context 能放多長、SSD 載入是否夠快、多 agent 是否能同時運作、OS 能否調度 CPU / GPU / NPU。TOPS 只是其中一個指標。
KV cache 是什麼？
KV cache 是 transformer 推論時保存先前 token 狀態的資料結構。context 越長、同時任務越多、agent workflow 越複雜，KV cache 對記憶體與儲存的壓力越高。
HBM、DRAM、SSD 在 AI 裡分別做什麼？
HBM 負責 GPU 附近的高速模型執行與 hot KV cache；DRAM / LPDDR / DDR 負責 system memory、long-context expansion 與 orchestration；SSD 負責模型載入、persistent KV cache、資料湖與 local cache。
Micron 這波對一般使用者有什麼影響？
最直接的影響是未來 AI PC 規格可能需要更高記憶體與更快 SSD。低容量機種即使有 NPU，也可能無法承擔更完整的本機 agent workflow。
Sources: