回到頂部
概念插畫:暗色粗紙中的多片藍色薄陶片沿弧線排列,部分相鄰片由短橋連接,象徵資料就近流動的系統設計

Maia 300 明年部署,微軟加碼自研推論系統

微軟計畫 2027 年部署 Maia 300,運算晶粒採台積電 N2P。從資料搬移、HBM4 與機櫃通訊理解自研系統,分清部署進度與雲端服務影響。

內容查核: 來源查核:

微軟要讓自研 Maia 系統承擔更多 AI 推論工作,下一代 Maia 300 預計在 2027 年開始生產部署。 公司於 10 月 12 日宣布,Maia 家族從明年起擴展至多 GW 規模,目標是成為旗下產品與服務的主要推論系統。Maia 300 的運算晶粒採台積電 N2P 製程,也是這項計畫與台灣半導體產業的直接連結。

這次設計不只增加計算單元。微軟認為,模型需要讀取更多脈絡、持續執行多步驟工作之後,資料搬移、記憶體與網路已成為整套系統的關鍵。如何讓這些部分一起運作,是 Maia 300 架構的主線。

推論更長,資料搬移就更重要

推論是模型完成訓練後,依輸入生成結果的運作。長文件、多回合推理與代理工具操作,會讓這段工作持續更久。加速器除了計算,也要供應模型和中間狀態所需的資料;若大量時間花在移動資料,計算單元就可能等不到工作。

微軟架構文章說明,Maia 300 讓軟體明確安排資料位置、移動與同步,把資料放在使用它的運算區域附近。設計也將運算、記憶體控制與 I/O 分給不同晶粒,各自使用適合其工作的技術;先進 N2P 製程用在運算部分,不代表每個晶粒都用同一製程。

記憶體方面,每顆加速器搭配八組 HBM4,官方規格列為 288 GB 容量、每秒 18 TB 頻寬。容量是能放多少資料,頻寬則是資料供應速度;兩者都會影響大型模型與長脈絡工作能如何配置。這些是微軟公開的硬體規格,不能直接換算成某個企業客服機器人的回應速度。

從單顆晶片到一整櫃,一起安排運算

Maia 300 的完整機櫃配置包含 96 顆加速器,官方機櫃規格列出的功率為 167 kW。它將處理器、記憶體、儲存與冷卻放進運算托盤,再用機櫃內與跨機櫃網路協同工作。設計目的是讓一個大型任務能使用多顆加速器,而非只提高一顆晶片的峰值。

這也使軟體能選擇哪些工作留在較近的運算位置,哪些需要跨櫃連接。微軟將資料流與網路納入同一套設計,強調減少搬移與更有效分配資源。對追蹤 AI 硬體的台灣讀者,值得看的因此是製程、記憶體、連接與機櫃如何配合,不宜只比較製程名稱。

公司預期這套系統能改善每單位電力提供的推論量,但客戶真正收到的延遲與容量,還取決於模型及服務安排。這是供應商架構與效益預期,本文沒有獨立效能測試。其他雲端業者的方向可對照 Google TPU 基礎設施擴張,但兩者服務與部署時間各自不同。

現在已上線的是 Maia 200,300 接續明年計畫

依公告,Maia 200 已支援 Microsoft Copilot 正式工作與 MAI 模型團隊;GitHub Copilot 和 Microsoft Foundry 預計在今年底前接續採用。Maia 300 則明年開始生產部署。把這三段進度分清楚,才不會把新晶片的架構公布,寫成所有服務都已切換。

微軟同時規畫的是整個 Maia 家族的多 GW 擴張,並非公告當天就建成同等規模的 Maia 300。對台灣供應鏈,N2P 是已確認的設計資訊;公告沒有公布各家台廠的訂單金額,不能由計畫規模倒推營收。

雲端用戶等待的是服務變化

對 Azure 客戶,底層推論系統擴大有機會支撐更多服務容量,但這次沒有同步公布台灣開放日期或 API 降價表。Foundry 模型總覽仍區分受管理運算與託管 API,計費跟著使用的服務走;不會因公告新晶片就自動改成同一種帳單。

模型與地區可用性要看現行清單,資料在哪裡處理則依部署類型,不是由晶片產地決定。企業導入背景可另看 Azure OpenAI 部署選擇與 Foundry Model Router。

我會把這則新聞視為微軟加深硬體與服務共同設計的訊號。接下來值得追蹤的是正式部署之後,哪些模型獲得更多容量、價格和延遲如何變化;今年已在進行的企業專案,仍可依現有服務條件繼續,不必等待尚未公布的優惠。

常見問題

Maia 300 現在已正式部署嗎?

微軟計畫在 2027 年開始生產部署,目前正式承擔 Microsoft Copilot 工作的是 Maia 200。

Maia 300 和台積電的關係是什麼?

運算晶粒採台積電 N2P 製程,記憶體控制與 I/O 另由不同晶粒負責。這項公布不包含所有台灣供應商的訂單或營收數字。

新系統公布,Azure 模型 API 就會降價嗎?

這次沒有公布適用台灣客戶的 API 降價表。實際費用應依使用的模型服務、部署方式與報價,不能由硬體效率直接推算。

參考來源

№ · further reading

延伸閱讀