CoreWeave 在 ２０２６ 年 ５ 月 ２８ 日宣布 unified agentic AI capabilities。這個 agentic AI 平台主打把 training、inference、observability、reinforcement learning 串成一個閉環，讓 AI agent 可以從 production 行為中持續改進。
這個方向很重要，因為 agent 的問題已經從「能不能 demo」變成「上線後能不能穩定進步」。只靠離線 benchmark，通常不足以覆蓋真實使用中的長尾失敗。
CoreWeave 發表了什麼？
官方說明中，CoreWeave 將四個能力整合在一起：
- Serverless RL。
- Production inference。
- W&B Weave observability。
- W&B Skills 與 MCP server。
它的目標是關閉 training 和 inference 之間的落差。換句話說，agent 不只先訓練再上線，而是上線後把行為、失敗、評測與改進資料回流，形成持續迭代。
為什麼 production agent 需要閉環？
傳統模型開發常見流程是：
- 收資料。
- 訓練或微調。
- 離線評測。
- 上線推論。
- 觀察問題。
- 下一輪再改。
這對一般模型已經很辛苦，對 agent 更難。因為 agent 的失敗不只來自回答錯誤，還可能來自：
- 工具選錯。
- 任務拆解錯。
- 權限判斷錯。
- 多步驟狀態遺失。
- 成本失控。
- 追蹤資料不足。
- 人工確認流程設計不好。
- production 流量和測試集差太多。
所以 agent 需要的不是一次性 eval，而是能把 production failure 轉成可觀測、可評測、可修正的系統。
這個閉環包含哪些層？
| 層級 | 作用 |
|---|---|
| Inference | 承接真實流量與 agent 任務 |
| Observability | 追蹤步驟、工具、成本、延遲、失敗模式 |
| Evaluation | 把失敗轉成測試與 regression cases |
| RL 或後訓練 | 針對多步驟任務可靠性改進 |
| Release gate | 防止新版本把原本會做的事改壞 |
CoreWeave 的說法是，訓練與推論不應再被視為分離階段，而應形成一個不斷回流的系統。
為什麼這是 AI 基礎設施競爭？
過去 AI cloud 的競爭常看：
- GPU 數量。
- 推論速度。
- 訓練成本。
- 網路互連。
- 儲存吞吐。
agent 時代還會多出：
- tracing。
- observability。
- eval framework。
- reinforcement learning workflow。
- dataset feedback loop。
- MCP tool integration。
- production regression control。
也就是說，誰能讓 agent 從真實使用中改進，誰就不只是賣 GPU，而是在賣 agent lifecycle platform。
企業導入要小心什麼？
閉環很誘人，但不能盲目自動化。production 資料回流到改進流程時，至少要處理：
- 使用者資料是否能進入訓練或評測。
- PII 是否去識別化。
- 失敗案例如何標註。
- 哪些錯誤可以自動修正。
- 哪些任務需要人工審核。
- 新策略是否通過 regression tests。
- 高風險領域是否禁止自動改進。
- 成本是否會因為 RL 或長任務暴增。
如果沒有資料治理，閉環可能把錯誤放大。如果沒有 release gate，agent 可能在修一個問題時弄壞另一個能力。
這和 Bedrock AgentCore、LangSmith 有什麼關係？
市場上正在形成同一個方向：production agent 需要完整 lifecycle。
| 平台方向 | 共同目標 |
|---|---|
| Amazon Bedrock AgentCore dataset management | 固定測試集與 agent 評測 |
| LangSmith deep agent evaluation | tracing、offline eval、online monitoring |
| OpenAI third-party evaluations | 外部評測與可信基準 |
| CoreWeave unified agentic AI capabilities | 將推論、觀測、RL 與改進閉環整合 |
不同公司切入點不同，但都在回答同一個問題：agent 上線後如何知道它有沒有變好？
什麼團隊需要關注？
值得關注的團隊包括：
- 正在建客服 agent 的 SaaS 公司。
- 正在建 coding agent 的開發工具公司。
- 正在把 agent 放進金融、法務、醫療、資安流程的企業。
- 需要長任務、多工具、多步驟可靠性的團隊。
- 已經有 tracing，但還缺改進流程的 MLOps 團隊。
如果你的 agent 只是內部小工具，可能還不需要完整閉環。若 agent 已經碰到客戶、金流、權限、決策或 production 系統，這類平台就會變得重要。
重點整理
CoreWeave 這次發表的訊號，是 AI agent 平台正在從「部署」進入「持續改進」階段。
未來評估 agent 基礎設施，不能只問推論快不快、GPU 夠不夠，也要問：
- 失敗能不能被看見？
- 失敗能不能變成測試？
- 測試能不能擋住 regression？
- 真實使用資料能不能安全回流？
- agent 能不能在可控範圍內變好？
這會是 production agent 成熟度的核心分水嶺。