Anthropic 開始讓外部評估者走進公司內部，查看 Claude 背後的風險管理。 公司在 10 月 15 日公告中表示，六名 METR 人員已取得公司設備、辦公空間，以及近似內部風險評估團隊的工具權限。他們可以公布自己的分析，Anthropic 仍保留特定資訊的刪除權。
這讓外界多了一條理解 AI 公司如何處理風險的管道。對在台灣選用 Claude、準備把代理接進產品的團隊，值得看的進展是：評估者能否接觸造成問題的過程，並讓公眾知道證據的缺口。光有合作機構的名字，還不足以支持擴大授權。
從測試回答，走向檢查公司怎麼運作
外部測試可以發現模型會答錯，卻未必看得到公司如何訓練、監控與處理異常。進駐安排試圖縮短這段距離。例如，Claude 誤送真實表單的案例牽涉任務環境與提交流程；只測最後一段回答，很難還原問題怎麼發生。
METR 的評估提案把問題分成幾個方向：代理是否會做出未獲授權的行動、內部監控能否抓到，以及 AI 協助研發的速度是否超過控制能力。這是它希望蒐集的證據方向，不能直接當成這次合作已完成的檢查項目。
查閱權限仍有邊界。Anthropic 列出的例外包含客戶資料、受律師保密特權保護的資訊與模型架構資訊；架構資訊若與風險評估高度相關，則須經內部核准才可能分享。「近似員工」因此描述的是工作條件，不能解讀成所有紀錄都能自由查閱。
METR 自己也說，評估科學尚不足以對開發安全作出確定保證。進駐的價值，是把原本只有公司內部掌握的部分證據帶入公共討論。我支持這種進駐方式，接下來會看公開報告如何呈現不同意見與資料缺口。
公開報告，要讀刪修條件與評估範圍
Anthropic 表示不能否決 METR 發布評估，但能要求刪除預先定義類別中的資訊，而且由 Anthropic 最終判斷資訊是否落入這些類別。METR 保留對取得權限與資訊程度作出特定說明的權利。公告在 10 月 16 日補充了這段合作條件。
這裡需要對照評估者自己的承諾。METR 在 10 月 14 日公布的工作原則要求交代範圍、資料限制、刪修與可能影響結論的壓力；它也說，一種可行安排是自行附上刪修摘要，指出被移除的資訊是否影響整體判斷。這是其一般做法，具體報告仍要看實際揭露。
所以，一份有刪修的報告仍可能有用。關鍵在於讀者能否分清楚：是略去客戶身分，還是缺少足以改變結論的證據。前者可以保護隱私，後者則會影響我們有多大把握採信評估；兩者不宜只用同一個「已審查」標籤帶過。
METR 也坦承，在自願合作下，仍依賴公司提供接觸權限，有些收到的資訊無法自行驗證。這份自述比一句「完全獨立」更有判讀價值，因為它讓公眾知道結論是如何形成、又在哪裡可能受限。
已有的外部審查提供了一個具體前例。SecureBio 公開的審查報告聚焦 Claude Opus 4.6 的化學與生物風險，明確把能力與防護不同的後續模型留在範圍之外。報告還記載，Anthropic 當時具有否決或刪修權，但沒有行使。看見「外部評估」，仍得繼續讀它評了哪個版本、哪種風險。
合作的資金安排也不同。9 月公布的 Accenture 合作由 Faculty 主導，Anthropic 表示會直接出資；METR 則在自己的原則中表示，迄今選擇不接受前沿 AI 公司的付款或捐款。不能把其中一家的安排套到所有機構，也不能僅由資金來源推定某份結論一定可靠或失真。
對台灣產品團隊，我會把這類報告當成選擇供應商時的新證據。若報告只檢查某個模型的特定風險，就不應拿它支持另一個版本全面接手工作。涉及寄信、改訂單或操作客戶系統，仍要回到自己的用途與授權；公司 AI 使用規範可以協助把責任寫清楚。
下一個值得追的進展，是 METR 首份報告如何交代實際取得的資料，以及被限制的資訊是否影響結論。其他公司的安排，可對照 OpenAI 第三方評測框架；看的是查閱與發表條件，不能只比較合作機構的名單。
常見問題
METR 可以看 Anthropic 所有客戶資料嗎？
不能這樣解讀。公告把客戶資料列為例外類別，進駐團隊也受到保密與資訊隔離安排約束。
Anthropic 能阻止 METR 公布不利結果嗎？
公告表示不能否決發布，但可要求刪除特定類別資訊，並保有類別判斷權。閱讀報告時，應一起看權限限制與刪修說明，不能只看「可自行發表」。
有 METR 評估，就代表 Claude 已通過安全認證嗎？
不是。METR 將工作定位為蒐集並公開風險證據，沒有替這項安排提供全面安全保證；實際能支持的判斷須看報告範圍、模型版本與限制。
參考來源
- Anthropic 官方：An update on independent evaluators（2026-10-15，10 月 16 日補充合作條件）
- METR 官方：A proposal for better informing the public about loss-of-control risks from frontier AI development（2026-10-14）
- METR 官方：Our approach to working with AI companies（2026-10-14）
- SecureBio 官方：Review of Anthropic’s Chemical and Biological Risk Report: Claude Opus 4.6（2026 年 7 月公開，月份依報告流程記載）
- Anthropic 官方：Partnering with Accenture on embedded evaluation（2026-09-18）