AI Futures 跳過下一個模型功能，直接討論更長期的制度風險：當 AI 能代替大量知識工作、行政流程甚至現實世界行動時，政府、企業與個人之間的權力要怎麼重新制衡。OpenAI 在 8 月 20 日成立 Strategic Futures 團隊，準備以專欄、研究與活動持續碰這個問題。
先講我的判斷：它適合當成政策風險清單，還不能當作已完成的治理方案。讀者現階段可以用四件事檢驗後續發展：誰能稽核、能否換供應商、受影響者如何申訴，以及公共部門是否保有獨立判斷能力。
AI Futures 到底在擔心什麼？
文章把「AI 會不會搶工作」往下挖了一層，追問權力是否還需要人民合作才能維持。作者認為，過去政府需要人力提供稅收、行政、軍警與公共服務，因此不能完全忽視人民的支持；如果自動化系統能處理行政、創造大量產值並執行現實任務，這個互賴關係可能變弱。
解讀時要保留一條界線：頁面明確註明，首篇內容代表作者 Dean Ball 的觀點，不必然代表 OpenAI 公司或其他員工。它提出的是問題、原則與研究方向，尚未提供可驗收的法案條文、時間表或外部監督機制。
它同時不接受「全部開源、全部分散就會安全」這種簡單答案。文章指出，任何個人若都能輕易造成大規模傷害，不算好的權力平衡；但能力只掌握在少數公司或政府手中，同樣不是。這和 OpenAI Charter 長期寫的「避免不當集中權力」一致，差別在於 AI Futures 準備把問題延伸到法律、經濟、歷史與制度設計。
這裡有一個值得保留的矛盾：提出反壟斷與個人自主問題的，正是一家掌握前沿模型、算力與大量使用資料的公司。 它有能力提供重要資料，也有商業利益影響政策方向。因此專欄可以是資料來源與辯論入口，不能成為公司自己替自己核發的治理證書。
「可追責」不等於全面監控
首篇文章提出 bounded legibility，可理解為「有限、具邊界的可追溯性」：當 AI 的高風險行動影響旁人的身體或財產，應能追到負責的人或組織；一般表達、閱讀與低風險使用則應保留匿名與隱私。
這條線很重要，也很難畫。若所有提示、身分與行動永久集中保存，追責會變成監控；若任何高風險 Agent 都無法追到操作者，受害者又很難求償。可執行的制度至少要分開處理身分驗證、操作紀錄、內容保存與外部稽核，而不是用一句「可追溯」把四件事混在一起。
企業目前能先做的，是替會付款、刪除、發布或改動客戶資料的 Agent 建立獨立身分、最小權限與不可竄改的動作紀錄。這和影子 AI 治理談的問題相同：真正的問責對象不只是模型，也包括批准權限、設計流程和決定上線的人。
台灣討論時，先問四個具體問題
第一，誰能稽核。供應商的安全報告、政府採購驗收與事故紀錄，哪些可由第三方查看？只接受廠商摘要，不足以構成公共問責。
第二，能不能退出與換供應商。政府、醫院、學校或金融機構若把知識庫、流程和身分系統綁在單一模型上，形式上有選擇，實務上仍可能無法退出。採購時要把資料匯出、模型替換與人工備援寫進條件。
第三，受影響者怎麼申訴。AI 若拒絕福利、標記風險或影響聘用，當事人需要知道結果由何種系統產生、能向誰要求人工重審。只提供客服表單，不是完整救濟。
第四，公共部門還有沒有自己的能力。我不建議把政策分析、資安評估與稽核全部外包給同一家模型商。公務體系至少要保有資料治理、模型評測與事件調查能力，才能判斷供應商說法是否成立。
OpenAI 已有前沿模型部署模擬等技術治理工具，AI Futures 則把視角拉到制度層。兩者都值得追蹤，但評價標準應是後續有沒有公開研究方法、可反駁的證據與具體制度提案，而不是專欄用了多宏大的詞。
常見問題
OpenAI AI Futures 是新產品嗎？
不是。它是 OpenAI 新設 Strategic Futures 團隊的研究與政策專欄，預計透過文章、論文、影片與 Podcast 討論 AI 對自由、經濟和制度的長期影響。
AI Futures 的文章代表 OpenAI 官方立場嗎？
不一定。首篇頁面明示內容代表作者觀點，不必然代表 OpenAI 組織或其他員工。引用時應寫「作者主張」，不能直接改寫成「OpenAI 已決定」。
什麼是 bounded legibility？
它指高風險 AI 行動需要有限且有邊界的可追溯性，讓受影響者能找到負責的人或組織，同時避免把所有一般使用都變成身分監控。具體怎麼落實，仍需要法律與技術設計。
台灣企業現在需要因 AI Futures 改政策嗎？
不需要為一篇立場文立刻改制度，但可以用它檢查現有 Agent 是否有獨立身分、最小權限、動作紀錄、人工重審與供應商退出方案。這些都是今天就能驗收的治理項目。