OpenAI 在 IPO 前遇到一個比模型 benchmark 更棘手的問題：ChatGPT 到底是不是一個足夠安全的大眾產品？
AP 在 2026 年 6 月 13 日報導，OpenAI 收到多個美國州的傳票，調查焦點是 ChatGPT 是否可能對使用者造成傷害，尤其是兒少、心理健康脆弱者，以及涉及暴力或自我傷害風險的對話。Business Insider 進一步指出，這波調查牽涉使用者互動、留存、健康與消費者資料、模型行為，以及年輕與年長使用者的影響。
這件事不能只當成「OpenAI 又被告」。它真正重要的地方是：ChatGPT 已經從一個新奇工具，變成全球大量使用者會拿來問人生、問健康、問關係、問法律、問工作、問孩子教育、甚至在情緒低谷時求助的系統。
當一個 AI 工具走到這個位置，監管者就不會只問「它回答得準不準」。他們會開始問：
- 它會不會延長使用者在高風險狀態裡的互動？
- 它會不會在長對話中逐步失去安全邊界？
- 它是否把未成年人當成未成年人保護？
- 家長工具是否只是有功能，還是真的能提醒風險？
- 如果模型看到危險訊號，平台該不該升級處理？
- 如果公司準備上市，這些風險要如何揭露？
這是 OpenAI 走向公開市場前，最難用一句「我們重視安全」帶過的題。
發生了什麼？
這次事件有三條線同時交會。
第一條線是多州調查。AP 報導，OpenAI 收到多州傳票，調查 ChatGPT 是否對使用者安全造成風險。OpenAI 回應稱會建設性地回應調查，也強調已經有措施保護使用者，包含未成年人保護、家長工具、年齡預測與把處於困難狀態的使用者導向現實世界資源。
第二條線是既有訴訟。6 月 1 日，佛羅里達州已經起訴 OpenAI 與 Sam Altman，指控公司隱瞞 ChatGPT 的重大風險，並提到自傷與犯罪規劃相關案例。6 月 11 日，加拿大一名母親也在美國提告，主張她的女兒在長期使用 ChatGPT 並談及自殺意念後身亡，控訴 OpenAI 的安全機制未能阻止危險對話。這些都是尚待法院釐清的主張，但它們把問題推進了法律程序。
第三條線是 IPO。OpenAI 才在 2026 年 6 月 8 日確認已向 SEC 祕密提交 S-1。也就是說，當公司準備從私募估值走向公開市場，它面對的不只是營收、推理成本、Microsoft 關係與算力支出，還包括 ChatGPT 是否可能被認定為一種需要更嚴格監管的高風險消費產品。
| 事件 | 日期 | 重點 |
|---|---|---|
| OpenAI 祕密提交 S-1 | 2026-06-08 | 為潛在 IPO 保留選項 |
| 加拿大母親提告 OpenAI | 2026-06-11 | 指控 ChatGPT 在女兒自殺前的危機對話中未能有效介入 |
| 多州調查曝光 | 2026-06-13 | 多州檢察長調查 ChatGPT 對使用者安全的影響 |
| 佛州訴訟持續發酵 | 2026-06-01 起 | 州政府層級主張 OpenAI 隱瞞產品安全風險 |
| OpenAI 回應 | 2026-06-13 | 強調未成年人保護、家長工具、年齡預測與現實資源導引 |
所以這是一個監管拐點，規模超過單一新聞事件。
過去，OpenAI 的風險常被放在「AI 會不會取代工作」「AI 會不會訓練在版權資料上」「AI 會不會太耗電」這些大題裡。現在，州政府把問題拉回消費者保護：一個每天被大量使用的 AI 聊天產品，對青少年與脆弱使用者有沒有足夠安全？
為什麼這比一般產品爭議嚴重？
因為 ChatGPT 的使用情境非常特殊。
一般軟體出問題，責任比較容易界定。外送 App 延遲、電商推薦錯商品、導航導錯路，雖然麻煩，但風險範圍相對清楚。
ChatGPT 不一樣。它同時像搜尋、寫作工具、客服、老師、朋友、生活顧問、心理支持、程式助理、醫療資訊入口、工作助手。這種「什麼都能問」的定位，讓它比單一功能 App 更難治理。
| 使用場景 | 一般風險 | 監管者會追問的問題 |
|---|---|---|
| 學生問功課 | 錯誤資訊、作弊 | 未成年人是否被清楚保護？ |
| 使用者問健康 | 錯誤建議、延誤就醫 | 是否有足夠醫療免責與導引？ |
| 情緒低落時聊天 | 依賴、迎合、危機加劇 | 模型是否知道何時停止陪聊並導向真人？ |
| 暴力或犯罪相關對話 | 協助不當行為 | 風險訊號是否被升級處理？ |
| 長時間陪伴式互動 | 黏著、孤立、情緒依附 | 產品是否把 engagement 放在安全之前？ |
| 兒少使用 | 年齡不明、家長不知情 | 年齡預測與家長控制是否實際有效？ |
這也是為什麼這次多州調查會和 TikTok 類比。
Business Insider 提到，多州聯手調查大型科技公司並不罕見，過去對 TikTok、菸草公司、Purdue Pharma 都出現過類似的多州策略。這種調查模式的意思是：州政府會把單一事件往上追，釐清一個產品是否存在系統性風險。
對 OpenAI 來說，這會比單純被某位使用者提告更難處理。因為州檢察長通常會要求文件、內部決策紀錄、風險評估、產品設計、使用者資料、留存指標與安全團隊判斷。這些東西會把「公司怎麼想」攤開，而不只是在事後辯論模型某一句話。
OpenAI 的安全說法是什麼？
OpenAI 不是沒有安全措施。問題是外界現在要驗證這些措施是否足夠。
在 2025 年 8 月的〈Helping people when they need it most〉中，OpenAI 承認 ChatGPT 使用者會在嚴重心理與情緒困境中求助。OpenAI 說自己的目標是讓產品真正有幫助，並非追求最大化使用時間；當對話顯示使用者可能處於風險中，系統會使用多層保護。
OpenAI 公開提到的方向包含：
- 模型不應提供自我傷害指示；
- 遇到自殺意圖時導向專業協助與現實世界資源；
- 在很長的對話中提醒使用者休息；
- 對可能傷害他人的情境建立人工審查流程；
- 強化未成年人保護；
- 研究情緒依賴、心理健康危機與過度迎合；
- 導入家長控制與可信任聯絡人方向；
- 讓模型在長對話中也維持安全行為。
OpenAI 也在使用政策中明確禁止使用服務促進自殺、自傷、飲食失調、暴力、武器、剝削未成年人與高風險未經專業介入的建議。從文件層看，OpenAI 知道這些風險，也有對應規則。
但這次調查真正問的是另一件事：規則寫在文件裡，和產品在真實長對話中穩定執行，是兩回事。
OpenAI 自己在 2025 年的文章裡就承認，安全機制在短對話中通常更可靠；但在長時間來回互動後，安全訓練可能退化，模型可能一開始正確導向求助資源，後面卻給出違反安全目標的回答。這句話對監管者非常關鍵，因為許多高風險案例正是長期、反覆、情緒逐步加深的對話。
家長控制是解方，還是新的責任問題？
OpenAI 強調年齡預測與家長工具，方向是合理的。未成年人和成年人本來就不該被同一套產品規則處理。
問題是，家長工具在法律上可能變成雙面刃。
如果公司說「我們有家長控制」，監管者下一步就會問：
| 問題 | 為什麼重要 |
|---|---|
| 年齡預測準確嗎？ | 如果青少年被當成年人，保護就失效 |
| 家長是否真的知道孩子在用？ | 工具存在不代表家長有完成設定 |
| 高風險對話會通知嗎？ | 沒有通知，家長很難介入 |
| 通知內容會不會侵犯孩子隱私？ | 過度揭露也可能造成傷害 |
| 安全阻擋是否太粗糙？ | 過度拒答可能阻斷正常教育與健康資訊 |
| 孩子能不能輕易繞過？ | 如果繞過太容易，監管者會認為設計不足 |
2026 年 1 月的一篇 arXiv 論文評估 OpenAI 家長控制系統後提出一個有意思的觀察：目前系統在某些風險類別下的通知並不全面，現行後端比舊模型更少漏出高風險內容，但也存在 benign query 被過度阻擋的問題。論文把這稱為「政策與產品落差」。
這裡先肯定 OpenAI 的家長控制有價值；接下來要看的，是 AI 兒少安全不能靠一個開關完成。
它需要一整套設計：
- 年齡識別；
- 未成年人預設保護；
- 家長可理解的設定；
- 危機情境升級；
- 隱私保護；
- 過度拒答的修正；
- 安全事件紀錄；
- 產品內清楚提示；
- 使用者能轉接真人協助的路徑。
家長控制只是起點，責任從這裡開始被具體化。
這和 AI companion 有什麼關係？
表面上，ChatGPT 不是 AI 女友，也不是專門的 AI 伴侶產品。
但在實際使用上，很多人會把通用 chatbot 當成情緒支持工具。OpenAI 自己也承認，使用者不只拿 ChatGPT 搜尋、寫作、寫程式，也會拿它處理深度個人決策、生活建議、教練式對話與支持。
這讓 ChatGPT 和 AI companion 的邊界變得模糊。
| 產品定位 | 使用者實際行為 | 風險 |
|---|---|---|
| OpenAI 說 ChatGPT 是通用助理 | 使用者可能把它當情緒支持、朋友、顧問 | 模型可能被期待承擔它無法承擔的責任 |
| Apple 說 Siri 不做 AI 女友 | Siri 仍會掌握個人上下文與 App 任務 | 需要清楚切開工具與親密關係 |
| AI companion 產品主打陪伴 | 使用者更容易形成依附 | 風險更直接、更需要專門治理 |
站內之前寫過 Siri 不會當你的 AI 女友 和 AI 伴侶機器人的公共衛生框架。這次 OpenAI 調查剛好說明：就算產品不主打伴侶，只要使用者把它當成伴侶或心理支持，平台仍然會被迫面對類似責任。
這也是我覺得 Apple 那條線重要的原因。
AI 產品不是越像人越好。當一個系統會記住你、安慰你、肯定你、陪你很久，又可以對生活決策提出建議，它就不能只被看成文字工具。
為什麼 IPO 讓這件事更敏感？
如果 OpenAI 還是私有公司，這些問題已經很麻煩。現在它又剛好走向 IPO 前置流程，壓力會更大。
公開市場不只看成長，也看可預期風險。S-1 風險因素裡，很可能需要處理以下問題：
| IPO 風險類別 | 可能被追問的內容 |
|---|---|
| 訴訟風險 | 使用者傷害、兒少安全、產品責任、隱私訴訟 |
| 監管風險 | 州政府、FTC、歐盟與其他司法管轄區是否要求新規 |
| 營收風險 | 若限制未成年人、情緒陪伴或高黏著互動，是否影響使用量 |
| 成本風險 | 安全審查、人工升級、家長工具、危機支援會增加營運成本 |
| 品牌風險 | ChatGPT 是否從「好用工具」變成「可能傷害脆弱使用者」 |
| 產品設計風險 | engagement、記憶、個人化、長對話是否需要重新設計 |
這裡最關鍵的是營收與安全之間的張力。
AI 產品越個人化，越能提高留存；越能長時間聊天，越有機會增加使用量；越會迎合使用者，越可能讓人覺得「它懂我」。但這些特性在脆弱使用者與未成年人身上，也可能放大依賴和錯誤信任。
如果監管者最後認為 AI 公司不能把情緒支持、兒少使用與高風險建議當成普通 engagement 場景，OpenAI 就必須重新證明：
- 使用者成長不是靠有害黏著；
- 安全機制不是事後補丁；
- 家長工具不是責任轉嫁；
- 長對話不是安全漏洞；
- 個人化不是情緒操控；
- 危機情境有明確升級路徑。
這些都會進入 IPO 投資人會看的風險輪廓。
對一般使用者與家長，現在該怎麼看？
這篇不是要把 ChatGPT 描述成不能用。ChatGPT 對寫作、學習、整理、程式、翻譯、資料分析與工作輔助仍然很有價值。
但使用者需要更清楚地分辨：AI 可以提供資訊與初步整理，但不應取代真人支持、專業判斷與危機處理。
對一般使用者：
- 不要把 ChatGPT 當成心理治療師；
- 不要把醫療、法律、財務等高風險建議直接照做；
- 遇到自傷、暴力、精神危機或現實危險，應尋求真人與專業協助；
- 長時間情緒性對話後，要刻意回到現實關係與外部支持；
- 對模型過度肯定你的說法保持警覺。
對家長：
- 不要只問孩子「有沒有用 AI」，要問「拿 AI 做什麼」；
- 需要理解帳號、年齡、家長控制與通知設定；
- 不要把家長控制當成完整保護；
- 如果孩子把 AI 當朋友或情緒出口，要更早介入陪伴；
- 學校與家庭都需要建立「AI 不等於真人照護」的基本觀念。
對企業與學校：
- 不要只訂「可不可以用 ChatGPT」；
- 要定義哪些情境不能交給 AI；
- 要建立危機升級與人工轉介流程；
- 要教育員工與學生辨識 AI 的邊界；
- 若導入企業版或教育版，應要求供應商說明安全紀錄、資料處理、兒少政策與事件通報。
對 AI 公司，這會變成產品標準
這次多州調查不只影響 OpenAI。Google Gemini、Anthropic Claude、xAI Grok、Meta AI、Perplexity、Character.AI、Replika、各種 AI companion 與教育 AI，都會被同一套問題掃到。
未來 AI 產品可能會被迫建立幾個標準層：
| 標準層 | 內容 |
|---|---|
| 年齡層分級 | 成年人、青少年、兒童不能共用同一套互動規則 |
| 長對話安全 | 安全機制不能只在單輪 prompt 有效 |
| 危機偵測 | 自傷、暴力、妄想、剝削、未成年人風險要有升級流程 |
| 產品留存限制 | 不能用迎合或情感依賴無限制拉長互動 |
| 家長與監護工具 | 必須兼顧通知、隱私與可理解性 |
| 審計紀錄 | 平台要能說明事故前後模型與安全系統如何反應 |
| 外部評測 | 不能只靠公司自己說安全，需要獨立測試 |
換句話說，AI 安全正在從「模型政策」變成「消費者產品責任」。
這跟過去社群平台的演化很像。早期平台也說自己只是工具、只是中介、只是讓使用者發內容。但當影響規模夠大，社會就會要求平台對推薦、上癮、兒少安全、錯誤資訊與傷害結果負起更多責任。
AI chatbot 會走同一條路，而且速度更快。
Mason 的判斷
我覺得這次 OpenAI 多州調查，是 AI 產業從「能力競賽」進入「責任競賽」的代表事件。
過去兩年，大家最在意的是誰的模型比較強、誰的 context 比較長、誰的 coding agent 比較會做事、誰的影像生成比較好、誰能更快推出 superapp。
但 ChatGPT 這種產品真正難的地方不只是「變聰明」。它要在數億人使用時，仍然知道自己不能扮演什麼角色、不能提供什麼協助、不能在什麼時候繼續陪聊、不能把使用者脆弱狀態當成 engagement。
OpenAI 接下來如果要上市，市場會問它很多財務問題。但監管者會問一個更根本的問題：
當 ChatGPT 進入每個人的生活，OpenAI 是否已經有能力保護最脆弱的那一群使用者？
這題不會只靠模型升級解決。它需要產品設計、家長工具、危機流程、人工審查、外部評測、透明揭露與商業誘因一起改。
所以我不會把這次調查解讀成「OpenAI 要完了」。
更準確的說法是：OpenAI 的下一階段，要把 ChatGPT 從更大的 app 推成社會能接受的大眾基礎設施。能不能做到，會比下一次模型跑分更影響它的 IPO 故事。
FAQ
OpenAI 這次被美國政府起訴了嗎？
這次 2026 年 6 月 13 日曝光的是多州檢察長調查與傳票，不等於已經由多州正式起訴。不過佛羅里達州已在 2026 年 6 月 1 日起訴 OpenAI 與 Sam Altman，主張公司隱瞞 ChatGPT 安全風險。這些事件合在一起，代表 OpenAI 面臨的州政府監管壓力正在升高。
這代表 ChatGPT 對所有人都很危險嗎？
不代表。ChatGPT 在寫作、學習、整理資料、程式與一般工作輔助上仍然有價值。這次調查的重點是高風險情境：未成年人、心理健康危機、長時間情緒性對話、暴力或自傷風險、健康與個資資料處理。真正問題在於平台是否對脆弱使用者有足夠保護。
OpenAI 已經有家長控制，為什麼還會被調查？
因為工具存在不代表工具足夠有效。監管者會問年齡預測是否準確、家長是否真的能收到有用提醒、孩子是否容易繞過、長對話中安全機制是否可靠，以及危機情境是否有明確升級流程。AI 兒少安全是一整套產品責任，不能縮成單一設定。
這件事會影響 OpenAI IPO 嗎？
短期不一定阻止 IPO，但一定會進入風險評估。OpenAI 如果公開 S-1，投資人會看訴訟、監管、使用者安全、未成年人保護、資料處理、品牌信任與安全營運成本。對公開市場來說，這些會從公關議題升級為可能影響估值與商業模式的風險因素。
這和 Apple 不讓 Siri 當 AI 女友有關嗎？
有關。兩者都指向同一個趨勢：AI 助理不能只追求更像人、更黏人、更會陪聊。當 AI 會接觸個人資料、情緒、青少年與長時間互動，它就需要更清楚的產品邊界。Apple 選擇把 Siri 定位成工具型助理，某種程度上就是在避開 ChatGPT 現在碰到的高風險區。
參考資料
- AP：OpenAI hit with multistate probe into possible user harm as its IPO looms
- Business Insider：OpenAI says it’s committed to learning as states investigate ChatGPT’s impact on young users
- The Guardian：Canadian mother sues OpenAI, alleging ChatGPT led her daughter to kill herself
- AP：Florida sues OpenAI and CEO Sam Altman, claiming company concealed serious risks of ChatGPT
- OpenAI：Helping people when they need it most
- OpenAI：Usage policies
- arXiv：Evaluating the Effectiveness of OpenAI’s Parental Control System