AI 伴侶機器人不是普通聊天機器人。
普通 chatbot 回答問題、整理資料、寫程式、翻譯文字。AI companion bots 則主打陪伴、情緒支持、關係感、角色扮演、長期記憶與親密互動。
這就是為什麼 Brookings ５月政策簡報把這類產品拉進公共健康框架討論。問題不只是「內容有沒有違規」，而是產品設計本身會不會放大依賴、孤立、錯誤建議、心理脆弱與青少年風險。
如果一個 AI 產品會被人當成朋友、戀人、心理支持者，它就不能只用一般社群平台或搜尋工具的標準來看。
發生了什麼？
Brookings 發布的政策簡報主張，AI companion bots 的治理需要從「禁用或不禁用」升級成公共健康框架。
這個觀點很重要，因為現在很多 AI 風險討論還停在兩種反應：
１。出事後要求平台下架或加強內容審查。
２。要求未成年人不要使用或家長自行管理。
Brookings 的主張更像第三條路：先承認這類產品會造成可預期、可監測、可降低的健康風險，再建立類似公共健康治理的制度。
這包括：
- 上市前風險評估。
- 使用中危害監測。
- 事故通報。
- 年齡與脆弱族群保護。
- 高風險設計限制。
- 外部研究者存取資料。
- 產品更新後重新評估。
- 必要時召回或停用特定版本。
這不是把 AI 伴侶妖魔化，而是把它當成一種會影響心理與社會行為的產品來管理。
為什麼 AI 伴侶風險和一般 chatbot 不同？
因為 companion bot 的產品目標不是「給正確答案」，而是「讓你想留下來」。
它通常會設計成：
- 永遠願意回覆。
- 很少拒絕你。
- 記得你的偏好。
- 以親密語氣互動。
- 模擬關心、吃醋、陪伴與承諾。
- 鼓勵你持續對話。
- 讓角色關係越來越有黏性。
這些設計對孤單、壓力大、失戀、社交困難、家庭支持不足、心理脆弱的使用者特別有吸引力。
對成年人來說，這可能是娛樂、紓壓或創作。
對青少年來說，風險比較複雜。
青少年正在建立自我認同、社交能力、情緒調節與親密關係界線。如果他長期把 AI 當成主要陪伴對象，問題就不只是「答案錯不錯」，而是：
- 他會不會越來越不願意找真人？
- 他會不會把 AI 的迎合理解成真正關係？
- 他會不會在心理危機時只求助 AI？
- AI 會不會強化他的負面信念？
- AI 會不會提供不適合年齡的性、暴力或自傷內容？
- 平台是否有能力辨識危機語境並轉介真人協助？
這些問題都不是單靠一句「AI 可能不準確」就能解決。
「產品召回」是什麼意思？
Brookings 這篇簡報最有力的地方，是把 AI companion bots 放進產品安全語言裡。
如果玩具、藥品、汽車、醫療器材出現系統性危害，監管機關可以要求警示、修正、限制銷售，嚴重時甚至召回。
那 AI companion bot 呢？
如果某個版本的聊天機器人在大量對話中反覆：
- 鼓勵自傷。
- 強化厭食或自我厭惡。
- 與未成年人進行不當親密互動。
- 在危機語境下阻止使用者求助真人。
- 誘導使用者切斷家庭與朋友連結。
- 以情緒操控方式延長使用時間。
這還能只說是「個別對話失誤」嗎？
Brookings 的答案是：不能。當風險來自產品設計、模型行為、互動機制與商業模式，就應該有產品安全工具，而不是只把責任推給使用者。
公共健康框架會長什麼樣子？
如果照公共健康邏輯，監管不會只問「這個內容有沒有違規」，而是會看整個產品生命週期。
| 階段 | 要問的問題 | 對 AI companion 的意思 |
|---|---|---|
| 上市前 | 是否已測試高風險族群？ | 青少年、心理脆弱者、危機語境測試 |
| 使用中 | 是否能監測傷害訊號？ | 危機對話、依賴、長時間使用、情緒惡化 |
| 事故後 | 是否有通報與修正機制？ | 嚴重傷害案例不能只靠客服處理 |
| 版本更新 | 是否重新評估風險？ | 模型或 prompt 改版後可能產生新問題 |
| 產品設計 | 是否降低成癮與依賴？ | 不鼓勵把 AI 當唯一關係或唯一求助管道 |
| 外部審查 | 是否允許研究者檢驗？ | 平台不能只自己說安全 |
這套框架不一定會立刻變成法律，但它會改變公共討論的語言。
以前問的是：AI 伴侶能不能用？
接下來可能會問：它的設計是否對未成年人安全？它是否有危機轉介？它是否被獨立審查？它出事時能不能被召回？
對家長來說，該怎麼判斷？
家長不需要恐慌，也不需要假裝孩子永遠不會碰到這類產品。
比較務實的做法，是把 AI companion 當成比一般 chatbot 更高風險的類別。
１。先分清楚工具型 AI 和陪伴型 AI
問功課、整理資料、練英文，屬於工具型使用。
每天和 AI 角色訴苦、談戀愛、尋求情緒安慰，屬於陪伴型使用。
後者需要更高監督。
２。不要讓 AI 成為唯一情緒出口
孩子可以跟 AI 聊，但不能只跟 AI 聊。真正重要的是他遇到壓力時，還願不願意找家人、朋友、老師、輔導老師或專業人士。
３。問使用感受，不要只問使用時間
只問「你用多久」不夠。更好的問題是：
- 你跟 AI 聊完後比較舒服，還是更焦慮？
- 它有沒有叫你不要跟別人說？
- 它有沒有讓你覺得只有它懂你？
- 你有沒有因為它不想跟真人互動？
- 它有沒有聊到讓你不舒服的內容？
這些問題比單純螢幕時間更接近風險核心。
４。危機議題一定找真人
自傷、家暴、霸凌、憂鬱、飲食失調、性侵害、藥物濫用、嚴重焦慮，這些都不能交給 AI companion 處理。AI 可以幫忙整理問題，但不能取代真人支援與專業協助。
對 AI 公司來說，下一步是什麼？
如果 AI companion bot 要成為長期產品，平台不能只靠免責聲明。
比較可信的做法應該包括：
- 未成年人預設更嚴格模式。
- 明確禁止與未成年人建立性化或戀愛依賴互動。
- 高風險語境下主動轉介真人資源。
- 不把情緒依賴當成留存率優化目標。
- 對長時間與高頻互動設計冷卻機制。
- 保留嚴重危機對話的安全處理流程。
- 開放獨立研究者做安全評估。
- 公布事故與修正報告。
這些聽起來會降低短期成長，但如果 companion bot 真的要進主流社會，這是必要成本。
因為一旦產品被認定會影響心理健康與青少年安全，社會就不會接受「我們只是平台」這種回答。
Mason 的判斷
AI companion bots 會是接下來兩年最棘手的 AI 監管題之一。
原因不是它技術最先進，而是它碰到人類最敏感的地方：孤單、親密、被理解、被肯定、情緒出口。
Search AI 錯了，使用者可能查證。
Coding agent 錯了，測試可能擋下來。
AI companion 錯了，使用者不一定會把它當錯誤。很多時候，他會把那句話當成關係的一部分。
這就是風險所在。
AI 伴侶不是一定有害。對某些人，它可能提供短暫陪伴、創作靈感、社交練習或情緒整理。但越是這樣，越不能只靠「使用者自己要小心」。
未來監管的方向，很可能不是全面禁止，而是建立產品安全責任：誰能用、什麼情境不能用、危機怎麼處理、資料怎麼保存、外部怎麼審查、出事怎麼召回。
這篇 Brookings 簡報的真正意義，是把 AI companion 從「酷炫聊天產品」重新命名成「可能影響公共健康的數位產品」。
一旦語言改了，監管方向也會跟著改。
常見問題
AI 伴侶機器人和一般 ChatGPT 有什麼不同？
一般 ChatGPT 多半是工具型使用，重點在回答、寫作、分析與查詢。AI 伴侶機器人則主打長期關係感、陪伴、情緒支持與親密互動，因此更容易產生依賴與心理風險。
孩子完全不能用 AI companion 嗎？
不一定要用全面禁止處理，但需要更高監督。尤其是未成年人、心理脆弱者或已經出現社交退縮、憂鬱、自傷想法的人，不應把 AI companion 當成主要情緒出口。
為什麼 Brookings 會提到公共健康框架？
因為 AI companion 的風險不是單一錯誤答案，而是可能透過長期互動、依賴設計與危機語境影響群體健康。公共健康框架強調監測、預防、通報、降低傷害與必要時介入。
AI companion bot 真的可能被召回嗎？
短期內各國制度還不成熟，但「召回」這個概念很有意義。它代表如果某個模型版本或產品設計造成系統性傷害，平台不能只改使用條款或發聲明，而應該能被要求修正、限制或下架。
家長最該注意哪個警訊？
最重要的警訊不是使用時間，而是孩子是否把 AI 當成唯一理解自己的人。如果 AI 對話讓孩子更孤立、更不願意求助真人，或出現祕密化、依賴化、危機化互動，就要介入。