回到頂部

LINE AI 機器人實作 2026:Webhook、RAG、模型選擇與成本控制

LINE Bot 串接 AI(Claude、GPT)的完整架構教學:Webhook、RAG 知識庫、模型分層、人機協作轉接機制與台灣中小企業導入路徑。

為什麼台灣中小企業適合做 LINE Bot + AI?(背景)

台灣智慧型手機用戶幾乎人人有 LINE(NCC、市調普遍指出滲透率 9 成以上),中小企業的客戶溝通大多落在 LINE 上——這個現象台灣特別明顯。

對比歐美企業愛用的 Web Chat、Email 自動化,LINE Bot 是台灣特有的優勢路徑:

  1. 客戶不用切換 App——不需要 onboard 新工具
  2. 整合官方帳號生態——已存在的客戶關係不用重建
  3. MessagingAPI 成熟——LINE 提供完整文件、SDK、Webhook 機制

但坑也多,主要是「AI 胡謅承諾」「介面費用失控」「整合複雜度」。這篇講怎麼避坑。

AI Chatbot 通用入門 是綜覽,這篇專注 LINE 場景。

核心架構

[LINE 用戶傳訊]

[LINE Messaging API]
     ↓ Webhook POST
[你的伺服器(Node.js / Python)]

[預處理:過濾、辨識意圖]

[路由到合適的 LLM(Claude / GPT / 本地)]

[加入 RAG 上下文(向量資料庫查找)]

[LLM 生成回應]

[後處理:格式化、防護檢查]

[Reply API 回到 LINE]

[LINE 用戶看到回覆]

幾個關鍵限制:

  • HTTPS 必須——LINE Webhook 不接 HTTP,需有 SSL
  • 回應時間 < 1 秒——超過 LINE 會重送,可能導致重複回覆
  • 冪等性——同一 message_id 重複收到時,不能重複回覆(用 Redis 紀錄已處理 ID)

模型選擇分層

不要全用旗艦模型——介面費用會爆。做分層:

任務類型推薦模型介面成本(每百萬詞元)
簡單 FAQ、訂單查詢GPT-4o-mini、Claude Haiku約 USD 0.15
一般客服對話Claude Sonnet、GPT-4o約 USD 3
複雜決策、合約解讀Claude 4.7、GPT-5約 USD 15
本地隱私敏感Llama 4(Ollama 跑)0(自架成本)

路由邏輯(Pseudocode):

def route_to_model(user_message, context):
    if is_simple_faq(user_message):
        return "claude-haiku-4-5"
    if has_sensitive_info(user_message):
        return "llama-4-local"  # 本地跑保隱私
    if requires_deep_reasoning(context):
        return "claude-sonnet-4-6"
    return "gpt-4o-mini"  # 預設

加上 Redis 快取:同樣的問題 24 小時內重複出現,直接回快取答案,不再調 LLM。

RAG 是必做

純 LLM 不認識你的公司——不知道你的產品價格、不知道你的退貨政策、不知道你的客服 SOP。RAG 把「公司知識」灌進去。

最簡 RAG 架構:

  1. 準備知識庫:整理產品手冊、訂單條款、客服 SOP 成 markdown 或文字
  2. 向量化:用 OpenAI Embeddings 或 nomic-embed-text 把文字轉成向量
  3. 存向量資料庫:小規模(< 100 萬向量)用 pgvector 即可
  4. 查詢時檢索:用戶問問題 → 把問題向量化 → 找最相關的 5 段知識 → 連同問題餵給 LLM

防止 LLM 胡謅 system prompt:

你是 [公司名] 的客服 AI。回答時嚴格遵守:
1. 只回答以下提供的「公司知識」內,不要編造
2. 如果問題超出提供的知識範圍,回「這個問題我幫您轉真人客服」
3. 不要承諾「保證」「絕對」「100%」這些詞
4. 涉及退款、訂單狀態查詢的問題,直接轉人工

公司知識:[RAG 檢索出來的相關段落]

人機協作觸發條件

純 AI 客服在某些場景仍會出包。設計「自動轉真人」的觸發條件:

  1. 信心值低——LLM 對答案不確定(可用 Logprobs 或 self-reflection 偵測)
  2. 負面情緒——用戶訊息含「生氣」「投訴」「很差」等情緒詞
  3. 敏感關鍵字——「退款」「法律」「檢舉」「詐騙」自動轉
  4. 連續 3 次答非所問——用戶反覆說「不對」「我不是這個意思」自動轉

轉真人後,把整段對話歷史 + AI 答案 + 用戶情緒分析,整理成 markdown 送給真人客服。真人不用重看一遍對話就能上手。

成本控制實戰

3 個必做:

  1. Redis 快取:重複問題 24 小時內回快取,可節省 30-50% 介面成本
  2. 分層路由:80% 用便宜模型,20% 用旗艦,平均成本可從 USD 3 降到 USD 0.5 / 百萬 tokens
  3. 訊息長度限制:用戶單次訊息超過 2000 字截斷或拒絕,避免超長提示燒錢

監控指標(每月看):

  • 每用戶平均介面成本
  • 轉真人客服比例(目標 15-30%,過低代表 AI 過度自信,過高代表 RAG 不夠)
  • 用戶滿意度(每次對話結束發 1-5 分快速調查)

對台灣中小企業的具體建議

適合導入的場景:

  • 電商(產品查詢、運費、退換貨)
  • 餐飲訂位(常見問題、菜單推薦)
  • 保險、金融(基礎產品資訊,複雜決策仍轉真人)
  • 補習班、醫美(課程資訊、預約查詢)

不適合導入的場景:

  • 高客單價諮詢(豪宅、汽車——客戶要真人介紹)
  • 情感類(婚禮、葬儀社——AI 冷冰冰)
  • 緊急醫療(風險太高)

典型導入時間 + 預算(中小企業):

  • 簡單版(只回 FAQ):2-4 週、NT$50,000-100,000
  • 完整版(含 RAG、訂單查詢、人機協作):8-12 週、NT$300,000-500,000

外包還是自做?台灣有不少 LINE Bot + AI 整合服務商,中小企業多半外包划算。自做的話需要至少 1 位後端工程師全職 2 個月

💡 Mason 的判斷

LINE Bot + AI 對台灣中小企業是「最具體可落地的 AI 應用」之一。我看到的成功 / 失敗模式:

成功的共通點:

  • 先做小(只回 5 種常見問題),用順了再擴大
  • 設清楚的「AI 邊界——明確哪些不能問、哪些必轉人工
  • 持續更新 RAG 知識庫——產品改了、SOP 改了,RAG 也要重新向量化

失敗的共通點:

  • 想一次做大——「讓 AI 處理所有客服問題」,結果 bug 一堆、用戶體驗差
  • 沒準備真人後援——AI 答不出就讓用戶卡住,客戶反而流失
  • 沒監控成本——介面費用月底才看,發現超預算 5-10 倍

對「沒有資訊團隊的小公司」:直接用市面上的 LINE AI 客服 SaaS(超人氣、麥當勞線上、CYBERBIZ AI),不要自己做。 對「有 1-2 位工程師的中型公司」:自己做,但用 LangChain 或 LlamaIndex 加速,不要從零造輪子。

❓ FAQ

LINE Bot 介面費用是怎麼算的?

兩部分:(1) LINE Messaging API 訊息費(免費版每月 500 則免費;Pro 版 NT$880 / 月 + 額外訊息費)、(2) AI 模型介面費(看你用什麼模型)。對中小企業:LINE 訊息費通常不是主要,AI 介面費才是大宗——做好分層路由 + 快取最關鍵。

LINE Bot 能不能取得用戶個資?

可以,但要遵守台灣個資法 + LINE Platform Policy。取得方式:(1) 用戶主動傳訊息(電話、Email、地址)、(2) 取得 LINE Login 授權(可拿到 profile)、(3) 客戶要求查詢時主動詢問絕對不要:用 OCR 偷掃用戶傳的證件、把用戶資料丟給海外 AI 介面但沒簽 DPA

自己做 vs 用市面上的 SaaS,差多少?

自己做:彈性高、客製深、長期成本低,但初期投入大(2-3 個月開發 + 持續維護) 用 SaaS:上線快(1-2 週)、月費低(NT$3,000-30,000),但客製能力有限,長期月費 24 個月後超過自做成本 判斷:月處理 < 10,000 訊息選 SaaS,月處理 > 50,000 或需要深度客製選自做。中間區段看你有沒有現成工程師。

№ · further reading

延伸閱讀