先看一個應該影響你整個判斷的數字：84% 消費者認為真人客服比 AI 準確，只有 8% 在客服場景偏好 AI（資料來源：SurveyMonkey，2025）。那麼 AI 客服到底可不可以信任？直接的答案是：可以，但前提是它配備了足夠的護欄，防止它做出最摧毀信任的一件事 — 用十足的自信講出錯誤答案。本文拆解 AI 客服真實的準確度數據、最危險的失效模式，以及一份把「可靠的 AI」和「計時炸彈」分開的護欄清單。
AI 客服到底多常答錯？
直接答案：完全取決於系統怎樣搭建，範圍大得驚人 — 從不足 1% 到超過 10% 都有。
在 Vectara 的 grounded summarization 基準測試中，表現最好的模型幻覺率（hallucination rate）低至 0.7%（Gemini-2.0-Flash）至約 1.5%（GPT-4o）（資料來源：Vectara HHEM Leaderboard，2025–2026）。這聽起來令人安心，但一看更接近真實世界的內容就不同了：在 Vectara 2025 年底較困難的數據集上，連 GPT-5、Claude Sonnet 4.5、Grok-4 等旗艦推理模型，幻覺率全部超過 10%。
換言之，內容的難度比模型的名氣更重要。回答來源清晰、文件齊全的簡單問題，AI 準確度遠高於即興應付冷門邊緣個案。「不準確」亦是機構最常提及的 AI 風險，近三分之一機構表示曾因此蒙受負面後果（資料來源：McKinsey，2024）。對你的生意真正重要的，不是模型的基準分數，而是「你的部署」在「你的題目」上答錯的頻率 — 而這是可以透過設計控制的。
甚麼是「自信地答錯」？為甚麼它最危險？
直接答案：AI 用流暢、專業、權威的語氣講出一個完全錯誤的答案，而客戶因為「聽起來很對」而相信了 — 這是 AI 客服最危險的失效模式，因為 AI 不會發出任何「我在猜」的訊號。
學術研究顯示情況比多數人想像的更差。2025 年一項由 Technion、牛津大學及希伯來大學進行的研究發現，大型語言模型「即使掌握正確知識，仍可能以高確定性產生幻覺」— 也就是說，它們往往在答錯的時候聽起來最有信心（資料來源：Simhi et al.，arXiv，2025）。模型不會在不確定時放輕語氣，而是用陳述事實的平靜語調講出虛構內容。
對商家而言，這不是抽象風險。一個會說「我不肯定」的 AI 客服只是令人有點不耐煩；一個憑空發明退款政策、報出不存在的價格、編造退貨期限 — 而且用自信、得體的語言講出來的 AI 客服，才是把你推向麻煩的那個。整套護欄工程，正是為了對付這個行為而存在。
AI 答錯了，法律責任在誰？
直接答案：在你。商戶要為自己的 AI 所講的一切負責，沒有例外。
具指標性的案例是 Moffatt v. Air Canada（加拿大卑詩省民事審裁處，2024）。加拿大航空網站上的 chatbot 就喪親票價向客戶提供了錯誤指引，航空公司抗辯稱該工具是「獨立法律實體」，應為自己的答案負責。審裁處直接駁回這個講法，裁定公司須就疏忽失實陳述負責，賠償 C$812.02。
金額很小，原則很大：你不能部署一個 AI，然後在它出錯時指着軟件說「與我無關」。香港雖然未有同類判決，但「商戶須為自己向消費者發出的資訊負責」這個消費者保障原則放諸各地皆通。務實的做法，是把 AI 當成一個你要為其發言負全責的員工去管理 — 你不會讓新入職員工第一天就自行發明公司政策，也不應讓 AI 這樣做。
怎樣防止 AI 客服無中生有？
直接答案：把每個答案錨定在你自己核實過的內容上（RAG grounding），並明確指示 AI 在資料不足時寧可說「我不知道」並轉介，而不是憑訓練記憶亂答。
核心技術是檢索增強生成（RAG）：不是問模型「答案是甚麼」，而是先強制它從你的文件中檢索相關段落，再只根據該段落作答。模型從「即興演出者」變成「你知識庫的細心讀者」。
但 grounding 只在來源乾淨時才有效。過時和互相矛盾的文章，是「有根據但仍答錯」的頭號成因 — AI 忠實地引用了你八個月前已改掉的政策。供應商分析顯示，清理知識庫中過時及矛盾內容，可將此類錯誤減少約 20–30%（資料來源：IrisAgent／Zendesk）。垃圾進，自信的垃圾出。
合起來，防止「自信地答錯」需要七項控制：
- RAG grounding。 強制答案來自你的來源文件，不是模型記憶。
- 持續清理知識庫。 一頁過時價格，會污染所有觸及它的答案。
- 設定「我不知道」行為。 資料不足時棄答並轉介，不猜。
- 設信心閾值。 有信心才放行，不確定就標記或轉真人（下詳）。
- 設計清晰轉介路徑。 明確要求、連續失敗、情緒不滿、高風險題目即轉人。
- 引用來源。 讓客戶看到答案出自哪份文件。
- 把準確度當一級指標。 與 CSAT、解決率並列追蹤，不是事後補漏。
甚麼時候應該轉真人？
直接答案：越過四條線的任何一條就立即轉 — 客戶明確要求真人、AI 連續兩三次答不到同一問題、客戶明顯不滿，或題目屬高風險（退款、帳單爭議、合規相關）。這些是硬規則，不是建議。
信心閾值把這件事變成可配置的設定。常見的生產環境做法分三段：信心高於約 85%，AI 自行處理；70–85% 之間，照答但標記人手覆核；低於約 70%（有團隊設在 60%）即轉真人。還有一條關鍵補充：不論信心多高，都不應授權 AI 在無人監督下執行不可逆操作 — 例如退款、取消訂單。
轉介本身是很多商家靜靜流失客戶的位置。最大的轉介失敗是「冷轉接」：客戶被交給真人後，要從頭再講一次整件事。應採用暖轉接（warm handoff），把完整對話紀錄與脈絡一併交接，讓真人從 AI 停下的位置接手。客戶輸入「我要找真人」時，立即照辦，不要讓他和機器角力；也不要等到第五次失敗才轉 — 到第二三次落空，客戶的耐性已經用完。
客戶會信任 AI 客服嗎？信任怎樣贏回來？
直接答案：客戶預設是懷疑的，但信任可以贏 — 而且槓桿出奇地具體：透明、引用來源、誠實說不知道。
起點是現實：84% 消費者認為真人比 AI 準確、只有 8% 偏好 AI、61% 認為真人更明白他們的需要（資料來源：SurveyMonkey，2025）。你不是從信任出發，而是從赤字出發。好消息是，客戶不需要 AI 像人，只需要它「有用而誠實」。透明已是預期而非選項：95% 消費者期望 AI 作出影響他們的決定時有清楚解釋（資料來源：Zendesk CX Trends，2026）。告訴客戶「你正與 AI 助理對話」是加分項，隱瞞才是反效果。
引用來源是回報最高的動作之一：一項研究發現，向客戶展示答案出自哪份文件，令 CSAT 提升 8–12% — 即使底層準確度完全沒有改變。人會信任可以核實的答案，就像你會更信任一個說「手冊第四節有寫」的同事，多於一個只說「信我」的同事。
這也是 Omago 這類工具背後的理念 — Omago 是一個會做事的 AI agent 平台，協助商家在 WhatsApp、Telegram 與網站對話中自動處理客戶查詢：答案錨定在你的知識庫、不知道就誠實說、需要時乾淨地轉真人，而不是死撐到底。
完整的護欄清單是甚麼樣子？
直接答案：十項分層控制 — 單獨一項都不夠，合起來才足以把 AI 客服放在真實客戶面前。逐項確認已實際配置，才讓它上線。
| 護欄 | 作用 |
|---|---|
| RAG grounding | 強制答案來自你核實過的內容，不是模型記憶 |
| 知識庫清理 | 移除過時及矛盾文章（可減少約 20–30% 有根據但答錯） |
| 「我不知道」行為 | 資料不足時棄答，不猜 |
| 信心閾值 | 高於 85% 放行；70–85% 標記覆核；低於 70%（或約 60%）轉真人 |
| 轉介觸發 | 明確要求、第 2–3 次失敗、偵測到不滿、高風險意圖 |
| 暖轉接連脈絡 | 完整紀錄交接，客戶毋須重講 |
| 引用來源 | 建立信任；一項研究中令 CSAT 升 8–12% |
| 幻覺／準確度指標 | 與 CSAT、解決率並列的一級 KPI |
| 透明 | 告知客戶對方是 AI（95% 期望有解釋） |
| 人的問責 | 商戶擁有 AI 的一切發言 — 按此設計（Air Canada 判例） |
留意清單上沒有的一項：換一個更聰明的模型。這是最多老闆最先想到、也最無效的一步 — 基準數據已顯示，連頂級推理模型在困難內容上的幻覺率都超過 10%。可靠度來自周邊設計：grounding、清理、閾值、轉介，而不是模型本身。知識庫怎樣打好地基，可參考 怎樣建立 AI 知識庫；量度是否真的解決了問題，可參考 攔截率與解決率的分別。
護欄做不到甚麼？
直接答案：護欄能大幅降低風險，但不能降到零 — 底層技術是概率性的，目標是令錯誤罕見、可捕捉、低代價，而不是消滅錯誤。
正因如此，人的問責與持續量度是清單上的永久項目：你追蹤幻覺率，正是因為你假設系統會漂移 — 知識庫會過時、客戶會問新問題、邊緣個案會浮現。可信的部署不是永不出錯，而是快速捕捉錯誤，並在高風險事項演變成下一宗 Air Canada 案之前交給真人。同時要誠實面對邊界：閾值和「我不知道」擅長防止捏造，但不能取代人在情緒性、高價值、含糊個案上的判斷 — 成熟的做法是 AI 處理常規、定義清晰的大量查詢，人保留給真正有份量的事。這條界線怎樣劃，可參考 何時自動化、何時請人。
結論其實冷靜而務實：AI 客服在「被建造得可信」時就可信。Grounding 止住無中生有，清理保持來源乾淨，閾值與轉介接住漏網之魚，引用與透明把消費者的懷疑逐步賺回來。把這些做好，你就把一個不可預測的風險，變成了客服團隊裡可靠、可問責的一員。
常見問題
AI 客服實際的幻覺率有多高？
差異極大。最好的模型在 grounded 基準上只有 0.7–1.5%（Vectara HHEM Leaderboard，2025–2026），但在較困難的真實內容上，連旗艦推理模型都超過 10%。你的實際比率取決於 grounding 與知識庫質素，多於選哪個模型。
AI 客服真的會令商戶負上法律責任嗎？
會。Moffatt v. Air Canada（2024）中，審裁處駁回「chatbot 是獨立法律實體」的抗辯，裁定公司須為其錯誤指引負責。你的商戶擁有 AI 對客戶所講的一切，所以護欄與轉介必須設計好。
應該告訴客戶對方是 AI 嗎？
應該，永遠應該。95% 消費者期望 AI 作出影響他們的決定時有清楚解釋（Zendesk CX Trends，2026）。披露建立信任，隱瞞在被發現時反而反噬。
最重要的一項護欄是甚麼？
RAG grounding 加知識庫清理。前者強制 AI 只用你核實過的內容作答，後者保持內容乾淨 — 移除過時矛盾文章可減少約 20–30% 有根據但答錯（IrisAgent／Zendesk）。缺了這兩項，其他護欄都補不回來。
買更貴的模型能解決準確度問題嗎？
通常不能。連頂級推理模型在困難內容上的幻覺率都超過 10%，瓶頸不在模型，而在周邊設計 — grounding、清理、信心閾值與乾淨轉介。
資料來源：SurveyMonkey（84% 認為真人較準確、8% 偏好 AI、61% 認為真人更懂需要，2025）；Vectara HHEM Leaderboard（最佳模型 0.7–1.5%、困難內容逾 10% 幻覺率，2025–2026）；Simhi et al.（Technion／牛津／希伯來大學，arXiv，2025）；Moffatt v. Air Canada（BC Civil Resolution Tribunal，2024，賠償 C$812.02）；McKinsey（近三分之一機構因不準確蒙受負面後果，2024）；Zendesk CX Trends（95% 期望清楚解釋，2026）；IrisAgent／Zendesk（知識庫清理減少約 20–30% 錯誤）。本文不構成法律或專業意見。