不是每家公司都該建 RAG，作者提出三個判斷標準：文件超過 50 份、團隊有高頻重複問答（如客服每天回相同 FAQ 超過 20 次）、資料涉及個資或商業機密必須不出公司；三者都符合的企業 RAG 的 ROI 最高，典型總預算約 NT$15 萬到 60 萬、8 到 12 週可上線，文件少於 50 份則直接用 Long Context 即可。
發布 2026-05-02 · 最後更新 2026-09-27 · 作者 賴家榮 Andy Lai
RAG（Retrieval-Augmented Generation）是 2024–2026 年企業最熱門的 AI 應用，但不是每家公司都該做。這篇用三個判斷標準，幫您決定現在到底該不該建。
什麼是 RAG？
RAG 是「讓 AI 在回答前先翻你公司的文件」的技術。一般 ChatGPT 用的是訓練時學到的通用知識；RAG 則是把您公司的 PDF、Word、Excel、SOP、報價單做成可檢索的「向量資料庫」，AI 回答時即時翻書、引用內容。
用一句話比喻：RAG 就是給 AI 配一本「您公司專屬的字典」。
三個判斷標準
標準 1：您公司有多少文件？
RAG 的價值來自「文件多到人腦記不住、Ctrl-F 又找不到」。如果文件少於 50 份且都很簡短，直接用 Long Context（Gemini 2.5 Pro 支援 1M tokens）一次塞給 AI 就好，不用做 RAG。
| 文件量 | 建議方案 |
|---|---|
| 少於 50 份且簡短 | 用 Long Context，不用 RAG |
| 50–500 份 | 輕量 RAG（pgvector / Chroma 自架） |
| 500–5,000 份 | 正式 RAG（Qdrant / Pinecone） |
| 5,000 份以上 | RAG + Hybrid Search + Reranker |
標準 2：團隊重複問答的頻率
問問自己：「每天有多少次，員工在重複回答同樣的問題？」
- 客服每天回相同的 FAQ 超過 20 次 → 適合做 RAG
- 業務每週查同樣的庫存或規格超過 50 次 → 適合做 RAG
- HR 每月回新進員工同樣問題 30+ 次 → 適合做 RAG
- 法務每季查同樣法規 100+ 次 → 適合做 RAG
反過來說，如果問題類型每次都不一樣、沒有重複規律，RAG 的價值就不高。
標準 3：資料隱私需求
三種情況下您「必須」做 RAG（而非直接把資料丟給 ChatGPT）：
- 處理個人資料（醫療、金融、HR 資料）
- 含商業秘密（報價策略、客戶名單）
- 受法規管制（GDPR、個資法、產業法規）
RAG 配合自架向量庫，可以做到資料完全不出公司——這是 ChatGPT 訂閱版做不到的。
不該做 RAG 的三種情況
- 文件數量太少：50 份以下用 Long Context 就好。
- 文件變動太快：每天更新數十次的資料，維護向量庫的成本可能高於價值。考慮直接 API 查資料庫。
- 沒有真實的重複問答場景：純粹為了「跟風做 AI」，做完沒人用。
自建 vs 委外決策
已決定要做了？接下來看自建還是委外：
| 條件 | 建議 |
|---|---|
| 有工程師 + 願意學 Python + 不急 | 自建（成本 0–10 萬，時程 3–6 個月） |
| 沒工程師 / 急著上線 / 怕踩坑 | 委外（成本 25–60 萬，時程 8–12 週） |
| 有工程師但想加速 + 學技術 | 混合：顧問規劃 + 內部執行（成本 10–25 萬） |
預算與時程
典型企業 RAG 專案的成本拆解：
- 文件清洗與切片：30K–80K（內部 1 人做 1–2 週）
- 向量資料庫：自架 5K/月、Pinecone 約 70 美元/月
- Embedding：text-embedding-3-large 約 NT$3/萬字
- LLM 呼叫：Gemini 2.5 Pro 約 NT$50/萬字
- UI 介面開發：50K–200K（依複雜度）
- 培訓與上線：30K–80K
**典型總預算 NT$150,000–600,000**，可上線版本約 8–12 週。
結論
RAG 不是萬靈丹，但對「文件多 + 重複問答多 + 資料敏感」三個條件都符合的公司，RAG 的 ROI 是 AI 應用中最高的之一。我見過最快的回本期是 4 個月（食品代工廠），最慢的也只要 14 個月。
不確定您公司符不符合？預約 30 分鐘免費診斷，我直接告訴您。
常見問題
RAG 是什麼？
RAG（Retrieval-Augmented Generation）是讓 AI 在回答前先翻公司文件的技術。一般 ChatGPT 用的是訓練時的通用知識，RAG 則把公司的 PDF、Word、Excel、SOP、報價單做成可檢索的向量資料庫，AI 回答時即時翻書並引用內容，可以比喻為給 AI 配一本公司專屬字典。
公司該不該建 RAG，怎麼判斷？
作者提出三個標準：一是文件量，超過 50 份才有價值；二是重複問答頻率，例如客服每天回相同 FAQ 超過 20 次、業務每週查同樣規格超過 50 次、HR 每月回新人相同問題 30 次以上；三是資料隱私，處理個資、商業秘密或受 GDPR、個資法管制時，必須用 RAG 配自架向量庫讓資料不出公司。
什麼情況不適合做 RAG？
三種情況：文件少於 50 份且簡短，用 Long Context（如 Gemini 2.5 Pro 支援 1M tokens）一次塞給 AI 即可；文件每天更新數十次，維護向量庫的成本可能高於價值，應考慮直接 API 查資料庫；沒有真實的重複問答場景，純粹跟風做 AI，做完沒人用。
建置企業 RAG 要花多少錢、多久可以上線？
文章估算典型總預算 NT$150,000 到 600,000，可上線版本約 8 到 12 週。成本項目包括文件清洗與切片 30K 到 80K、UI 開發 50K 到 200K、培訓與上線 30K 到 80K，向量庫自架約 5K/月或 Pinecone 約 70 美元/月，Embedding 約 NT$3/萬字，Gemini 2.5 Pro 呼叫約 NT$50/萬字。
RAG 應該自建還是委外？
有工程師、願意學 Python 且不急，可自建，成本 0 到 10 萬、時程 3 到 6 個月；沒工程師、急著上線或怕踩坑，建議委外，成本 25 到 60 萬、8 到 12 週；有工程師但想加速並學技術，可採顧問規劃加內部執行的混合方案，成本 10 到 25 萬。作者看過最快的回本期是 4 個月，最慢 14 個月。