跳到內容 / Skip to content

AI 博客

RAG:讓 AI 的回答扎根於你的資料

檢索增強生成在提問當下把對的文件餵給模型,令回答保持即時且可查證。

CinderHub 編輯部1 分鐘閱讀

檢索增強生成(RAG)把語言模型和一個搜尋步驟結合起來。系統不再只靠訓練資料,而是把你的文件轉成向量存入向量庫,針對每條問題取回最相符的段落,再把它們塞進 prompt 當作背景,模型便根據這些段落作答,而非憑空猜測。

這解決兩個實際痛點:知識過時與幻覺。因為檢索是在提問當下發生,你只需重新索引檔案就能更新答案,不必重新訓練模型。而把來源段落連同答案一併回傳,使用者就能點進去逐條核實,這對客服文件、法律條文與內部維基尤其關鍵。

品質取決於檢索層而非模型本身。把文件切成 200 至 500 token 並保留少許重疊,加上 metadata 篩選讓你先收窄範圍再排序,並把前 20 個結果重排成 5 個才送入 prompt。在 CinderHub,你可以用這種方式把知識庫接進聊天模型,並在上線前並排測試不同的切塊與嵌入設定。

  • retrieval augmented generation
  • RAG
  • 向量檢索
  • vector embeddings
  • AI 幻覺
  • 知識庫問答

想試吓 CinderHub?

免費開始