AI 博客
RAG:讓 AI 的回答扎根於你的資料
檢索增強生成在提問當下把對的文件餵給模型,令回答保持即時且可查證。
CinderHub 編輯部1 分鐘閱讀
檢索增強生成(RAG)把語言模型和一個搜尋步驟結合起來。系統不再只靠訓練資料,而是把你的文件轉成向量存入向量庫,針對每條問題取回最相符的段落,再把它們塞進 prompt 當作背景,模型便根據這些段落作答,而非憑空猜測。
這解決兩個實際痛點:知識過時與幻覺。因為檢索是在提問當下發生,你只需重新索引檔案就能更新答案,不必重新訓練模型。而把來源段落連同答案一併回傳,使用者就能點進去逐條核實,這對客服文件、法律條文與內部維基尤其關鍵。
品質取決於檢索層而非模型本身。把文件切成 200 至 500 token 並保留少許重疊,加上 metadata 篩選讓你先收窄範圍再排序,並把前 20 個結果重排成 5 個才送入 prompt。在 CinderHub,你可以用這種方式把知識庫接進聊天模型,並在上線前並排測試不同的切塊與嵌入設定。
- retrieval augmented generation
- RAG
- 向量檢索
- vector embeddings
- AI 幻覺
- 知識庫問答
想試吓 CinderHub?
免費開始