AI 博客
白話講 RAG:給 AI 一個可引用的記憶
檢索增強生成讓模型答案建基於你自己的文件,使回覆保持最新且可查證。
CinderHub 編輯部1 分鐘閱讀
檢索增強生成(RAG)解決語言模型的核心弱點:它只懂訓練時見過的內容。你不需要重新訓練,而是把文件建立索引存入向量資料庫,針對問題檢索最相關的幾段內容,再貼進提示作為上下文。模型便根據這些最新、具體的材料作答,而非憑空猜測。
實際好處是可審核的準確度。由於每個答案都由檢索到的段落組成,你可以顯示來源片段並附上連結,這能減少幻覺並讓使用者查證說法。品質關鍵在檢索環節:把文件切成約 200 至 500 個 token,加入日期或產品等 metadata 篩選,並在結果送入模型前先重排序。
從小處做起並量度成效。建立一組有已知答案的真實問題測試集,先確認檢索到的片段是否真的包含答案,再去怪模型。在 CinderHub 上,你可以把 RAG 流程接入聊天模型,並將同一份有根據的上下文送入圖像或分鏡提示,讓每個產出都緊扣你的真實資料。
- retrieval augmented generation
- RAG
- 向量資料庫
- vector database
- reduce hallucinations
- 檢索增強生成
想試吓 CinderHub?
免費開始