AI 博客
檢索增強生成:給開發者的實用解說
RAG 讓 AI 的回答建基於你自己的文件,令輸出保持準確且與時並進。
CinderHub 編輯部1 分鐘閱讀
檢索增強生成(RAG)會在模型回答之前,先從你自己的資料中抓取相關文字,令回覆引用真實來源,而非依賴模型固化的訓練記憶。流程很直接:將文件切成片段、把每段嵌入成向量、存入向量資料庫,查詢時取出最相符的片段,再放進提示作為上下文。
品質取決於細節。每段控制在約 200 至 500 個 token 並保留少量重疊,避免句子中途被切斷;同時附上來源、日期、章節等中繼資料以便過濾。採用混合檢索,結合關鍵字(BM25)與語意搜尋,再把前 20 個候選重新排序,精選出實際傳入的 3 至 5 段。這比單純換模型更能減少幻覺。
在 CinderHub 上,你可以把 RAG 接入對話流程,並在後續問題、圖像提示與分鏡之間重用檢索到的上下文。先由一個範圍窄的知識庫開始,先量度檢索命中率再評估答案品質,並記錄用到哪些片段,方便快速除錯錯誤回答。小步上線、持續評估,再逐步擴充語料庫。
- RAG
- 檢索增強生成
- vector database 向量資料庫
- embeddings 嵌入
- hybrid retrieval 混合檢索
- AI hallucination 幻覺
想試吓 CinderHub?
免費開始