AI 博客
淺談 RAG:讓 AI 立足於你自己的資料
檢索增強生成把語言模型接上即時檢索步驟,讓回答引用你的真實文件,而非憑空猜測。
CinderHub 編輯部1 分鐘閱讀
檢索增強生成(RAG)分兩步:先從知識庫檢索最相關的片段,再把它們當作上下文餵給模型,然後才生成回答。這讓回應緊扣原始資料、大幅減少幻覺,因為模型是根據看得見的文字推理,而非依賴訓練時的模糊記憶。
實作其實很直接。把文件切成 300 至 800 token 的片段,嵌入到 pgvector 或 Qdrant 這類向量資料庫;查詢時將問題向量化,取出最相近的 5 至 8 段,放進提示詞。加上 metadata 過濾(日期、產品、語言)讓檢索更精準,並務必附上來源連結,方便使用者查證。
要留意三個常見陷阱:片段太大會淹沒重點、嵌入過期會給出舊答案、檢索落空則逼模型亂猜。在 CinderHub 上,你可以用多個模型測試生成端,看哪個最能根據檢索到的內容推理,再選出既準確又最省成本的那一個。
- retrieval augmented generation
- RAG
- 向量資料庫 vector database
- embeddings 嵌入
- 減少幻覺 hallucination
- CinderHub
想試吓 CinderHub?
免費開始