AI 博客
淺談 RAG:讓 AI 立足於你的資料
檢索增強生成在查詢當下把相關文件餵給語言模型,令答案保持即時且可查證。
CinderHub 編輯部1 分鐘閱讀
檢索增強生成(RAG)把語言模型與一個搜尋步驟結合:模型作答之前,先從你自己的文件抽出最相關的段落並當作上下文閱讀。這代表事實存在於你的知識庫,而非鎖死在模型權重裡,所以你更新一份 PDF,答案就會跟著改變,完全不用重新訓練。
一條可用的流程有四個環節:先把原始資料切成大約 200 至 500 token 的段落,將每段轉成向量,存入 pgvector 或 FAISS 這類索引,查詢時再把問題向量化、取回最相似的前 5 至 10 段交給模型。最關鍵的兩個旋鈕是切塊大小(決定每段帶多少上下文)與取回段數(在召回率與雜訊之間權衡)。
RAG 特別適合客服機器人、內部維基與產品文件——這些場景要求答案能引用來源且保持最新。在 CinderHub,你可以把檢索接進聊天模型,再把這份有根據的輸出重用來編寫分鏡或短片腳本。建議先單獨衡量檢索品質:若正確段落從未出現在前段結果,再怎麼調 prompt 也救不了最終答案。
- retrieval augmented generation
- RAG
- 向量檢索
- embeddings
- 知識庫問答
- vector database
想試吓 CinderHub?
免費開始