AI 博客
實戰 RAG:讓 AI 回答建立在你自己的資料上
檢索增強生成在查詢時把相關來源文件餵給模型,讓回答有依據、能更新、可引用。
CinderHub 編輯部1 分鐘閱讀
檢索增強生成(RAG)的做法是把文件切成片段、轉成向量存進向量庫,再針對每個問題檢索最相符的片段。這些片段會貼進提示詞當作上下文,讓模型根據你的實際資料作答,而不是靠訓練時記住的權重。
實際好處很具體:更新知識只需重新索引檔案,不必重新訓練;可以把引用連回來源片段;把模型限制在檢索到的文字內,也能降低幻覺。失敗模式同樣具體——切片不當、嵌入品質差、或檢索到太多不相關片段都會拖垮答案,所以先量測檢索命中率,別急著怪模型。
從小處著手:以 300 至 800 個 token 加少量重疊切片,若重視精準度就加上 reranker,並且永遠標明來源。在 CinderHub 上,你可以同時對多個模型測試生成端,再留下最能尊重檢索上下文、最貼合你領域的那一個。
- retrieval augmented generation
- RAG 檢索增強生成
- vector database
- 向量資料庫
- embeddings 嵌入
- reduce hallucination 降低幻覺
想試吓 CinderHub?
免費開始