跳到內容 / Skip to content

AI 博客

實戰 RAG:讓 AI 回答建立在你自己的資料上

檢索增強生成在查詢時把相關來源文件餵給模型,讓回答有依據、能更新、可引用。

CinderHub 編輯部1 分鐘閱讀

檢索增強生成(RAG)的做法是把文件切成片段、轉成向量存進向量庫,再針對每個問題檢索最相符的片段。這些片段會貼進提示詞當作上下文,讓模型根據你的實際資料作答,而不是靠訓練時記住的權重。

實際好處很具體:更新知識只需重新索引檔案,不必重新訓練;可以把引用連回來源片段;把模型限制在檢索到的文字內,也能降低幻覺。失敗模式同樣具體——切片不當、嵌入品質差、或檢索到太多不相關片段都會拖垮答案,所以先量測檢索命中率,別急著怪模型。

從小處著手:以 300 至 800 個 token 加少量重疊切片,若重視精準度就加上 reranker,並且永遠標明來源。在 CinderHub 上,你可以同時對多個模型測試生成端,再留下最能尊重檢索上下文、最貼合你領域的那一個。

  • retrieval augmented generation
  • RAG 檢索增強生成
  • vector database
  • 向量資料庫
  • embeddings 嵌入
  • reduce hallucination 降低幻覺

想試吓 CinderHub?

免費開始