跳到內容 / Skip to content

AI 新聞

最新大型語言模型發布:有咩改變、點樣善用

新一波大型語言模型發布主打更長上下文、更平的 token 成本同更強的工具調用,以下係對實際工作真正有用的重點。

CinderHub 編輯部1 分鐘閱讀

最新的大型語言模型發布集中喺三個實際升級:上下文視窗擴展到 100 萬 token,可以將成個 codebase 或者一本研究資料一次過餵入 prompt;每 token 收費持續下降,令大量摘要同分類變得夾得起;原生工具調用亦足夠穩定,可以直接將模型接上 API、搜尋同程式執行。

要按任務揀,唔好跟風。歧義推理、涉及安全的設計同多步驟 debug 用旗艦模型;批量 find-and-replace、日常報告同簡單抽取就交俾細啲、快啲的模型。咁樣分層混用,通常可以慳一半成本而唔影響輸出質素。

喺 CinderHub,你可以喺同一個工作區將呢啲模型喺 chat、圖像同影片並排比較,落生產之前先喺幾款 LLM 上試同一個 prompt。建議先用一組屬於你自己真實任務的細測試集,量度準確度同延遲,確認贏家先至擴大到生產環境。

  • new LLM releases
  • 大型語言模型
  • 1M context window
  • token 成本
  • model routing
  • AI 工具調用

想試吓 CinderHub?

免費開始