AI 新聞
最新大型語言模型發布:有咩改變、點樣善用
新一波大型語言模型發布主打更長上下文、更平的 token 成本同更強的工具調用,以下係對實際工作真正有用的重點。
CinderHub 編輯部1 分鐘閱讀
最新的大型語言模型發布集中喺三個實際升級:上下文視窗擴展到 100 萬 token,可以將成個 codebase 或者一本研究資料一次過餵入 prompt;每 token 收費持續下降,令大量摘要同分類變得夾得起;原生工具調用亦足夠穩定,可以直接將模型接上 API、搜尋同程式執行。
要按任務揀,唔好跟風。歧義推理、涉及安全的設計同多步驟 debug 用旗艦模型;批量 find-and-replace、日常報告同簡單抽取就交俾細啲、快啲的模型。咁樣分層混用,通常可以慳一半成本而唔影響輸出質素。
喺 CinderHub,你可以喺同一個工作區將呢啲模型喺 chat、圖像同影片並排比較,落生產之前先喺幾款 LLM 上試同一個 prompt。建議先用一組屬於你自己真實任務的細測試集,量度準確度同延遲,確認贏家先至擴大到生產環境。
- new LLM releases
- 大型語言模型
- 1M context window
- token 成本
- model routing
- AI 工具調用
想試吓 CinderHub?
免費開始