社群開發者微調 MiniCPM5 打造 657MB 本地 AI 思考模型

OpenBMB 的 MiniCPM5-1B 是一款約 10 億參數的輕量級模型，主打在資源有限的裝置上部署。社群開發者 GnLOLot 進一步以 Claude Fable 5 的推理軌跡進行監督式微調，顯示大型模型的思考資料可用來強化小型模型的推理能力。

GnLOLot 最新釋出的本地端思考模型容量僅 657MB，並支援 GGUF 格式及 llama.cpp 運行環境，使用者不需 API 金鑰或雲端連線即可執行。測試結果顯示，這項微調方法改善了 MiniCPM5-1B 的程式碼寫作與指令遵循表現。