法國新創 Kog 透過軟體優化提升現有 GPU 的 AI 推論效能

巴黎新創 Kog 由 École Polytechnique 畢業生 Gaël Delalleau 於 2023 年創立，主張資料中心既有 GPU 的瓶頸往往在推論軟體，而非晶片本身。隨 AI Agent 與程式開發工具需要連續規劃、測試與修正，單一請求的生成速度直接左右延遲與成本，也讓 KIE 的低階軟硬體協同設計受到關注。

2026 年 5 月 28 日，Kog 推出 Kog Inference Engine（KIE）技術預覽：2B 模型在 8 顆 AMD MI300X 上每秒輸出 3,000 tokens，在 8 顆 NVIDIA H200 上達 2,100 tokens，均採 FP16 且未使用 speculative decoding。公司已募得 500 萬美元，投資方包括 Varsity VC 與 Bpifrance Deep Tech Program，並表示企業洽詢持續升溫。