DeepSeek 聯合北大開源 DSpark 推理加速框架

大語言模型服務在高併發請求下，常因運算資源競爭與排程效率受限，難以兼顧整體吞吐量和單一用戶的生成速度。DeepSeek 團隊與北京大學合作開發 DSpark，著眼於改善線上推理排程，緩解熱門 AI 服務擴充時的效能瓶頸。

DeepSeek 與北京大學近日聯合發布 DSpark 論文並開放原始碼，且已將框架部署至 DeepSeek 線上服務系統。實測顯示，在維持相同吞吐量的條件下，用戶端文字生成速度最高提升 85%；現有資訊則未揭露確切發布日期、測試硬體配置及完整基準數據。