加州理工學院團隊聚焦大型語言模型的記憶體與耗電瓶頸,研發以每個權重僅 1 位元表示的模型壓縮技術。其重要性在於降低端側部署門檻,讓模型不必完全依賴雲端運算,也能在 iPhone 等行動裝置執行推理並維持核心能力。
團隊近期成立新創公司 PrismML,並開源擁有 80 億參數的 Bonsai 8B 模型,展示 1 位元模型在手機端流暢運行的成果,同時大幅縮減記憶體需求與能耗。不過現有資料未載明技術發表日期、PrismML 成立日期,以及融資或投資金額。
全部報導
1 篇原始報導馬克翻舊帳
這個事件的歷史脈絡這個訊號沒有歷史回聲
訂閱馬克雷達週報
每週五,本週最強訊號送進收件匣。隨時一鍵退訂。