DeepSeek（深度求索）聯合北京大學於 6 月 27 日發布論文《DSpark：基於置信度調度的推測解碼與半自回歸生成》，並正式開源推理加速框架 DSpark。DeepSeek 創始人梁文鋒亦列名作者，這是繼 6 月中旬完成 500 億人民幣融資後，DeepSeek 首次公開開源的新成果。

DSpark 專為解決大型語言模型（LLM）在高併發場景下的推理效率瓶頸而設計。其核心採用半自回歸生成（Semi-Autoregressive Generation）架構，融合高吞吐並行生成與輕量級串行校驗；並引入置信度調度驗證機制，可依系統當前負載動態調整驗證長度，兼顧生成吞吐量與延遲表現。

重點

  • 最高 85% 速度提升：相較傳統自回歸解碼，DSpark 在高併發情境下推理效率大幅改善
  • 開源模型權重：同步釋出 DSpark 模型權重及推測解碼相關工具，社群可直接使用
  • 北大與 DeepSeek 聯合出品：創辦人梁文鋒親列作者，技術可信度高
  • 融資後首個開源里程碑：完成 500 億人民幣融資後的首次開源，外界高度關注後續動向

編輯按

DSpark 若能廣泛落地，將直接壓低 API 推理成本，對規模化 LLM 服務（包含 AI Agent 框架、RAG 系統等）具有實質影響。DeepSeek 持續選擇開源策略，讓社群得以驗證並貢獻，有別於閉源黑盒優化；這波推理效率競賽也正在推動整個生態的成本曲線快速下降。

本文由 AI 整理，原文：TechNews 科技新報