月之暗面（Moonshot AI）正式宣布開放其旗艦模型 Kimi K3 供大眾下載，以 2.8 兆參數規模成為截至目前全球最大的開源權重模型，並提供高達 100 萬 token 的超長上下文窗口。

Kimi K3 基於兩項自研架構創新：Kimi Delta Attention（KDA） 與 Attention Residuals（AttnRes），這兩項設計旨在讓模型在更長序列與更深層結構中保持高效資訊傳遞。月之暗面表示，過去 12 個月中，Kimi 系列有 9 個月持續保持開源模型規模的全球第一。

重點

  • 參數規模：2.8 兆，超越此前所有開源模型
  • 上下文窗口：100 萬 token，適合長文程式設計、知識工作與複雜推理
  • 架構：KDA + AttnRes 雙重自研創新
  • 授權：提供完整權重下載，可本地部署

編輯按

Kimi K3 的發布進一步壓縮開源與閉源模型之間的差距，也展示中國 AI 新創在大型模型基礎建設上的技術積累。對於有本地部署需求的開發者而言，2.8T 參數門檻雖高，但超長上下文窗口與開放授權的組合具有明確的實驗與應用價值，值得持續追蹤其在各 benchmark 的實際表現。

本文由 AI 整理，原文：TechNews 科技新報