月之暗面（Moonshot AI）正式發布旗艦開源模型 Kimi K3，以 2.8 兆（2.8T）參數規模定位為全球首款 3T 等級開源模型，挑戰 Meta Llama 和 Google Gemma 等西方開源陣營。

模型支援 100 萬 token 超長脈絡視窗，並原生整合視覺理解能力，可直接處理圖文混合輸入，大幅拓展多模態應用範圍。

重點

  • 架構創新：Kimi K3 基於 Kimi Delta Attention（KDA）與 Attention Residuals（AttnRes）兩大模組，改善跨序列長度和模型深度的資訊傳遞
  • MoE 強化：擴大混合專家（Mixture of Experts）稀疏程度，整體算力擴展效率約為前代 Kimi K2 的 2.5 倍
  • 主打場景：長流程 coding 開發、多步驟研究分析，以及需要長期規劃的 agentic 工作流
  • 開源策略：選擇全面開源，讓全球開發者社群能直接部署評估，積極縮小與美國頂尖開源模型的差距

編輯按

Kimi K3 的 2.8T 參數與百萬 token 視窗組合，對需處理超長文件的開發者極具吸引力。月之暗面選擇開源路線，不僅有助於社群驗證模型能力，也藉此積累生態系支持者。後續在 coding benchmark（如 SWE-bench）的實測表現，以及開發者 API 定價，將是能否搶下企業客戶的關鍵。

本文由 AI 整理，原文：TechNews 科技新報