高通（Qualcomm）在 2026 年投資者大會上，與 Dragonfly C1000 伺服器 CPU 同步發表了全新 HBC（High-Bandwidth Compute） 技術，這是一種旨在突破 AI 推理記憶體瓶頸的近記憶體計算架構。

高通表示，隨著 AI 模型規模持續擴大，每個 Token 的運算成本攀升，HBM（High Bandwidth Memory）已逐漸無法滿足下一代 AI 工作負載的頻寬與能效需求。HBC 採用 3D 堆疊設計，將計算單元置於 DRAM 之下，讓記憶體與運算緊密整合，相較 HBM 方案，每瓦頻寬效能提升達 6 倍。

重點

  • 近記憶體運算（Near-Memory Computing）：HBC 計算單元透過 3D 整合堆疊於 DRAM 底部，大幅縮短資料傳輸路徑
  • 每瓦頻寬是 HBM 的 6 倍：在相同功耗下提供更高頻寬，AI 推理能源效率顯著提升
  • 完整平台生態：HBC 搭配 Dragonfly C1000 CPU 與 AI300 推理加速器，形成高通的資料中心 AI 解決方案體系
  • 鎖定 Agentic AI：高通明確指出此架構針對大規模代理 AI（Agentic AI）工作負載場景設計

編輯按

高通 HBC 是一個可能顛覆資料中心記憶體架構的技術方向。若能量產落地，將對目前以 NVIDIA + HBM 生態為主的 AI 推理市場形成差異化競爭。HBC 的能效優勢若在實際部署中得到驗證，值得持續關注。

本文由 AI 整理，原文：TechNews 科技新報