OpenAI 與晶片業者博通（Broadcom）合作，在短短九個月內完成首顆自研 AI 推論 ASIC 晶片「Jalapeño」，從設計定案到送廠製造僅用了通常需要數年的時間，令業界高度關注。
重點
- ASIC 而非 GPU：Jalapeño 是針對 AI 推論任務高度優化的特殊應用積體電路，有別於 NVIDIA GPU 的通用性。OpenAI 本身對自家模型演算法最熟悉，大幅縮短了設計週期。
- 九個月極速開發：從設計到定案並送交博通量產，遠低於業界以「年」計算的慣例。
- Google 人才意外助陣：晶片核心設計人才來自競爭對手 Google，這批背景成為加速開發的關鍵因素之一。
- 合作夥伴博通：由博通主導製造流程，OpenAI 專注軟硬整合與模型最佳化。
編輯按
Jalapeño 的誕生正式宣告 OpenAI 不再全面依賴 NVIDIA GPU 進行推論運算。自研 ASIC 若能大規模部署，將可顯著降低每次查詢的推論成本，對 ChatGPT 這樣高流量的服務意義重大。下一步值得關注的是 Jalapeño 實際部署時程，以及是否會影響 OpenAI 對 NVIDIA 的採購規模。
本文由 AI 整理，原文：TechNews 科技新報