亞馬遜正在悄悄改造 Alexa+ 背後的 AI 架構，核心目標是降低對 Anthropic Claude 模型的依賴，改以自家開發模型處理更多使用者請求。

Business Insider 取得的內部文件（時間範圍涵蓋 2025 年底至 2026 年初）顯示，這波調整包含三個層面：

  • 模型替換：將部分原由 Claude 處理的請求，移交給亞馬遜自家模型。
  • 快取機制：對重複性或可預測的請求直接回傳快取結果，避免不必要的模型推理。
  • 確定性回應：針對高確定性場景，以規則型邏輯取代生成式模型，進一步壓低算力消耗。

規劃預估，這些軟體層面的調整可讓 Alexa+ 可用運算容量提升約 50%，平均回應時間縮短約 40%。

重點

  • 成本壓力是主因：預測顯示 Alexa+ 的 AWS 雲端成本今年可能高達約 17 億美元，約為前一年的三倍，大幅使用昂貴的 Claude 模型被視為主要支出來源。
  • 此舉代表亞馬遜試圖在不大幅擴充硬體的前提下，以算法與架構優化提升 GPU 使用效率。
  • Alexa+ 仍會使用 Claude，但比例將逐步降低，自家模型將承擔更多日常請求。

編輯按

這則消息揭示了大型科技公司在 AI 成本管控上的真實張力：即便已和 Anthropic 締結策略聯盟並大舉投資，亞馬遜仍在積極尋求以自有模型「替代」昂貴的第三方推理服務。對 Anthropic 而言，這也意味著企業客戶對 API 成本的敏感度極高，模型效能之外，「推理單價」將是未來競爭的關鍵戰場。

本文由 AI 整理，原文：Business Insider via TechNews 科技新報