開源專案 freellmapi 由開發者 tashfeenahmed 在 GitHub 釋出，目標是把 16 家 LLM 提供商（包含 OpenAI、Google Gemini、Groq、Cohere 等）各自的免費使用額度疊加起來，統一透過一個 OpenAI 相容的 /v1 端點對外提供服務。使用者只需配置一次，即可透過智慧路由自動調度至當前可用的模型提供商，合計免費 token 上限約為每月 17 億（~1.7B）。

重點

  • 統一端點：所有 16 家 LLM 的免費 tier 透過同一 /v1 endpoint 存取，完全相容 OpenAI SDK 與生態系工具
  • 智慧路由 + 自動故障轉移：依照各家剩餘額度與服務可用性自動分配請求，單一提供商限速時無縫切換
  • 加密金鑰管理：各家 API Key 以加密方式儲存，降低明文外洩風險
  • 自訂端點：除內建 16 家外，亦支援任何 OpenAI-compatible 的自訂 endpoint 接入
  • 定位：專為個人實驗設計，適合開發者在不付費情況下快速比較多家模型的輸出品質

編輯按

對預算有限的個人開發者與學生而言，freellmapi 提供了一個輕量的多模型免費測試平台。值得注意的是，各 LLM 提供商的免費 tier 政策可能隨時調整，且此專案明確標示為「個人實驗用途」，不建議用於商業或高流量場景。若需穩定的多模型路由，可評估 OpenRouter、LiteLLM 等具 SLA 保證的替代方案。

本文由 AI 整理，原文：GitHub