FreeLLMAPI 介紹與安裝：聚合 20+ 家 AI 廠商免費額度，打造單一 OpenAI 兼容端點！

 前言 :

在進行個人專案開發 或 AI Agent 測試與使用時，API 的呼叫費用往往是一筆不小的開銷。雖然各大 AI 服務商（如 Google Gemini, Groq, Mistral, GitHub Models 等）都有提供相當慷慨的 Free Tier（免費試用額度），但手動管理十幾個平台的 API 金鑰、處理不同 API 規格、以及應對配額用盡（Rate Limit 429）的問題，過程非常繁瑣。

FreeLLMAPI 就是為了徹底解決這個痛點而生的開源專案！簡單的說，就是架設一個 OpenRouter 的地端版。

📌 一、什麼是 FreeLLMAPI？

FreeLLMAPI 是一個輕量級且強大的 AI Gateway / Proxy 代理服務。它能將多達 20+ 家主流 AI 服務商的免費 API 額度整合在同一個後端，並對外提供 標準 OpenAI 相容格式（/v1/chat/completions） 的端點。

🌟 核心特色優勢：

1. 聚合多平台免費額度：支援 Google AI Studio, Groq, Mistral, GitHub Models, Cerebras, OpenRouter, Cloudflare Workers AI 等多個平台，每月最高可疊加數億至數十億個免費 Token 額度。

2. 自動故障轉移（Automatic Failover）：當某個平台超出速率限制（429）或連線失敗（5xx）時，代理服務會自動將請求切換至下一個可用模型，避免程式中斷。但，有時也會發生切換失效的情況就是。

3. 無縫整合現有工具：只要支援設定 custom base_url 的工具（例如 Aider、Continue.dev、OpenClaw、Claude Code 或自定義 Python 腳本），都能直接無縫接軌。

4. 內建視覺化 Dashboard：提供 React 打造的管理介面，包含金鑰設定、模組備援順序拖曳、Playground 即時測試與用量數據分析。

5. 本地安全加密：所有上游 API 金鑰均採用 AES-256-GCM 在本地資料庫（SQLite）中加密儲存，僅於記憶體中解密，安全性極高。

---

🎨 二、系統架構與介面示意圖

為方便理解系統運作流程與控制台介面，以下整理出架構與 Dashboard 的運作概念示意圖：

本文章只測試提供給 CLI 使用。

1. 系統運作架構圖

┌─────────────────────────┐

│   您的應用程式 / 工具    │

│ (Python / Aider / CLI)  │

└─────────────────────────┘

⬍ 標準 OpenAI 相容請求 (/v1)               

┌─────────────────────────┐

│       FreeLLMAPI        │ ──► 本地加密儲存 (.db / AES-256-GCM)

│   (自動路由與故障轉移)   │ ──► 速率追蹤 (RPM / TPM 限制保護)

└───────────┬─────────────┘

     ├────────────┬──────────────────┐.............

             ▼                       ▼                       ▼

┌──────────────┐   ┌───────────────┐     ┌────────────────┐

│  Google AI Studio │   │   Groq Cloud  │    │ Mistral / 其他   │

│ (Gemini 2.5 Pro) │   │  (Llama 3.3)    │    │   (Mistral Large) │

└──────────────┘   └───────────────┘     └────────────────┘

2. Dashboard 管理介面示意圖 (Web UI - http://localhost:5173 or 5174 ) (這個位置的 port 可能會變，安裝與啟動時都會提供，請記下來)

---

🛠️ 三、安裝方法 (Installation Guide)

有多種安裝方式，推薦告訴 Claude Code CLI "參考 https://github.com/tashfeenahmed/freellmapi 幫我安裝" 進行安裝。本文章使用 "本地開發" 方式安裝。另外，使用 "桌面版 .exe" 安裝，windows 會出現安全性警告且無法安裝。

Node.js 本地開發環境啟動

1、先在 freellmapi 資料夾開啟 Claude Code CLI，並貼上 "參考 https://github.com/tashfeenahmed/freellmapi 幫我安裝" ，進行安裝。先會出現各種安裝方法的說明。

2、告訴 Claude Code CLI 使用 "本地開發" 方式安裝，就會幫您執行安裝指令。應該會安裝 server 與 client 。記住安裝成功後出現 Dashboard 位址，首次設定需在瀏覽器完成。

3、進入 Dashboard (若出現 error，就讓 Claude Code CLI 解決)，進行註冊。

4、未來啟動方式(可以在安裝完 freellmapi 後，接著問 Claude Code CLI )

a、進入專案目錄 : 在 PowerShell 中，cd 當初安裝 freellmapi 目錄。

例如: cd D:\project\freellmapi\freellmapi\freellmapi

b、啟動開發伺服器 :

npm run dev

     ⚠️ 注意事項             1. 必須在專案目錄下執行 — 否則會報錯 No such file or directory             2. 不要關閉執行中的終端機 — 關閉會停止服務             3. 需要 .env 檔案 — 已存在，啟動時無需重新設定

---

🚀 四、使用方法 (Usage)

步驟 1：在 Dashboard 設定金鑰

• 瀏覽 http://localhost:5173 or 5174(啟動 server 會出現)。

• 前往 Keys 頁面，點擊"添加密鑰"。再選擇各個服務商（如 Google AI Studio, Groq, Mistral 等）並貼上申請到的免費 API Key。

***********************************************************************************************************

• 使用 Custom endpoint (自定義端點)。如服務商（如 OpenAI, X.ai 等）沒有在列表中，可以使用此方式來自由添加，填完後記得按 "Add model" 按鈕。

可以添加不同服務商

---

步驟 2：使用統一 API Key

1. 前往 Keys 頁面，點擊"統一 API 密鑰"。然後在頁面頂端複製 FreeLLMAPI 自動產生的 Unified API Key（格式為 freellmapi-xxxxxx）。

2. 設定 API Key 為環境變數，供日後使用。在 PowerShell 執行以下指令 : setx FREELLMAPI_API_KEY "freellmapi-xxxxxx"

3.驗證環境變數設置

新開一個 PowerShell 執行以下指令：

echo $env:FREELLMAPI_API_KEY 應該看到：freellmapi-xxxxxx

***********************************************************************************************************

步驟 3：查詢使用狀態

    前往 分析 頁面，可以看到各種使用狀態。

步驟 4：設定

點選右上角的3個點，可前往 "設定" 頁面，目前可以設定 "主題" 、 "切換語言"。

 

---

💡 五、總結與提醒

• 優點：FreeLLMAPI 非常適合用於開發測試、自建本地 AI 工具箱、自動化工作流與小型 MVP。它巧妙地將分散的免費額度融合成一個穩定的算力池。

• 缺點：因為是代理服務會自動將請求切換至下一個可用模型，但每個模型能力不同，所以回答品質可能會參差不齊。也是會出現 "速率限制（429）或 連線失敗（5xx）"。

• 使用建議：由於免費層級大多提供中階模型（例如 Llama 3.3, Gemini 2.5 Flash / Pro 等），對於一般的日常任務與程式碼生成已綽綽有餘；但若需要正式商業量產或極高穩定的生產環境，建議未來再切換至付費 API。