網頁

利用 FreeLLMAPI 搞定各大 AI CLI 終端工具！打造免費的開發環境

在終端機（Terminal）開發時，AI 程式設計代理人（AI Coding Agents） 已經成為提高生產力的標準配備。從 Anthropic 的 Claude Code CLI、Google 的 Antigravity CLI、OpenAI 的 Codex CLI，到開源的 Pi CLI 與 GitHub Copilot CLI，還有 OpenCode CLI，能直接在命令列閱讀程式碼並執行重構，體驗極佳。

不過，當你同時使用多種 CLI 工具時，API 呼叫成本會快速飆升，還可能隨時遭遇 Rate Limit（429）。本文將介紹如何利用 FreeLLMAPI 這個「地端版 OpenRouter」，整合多家 AI 服務商的免費額度，並設定到各大主流 CLI 工具中，實施零成本的極速 AI 開發！


💡 一、什麼是 FreeLLMAPI？

FreeLLMAPI 是一個開源的 AI Gateway 代理服務。它能幫你聚合 20+ 家廠商（如 Google AI Studio、Groq、Mistral、GitHub Models 等）的免費 API 額度，對外統一暴露標準的 OpenAI 相容端點（/v1）。

其最大的特色為 自動故障轉移（Failover）：當某個平台的免費額度用完或觸發限流時，FreeLLMAPI 會自動切換到下一個可用模型，讓你的 CLI 工具持續流暢運作。



🚀 二、FreeLLMAPI 本地部署與使用 quickstart

        請參考 FreeLLMAPI 介紹：聚合 20+ 家 AI 廠商免費額度，打造單一 OpenAI 兼容端點！

🛠️ 三、各大 CLI 的安裝與 FreeLLMAPI 設定教學

最建議的方法是讓 AI 幫你安裝與設定，例如:幫我設定讓 Codex CLI 能使用 FreeLLMAPI。但， AI 有時會出錯，下面為您整理測試過的各大主流 AI CLI 工具的安裝步驟與介接 FreeLLMAPI 的方式。建議一定要記下來改了哪些設定，之後想用回原廠的設定，才知道如何修改。

1. OpenAI Codex CLI

     OpenAI 官方推出的本地程式碼 Agent，具備互動式 TUI 與工具執行權限。


  • 安裝方法：

             npm install -g @openai/codex


  • 使用 FreeLLMAPI 的設定方法：

          建立（或修改）：

            C:\Users\USER\.codex\config.toml

          內容：

             model = "auto"
              model_provider = "freellmapi"
             approval_policy = "on-request"
             sandbox_mode = "workspace-write"
             [model_providers.freellmapi]
             name = "FreeLLMAPI"
             base_url = "http://127.0.0.1:3001/v1"   # 請依 FreeLLMAPI 官方提供的實際 Endpoint 調整
             env_key = "FREELLMAPI_API_KEY"
             wire_api = "responses"
             max_retries = 1                                      # 新增此行：限制最多重試 1 次 (也可設為 0)
             request_timeout = 120                           # （可選）設定單次請求超時秒數，避免持續等待
     

  • Codex CLI 啟動命令 (Start) :

             codex    

  • 對 Codex 桌面版的影響
          似乎 Codex 桌面版也會讀取 C:\Users\USER\.codex\config.toml ，所以使用者帳號也一併被改成 FreeLLMAPI 了，請注意這點!

 


 

2. Opencode CLI

是一個開源代理，幫助你在終端編寫程式碼。



             npm install -g opencode-ai


  • 使用 FreeLLMAPI 的設定方法：

            
               建立（或修改）：
            

                C:\Users\user\.opencode\package.json

            
               內容：

{
  "$schema": "https://opencode.ai/config.json",
  "model": "freellmapi/auto",
  "provider": {
    "freellmapi": {
      "name": "FreeLLMAPI",
      "npm": "@ai-sdk/openai-compatible",
      "options": {
        "baseURL": "http://127.0.0.1:3001/v1",
        "apiKey": "{env:FREELLMAPI_API_KEY}"
      },
      "models": {
        "auto": {
          "name": "FreeLLM Auto Model",
          "limit": {
            "context": 128000,
            "output": 8192
          }
        }
      }
    }
  }
}


  • Opencode CLI 啟動命令 (Start) :

            opencode

  • 對 Opencode 桌面版的影響
          似乎 Opencode 桌面版也會讀取 C:\Users\user\.opencode\package.json ，所以使用者帳號也一併被改成 FreeLLMAPI 了，請注意這點!




3. Pi (pi-mono)

極簡、彈性極高且支援 MCP 與自訂 Skill 的輕量級終端 Agent。



             npm install -g --ignore-scripts @earendil-works/pi-coding-agent


  • 使用 FreeLLMAPI 的設定方法：


          建立（或修改）：

                C:\Users\user\.pi\agent\models.json

             內容：

{
  "providers": {
    "freellmapi": {
      "name": "FreeLLMAPI",
      "style": "openai",
  "api": "openai-completions",
      "baseUrl": "http://127.0.0.1:3001/v1",
      "apiKey": "${FREELLMAPI_API_KEY}",
      "models": [
        {
          "id": "auto",
          "name": "FreeLLM Auto Model",
          "contextWindow": 128000,
          "maxOutputTokens": 8192,
          "input": ["text"]
        }
      ]
    }
  }
}


  • Pi CLI 啟動命令 (Start) :


            pi

4. Claude Code CLI

因為有另一種比較方便於 Claude Code 切換免費 model 的 Jan，這邊就暫時沒有改換成 FreeLLMAPI 。


使用 Jan 不會影響  Claude Code 桌面版使用第 3 方 LLM provider 的設定，設定方法可參考




5. Antigravity CLI and GitHub Copilot CLI

    因為這2種有 pro 帳號就沒有改換成 FreeLLMAPI 。

6. 待續............



💡 總結


透過 FreeLLMAPI 的本地代理，原本分散且有限制的各家免費 API 額度被有效聚合成一個強大的「免費算力池」。不論你習慣用哪一款 CLI Agent，只要將其 Base URL 指向 http://localhost:3001/v1 ，apiKey 指向 FREELLMAPI_API_KEY ，就能享有免費的開發體驗！


張貼者： 於
標籤：

沒有留言:

張貼留言

訂閱： 張貼留言 (Atom)