LLM 提供商指南
LibreFang 包含全面的模型目录,覆盖 6 个原生 LLM 驱动、32 个提供商、90+ 个内置模型。
快速设置
# 选择一个提供商 - 设置环境变量即可
export GEMINI_API_KEY="your-key" # 免费额度可用
export GROQ_API_KEY="your-key" # 免费额度可用
export ANTHROPIC_API_KEY="your-key"
export OPENAI_API_KEY="your-key"
LibreFang 在启动时自动检测哪些提供商已配置 API 密钥。
推荐: Groq 和 Gemini 提供免费额度,适合测试和开发。
提供商参考
1. Anthropic
| 属性 | 值 |
|---|---|
| 显示名称 | Anthropic |
| 驱动 | 原生 Anthropic (Messages API) |
| 环境变量 | ANTHROPIC_API_KEY |
| 基础 URL | https://api.anthropic.com |
| 免费额度 | 无 |
| 模型数 | 3 |
可用模型:
claude-opus-4-20250514(旗舰)claude-sonnet-4-20250514(智能)claude-haiku-4-5-20251001(快速)
2. OpenAI
| 属性 | 值 |
|---|---|
| 显示名称 | OpenAI |
| 驱动 | OpenAI 兼容 |
| 环境变量 | OPENAI_API_KEY |
| 基础 URL | https://api.openai.com/v1 |
| 免费额度 | 无 |
| 模型数 | 6 |
可用模型:
gpt-4.1(旗舰)gpt-4o(智能)o3-mini(智能)gpt-4.1-mini(平衡)gpt-4o-mini(快速)gpt-4.1-nano(快速)
3. Google Gemini
| 属性 | 值 |
|---|---|
| 显示名称 | Google Gemini |
| 驱动 | 原生 Gemini |
| 环境变量 | GEMINI_API_KEY 或 GOOGLE_API_KEY |
| 基础 URL | https://generativelanguage.googleapis.com |
| 免费额度 | 有 |
| 模型数 | 5 |
4. Groq
| 属性 | 值 |
|---|---|
| 显示名称 | Groq |
| 驱动 | OpenAI 兼容 |
| 环境变量 | GROQ_API_KEY |
| 基础 URL | https://api.groq.com/openai/v1 |
| 免费额度 | 有 |
| 模型数 | 8 |
5. DeepSeek
| 属性 | 值 |
|---|---|
| 显示名称 | DeepSeek |
| 驱动 | OpenAI 兼容 |
| 环境变量 | DEEPSEEK_API_KEY |
| 基础 URL | https://api.deepseek.com/v1 |
| 免费额度 | 有 |
| 模型数 | 3 |
6. Ollama (本地)
| 属性 | 值 |
|---|---|
| 显示名称 | Ollama |
| 驱动 | OpenAI 兼容 |
| 环境变量 | 无需 |
| 基础 URL | http://localhost:11434/v1 |
| 免费额度 | 本地运行 |
| 模型数 | 取决于本地安装 |
7. ChatGPT (会话认证)
| 属性 | 值 |
|---|---|
| 显示名称 | ChatGPT (Session Auth) |
| 驱动 | ChatGPT 会话驱动 |
| 环境变量 | CHATGPT_SESSION_TOKEN |
| 基础 URL | https://chatgpt.com/backend-api |
| 免费额度 | 使用你的 ChatGPT 订阅 |
| 模型数 | 5 |
设置:
- 运行
librefang auth chatgpt通过浏览器会话认证 - 或者:
export CHATGPT_SESSION_TOKEN="your-session-token"
说明: 使用 ChatGPT 内部后端 API,利用你现有的 ChatGPT 订阅 (Plus/Team/Enterprise)。
8. GitHub Copilot
| 属性 | 值 |
|---|---|
| 显示名称 | GitHub Copilot |
| 驱动 | Copilot OAuth 驱动 |
| 环境变量 | GITHUB_TOKEN (自动 OAuth) |
| 基础 URL | https://api.githubcopilot.com |
| 免费额度 | 需要 Copilot 订阅 |
| 模型数 | 2 |
设置:
- 确保你有活跃的 GitHub Copilot 订阅
- 运行
librefang auth copilot通过 GitHub 设备流认证
9. Moonshot (Kimi)
| 属性 | 值 |
|---|---|
| 显示名称 | Moonshot (Kimi) |
| 驱动 | OpenAI 兼容 |
| 环境变量 | MOONSHOT_API_KEY |
| 基础 URL | https://api.moonshot.ai/v1 |
| 别名 | kimi, kimi2 |
| 模型数 | 5 |
可用模型:
kimi-k2.5(旗舰) -- 最新 Kimi 模型kimi-k2(旗舰) -- 强推理能力moonshot-v1-128k(智能) -- 128K 上下文moonshot-v1-32k(平衡)moonshot-v1-8k(快速)
10. Qwen (通义千问)
| 属性 | 值 |
|---|---|
| 显示名称 | Qwen (Alibaba) |
| 驱动 | OpenAI 兼容 |
| 环境变量 | DASHSCOPE_API_KEY |
| 基础 URL | https://dashscope.aliyuncs.com/compatible-mode/v1 |
| 别名 | dashscope, model_studio |
| 模型数 | 11 |
可用模型:
qwen3-235b-a22b(旗舰) -- Qwen3 MoE 235Bqwen-max(旗舰)qwen-plus(智能)qwen-coder-plus(智能) -- 代码专用qwen-long(平衡) -- 100万上下文窗口qwen-turbo(快速)
11. 智谱 AI (GLM)
| 属性 | 值 |
|---|---|
| 显示名称 | Zhipu AI (GLM) |
| 驱动 | OpenAI 兼容 |
| 环境变量 | ZHIPU_API_KEY |
| 基础 URL | https://open.bigmodel.cn/api/paas/v4 |
| 别名 | glm |
| 模型数 | 6 |
可用模型:
glm-5-20250605(旗舰) -- 最新 GLM-5glm-4-plus(智能) -- 128K 上下文glm-4-long(平衡) -- 100万上下文窗口glm-4-flash(快速) -- 免费
说明: GLM-4 Flash 完全免费,适合开发和测试。
12. MiniMax
| 属性 | 值 |
|---|---|
| 显示名称 | MiniMax (International) |
| 驱动 | OpenAI 兼容 |
| 环境变量 | MINIMAX_API_KEY |
| 基础 URL | https://api.minimax.io/v1 |
| 模型数 | 6 |
13. MiniMax (国内)
| 属性 | 值 |
|---|---|
| 显示名称 | MiniMax (China) |
| 驱动 | OpenAI 兼容 |
| 环境变量 | MINIMAX_CN_API_KEY |
| 基础 URL | https://api.minimaxi.com/v1 |
| 模型数 | 6 |
说明: 国内版本的 MiniMax,服务器位于中国大陆。
14. 百度千帆 (ERNIE)
| 属性 | 值 |
|---|---|
| 显示名称 | Baidu Qianfan |
| 驱动 | OpenAI 兼容 |
| 环境变量 | QIANFAN_API_KEY |
| 基础 URL | https://qianfan.baidubce.com/v2 |
| 别名 | baidu |
| 模型数 | 3 |
可用模型:
ernie-4.5-8k(智能) -- 百度旗舰模型ernie-4.0-turbo-8k(平衡)ernie-speed-128k(快速) -- 免费,128K 上下文
15. 火山引擎 (豆包)
| 属性 | 值 |
|---|---|
| 显示名称 | Volcano Engine (Doubao) |
| 驱动 | OpenAI 兼容 |
| 环境变量 | VOLCENGINE_API_KEY |
| 基础 URL | https://ark.cn-beijing.volces.com/api/v3 |
| 别名 | doubao |
| 模型数 | 4 |
可用模型:
doubao-seed-1-6-251015(智能) -- 豆包旗舰,256K 上下文doubao-seed-code(智能) -- 代码专用doubao-seed-2-0-lite(平衡)doubao-seed-2-0-mini(快速)
说明: 火山引擎是字节跳动的云平台。豆包是字节跳动自研的大语言模型。
16. Venice.ai
| 属性 | 值 |
|---|---|
| 显示名称 | Venice.ai |
| 驱动 | OpenAI 兼容 |
| 环境变量 | VENICE_API_KEY |
| 基础 URL | https://api.venice.ai/api/v1 |
| 模型数 | 3 |
17. Chutes.ai
| 属性 | 值 |
|---|---|
| 显示名称 | Chutes.ai |
| 驱动 | OpenAI 兼容 |
| 环境变量 | CHUTES_API_KEY |
| 基础 URL | https://llm.chutes.ai/v1 |
| 模型数 | 5 |
说明: 提供开源模型的无服务器推理服务,价格有竞争力。
18. Z.AI
| 属性 | 值 |
|---|---|
| 显示名称 | Z.AI |
| 驱动 | OpenAI 兼容 |
| 环境变量 | ZHIPU_API_KEY |
| 基础 URL | https://api.z.ai/api/paas/v4 |
| 别名 | z.ai |
说明: Z.AI 是智谱 AI 模型的国际端点,共享 ZHIPU_API_KEY。
支持的提供商列表
| 提供商 | 驱动 | 免费额度 |
|---|---|---|
| Anthropic | 原生 | ❌ |
| OpenAI | OpenAI 兼容 | ❌ |
| Gemini | 原生 | ✅ |
| Groq | OpenAI 兼容 | ✅ |
| DeepSeek | OpenAI 兼容 | ✅ |
| OpenRouter | OpenAI 兼容 | ❌ |
| Together | OpenAI 兼容 | ❌ |
| Mistral | OpenAI 兼容 | ❌ |
| Fireworks | OpenAI 兼容 | ❌ |
| Cohere | OpenAI 兼容 | ❌ |
| Perplexity | OpenAI 兼容 | ❌ |
| xAI | OpenAI 兼容 | ❌ |
| AI21 | OpenAI 兼容 | ❌ |
| Cerebras | OpenAI 兼容 | ✅ |
| SambaNova | OpenAI 兼容 | ❌ |
| HuggingFace | OpenAI 兼容 | ✅ |
| Replicate | OpenAI 兼容 | ❌ |
| ChatGPT | 会话驱动 | 订阅 |
| GitHub Copilot | OAuth 驱动 | 订阅 |
| Moonshot (Kimi) | OpenAI 兼容 | ❌ |
| Qwen (通义千问) | OpenAI 兼容 | ✅ |
| 智谱 AI (GLM) | OpenAI 兼容 | ✅ |
| MiniMax | OpenAI 兼容 | ❌ |
| MiniMax (国内) | OpenAI 兼容 | ❌ |
| 百度千帆 (ERNIE) | OpenAI 兼容 | ✅ |
| 火山引擎 (豆包) | OpenAI 兼容 | ❌ |
| Venice.ai | OpenAI 兼容 | ❌ |
| Chutes.ai | OpenAI 兼容 | ❌ |
| Z.AI | OpenAI 兼容 | ❌ |
| Ollama | OpenAI 兼容 | 本地 |
| vLLM | OpenAI 兼容 | 本地 |
| LM Studio | OpenAI 兼容 | 本地 |
模型目录
按能力分类
旗舰模型:
- claude-opus-4-20250514
- gpt-4.1
智能模型:
- claude-sonnet-4-20250514
- gpt-4o
- gemini-2.0-flash-exp
快速模型:
- claude-haiku-4-5-20251001
- gpt-4o-mini
- gpt-4.1-nano
- llama-3.1-70b-versatile
每个 Agent 的模型覆盖
可以在 agent 级别覆盖默认模型:
[model]
provider = "groq"
model = "llama-3.3-70b-versatile"
模型路由
ModelRouter 根据任务复杂度自动选择模型:
- 简单任务 → 快速/便宜模型
- 复杂任务 → 智能/昂贵模型
成本追踪
LibreFang 跟踪每个模型的使用成本:
# 查看全局预算
curl http://127.0.0.1:4200/api/budget
# 查看每个 agent 的成本
curl http://127.0.0.1:4200/api/budget/agents
后备提供商
配置后备提供商以提高可靠性:
[[fallback_providers]]
provider = "groq"
model = "llama-3.1-70b-versatile"
api_key_env = "GROQ_API_KEY"
API 端点
# 列出可用模型
curl http://127.0.0.1:4200/api/models
# 列出提供商
curl http://127.0.0.1:4200/api/providers