FreeLLMAPI 一键免费 LLM API10 分钟部署一个 OpenAI 兼容接口【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapiFreeLLMAPI 把 34 家提供商的免费额度合并成一个 OpenAI 兼容的 /v1 接口聚合出约每月 74 亿免费 token 的路由池。三条部署路径任选其一10 分钟可以拿到第一条免费回复并把现有代码接上来。先说结论它解决什么问题数据是多少各家免费额度单独看都不够跑一个项目密钥分散、限流规则各异、接口互不通用。FreeLLMAPI 把这些免费层合并成一个本地池子你只调用一个接口由它完成选模和切换。核心数据34 家 AI 提供商474 个模型家族635 个免费模型端点折合每月约 7.4B约 74 亿免费 token请求打本地 3001 端口的 /v1 接口路由器实时选模某家限流或故障自动切到下一家提供商密钥用 AES-256-GCM 加密存在本地 SQLite仪表盘上不出现明文跑起来三种部署方式任选最快路径官方一行命令需 Dockercurl -fsSL https://freellmapi.co/install.sh | bash脚本会创建~/freellmapi目录、生成加密密钥、拉取镜像并启动容器。命令可重复执行重跑只升级到最新版不丢配置。✅ 成功判据浏览器打开 http://localhost:3001 能进入后台即部署成功。要更可控Docker Composegit clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi ENCRYPTION_KEY$(openssl rand -hex 32) printf ENCRYPTION_KEY%s\nPORT3001\n $ENCRYPTION_KEY .env docker compose up -dSQLite 持久化在具名卷里。升级时保持.env中的ENCRYPTION_KEY和数据卷不变密钥才不会解不开。细节见安装与部署文档。零命令行桌面版桌面版把路由器和仪表盘整体装进系统托盘不需要设置账号密码仪表盘自动登录托盘弹窗里能看实时请求统计。macOS 装.dmgWindows 装.exe从 Releases 下载即可。拿到第一条免费回复后台三件事加 Playground 验证部署完成后进密钥页做三件事填入提供商密钥Google AI Studio、Groq、Mistral或任意 OpenAI 兼容端点调整Fallback Chain回退链顺序排靠前的模型优先被选中复制页头的统一密钥freellmapi-前缀之后所有应用只用这一把然后打开Playground页打一句话。回复气泡上会标出本次实际由哪家提供商、哪个模型应答以及延迟。看到这些信息变化说明路由确实在工作。 第一条免费回复到手。接入现有代码改 base_url 与 api_key 两个参数走 OpenAI 协议的现有代码只改两处base_url指向本地 3001 端口的 /v1api_key换成统一密钥。from openai import OpenAI client OpenAI(base_urlhttp://localhost:3001/v1, api_keyfreellmapi-你的统一密钥) resp client.chat.completions.create( modelauto, messages[{role: user, content: 一句话介绍你自己}], ) print(resp.choices[0].message.content)model填auto让路由器自选也可以用auto:fast、auto:smart、auto:reliable偏重速度或智能或直接写具体模型名。Ollama、vLLM、LM Studio 这类本地模型可以按 OpenAI 兼容端点挂进密钥页的自定义端点和免费池一起参与路由。流式、工具调用、Embedding、图像/语音生成、Anthropic 协议面等完整接口见 REST API 参考。原理速览请求在免费池里怎么流转FreeLLMAPI 不做推理只负责转发和切换。一次请求的流转分四步三维评分路由器按可靠性、速度、智能给池内所有已启用模型打分评分基于近 7 天、带 2 天半衰期的实测成功率、吞吐和首字节时间高分接单分数最高的模型接单响应带上X-Routed-Via: 提供商/模型头可据此核对实际应答方冷却切换命中 429 或 5xx 时该密钥进入冷却升级阶梯为 2 分钟 → 10 分钟 → 1 小时 → 1 天请求自动落到链路上下一个额度记账每次调用计入按密钥的额度统计保证始终停在各家免费上限之内选模逻辑在 server/src/services/router.ts429/5xx 触发冷却重试的循环在 server/src/lib/fallback-loop.ts。跑顺之后三个页面管日常密钥页提供商密钥、回退链顺序、统一密钥都在这一页管理Models页路由透视每个模型带可靠性、速度、智能三个实时评分列表顺序即当前真实的路由顺序整池月度 token 预算也在这里Analytics页请求量、成功率、token 进出、按提供商拆分的明细延迟给到 p50/p95 和首 token 时间分析数据默认保留 90 天⚠️ 高频问题四条忘记密码点登录页Forgot password?重置码打印在服务器日志里15 分钟内有效局域网其他设备想访问默认只绑127.0.0.1用HOST_BIND0.0.0.0启动暴露到网络仅限可信网络日志位置Docker 用docker compose logs -f freellmapi桌面版在托盘里选Open Logs Folder密钥安全提供商密钥 AES-256-GCM 加密存本地 SQLite每次请求时才在内存中解密边界要说清这套免费池定位是个人实验与学习免费层没有 SLA。真要上线的产品发布前把密钥池换成付费 API。接下来可以做的三件事把 Claude Code、Codex CLI、Cline 这类编程智能体指过来客户端与编程智能体文档 里有现成配方一条 setup 命令配好请求虚拟模型fusion多个免费模型并行起草再由裁判模型合成一份答案参与模型组在仪表盘Fusion页配置想读源码从 路由与评分架构文档 入手配合 server/src/services/router.ts 看评分怎么算【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考