FreeLLMAPI 上手:把 34 家免费模型接入同一个 OpenAI 兼容接口
【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi
FreeLLMAPI 把34 家AI 提供商的免费额度接成一路信号,只对外暴露一个 OpenAI 兼容的/v1接口,外加一套聚合路由。可以把它想成一个呼叫中心:你只管拨一个号码,系统按实时评分把通话转给当前状态最好的接线员。哪家被限流,通话直接转给下一位,你这边听不出来。
一条命令能装好吗
能,而且这条命令可以重跑。重跑只升级镜像,不会动你的配置。它会建好~/freellmapi目录、生成加密密钥、拉镜像并启动容器,服务和仪表盘一起跑在 3001 端口:
curl -fsSL https://freellmapi.co/install.sh | bash装完别急着写代码。浏览器打开http://localhost:3001,进密钥页做三件事:把各家提供商密钥填进去;把回退链的顺序调成你喜欢的排班,排前的优先接单;复制页头的统一密钥,以freellmapi-开头,以后所有应用只用这一把。真实密钥用 AES-256-GCM 加密存在本地 SQLite,界面上不露明文。
然后去Playground页发一句话。✅ 回复气泡上会标出实际由哪家提供商、哪个模型应答,还有延迟。路由确实在转,一眼就能看出来。
不想碰 Docker?桌面版是个单文件安装包,装上就有托盘弹窗,仪表盘自动登录,实时请求统计直接弹在眼前。
429 打过来的时候内部发生了什么
该密钥进入冷却(暂时跳过这家),请求自动转给回退链的下一个位置。冷却时长按阶梯升级:2 分钟、10 分钟、1 小时、1 天。连续失败一次比一次等得久,402 欠费这类硬错误直接冷却一整天。
评分看最近 7 天的实测数据,成功率、吞吐、首字节时间都算在内,带 2 天半衰期:越近的调用权重越大,老数据自动贬值。选模核心在 路由服务,失败切换循环在 fallback-loop。别问怎么知道的,我盯着日志看了一个下午。
接入代码要改几行
两行。现有代码只要走 OpenAI 协议,把base_url指到本地 3001 的/v1,api_key换成统一密钥就行。model写auto:smart,路由器会偏向智能评分最高的那家:
const res = await fetch('http://localhost:3001/v1/chat/completions', { method: 'POST', headers: { 'Authorization': `Bearer <你的统一密钥>`, 'Content-Type': 'application/json', }, body: JSON.stringify({ model: 'auto:smart', messages: [{ role: 'user', content: '一句话介绍你自己' }], }), }); const data = await res.json(); console.log(data.choices[0].message.content);不想引依赖的话,curl 一个样:
curl http://localhost:3001/v1/chat/completions \ -H "Authorization: Bearer <你的统一密钥>" \ -H "Content-Type: application/json" \ -d '{"model":"auto:smart","messages":[{"role":"user","content":"一句话介绍你自己"}]}'响应头里的X-Routed-Via会写清楚这次是谁应答的。流式、工具调用、Embedding、图像生成、Anthropic 协议面都有,看 REST API 参考。
装完第一个该点的按钮在哪
密钥页。装完点它,十分钟内该填的填完。
不想碰命令行怎么办
两个退路。桌面版前面说过了。另一个是 Compose 手控:克隆仓库、生成密钥、写进.env,然后启动。SQLite 落在具名卷里,升级时保持ENCRYPTION_KEY和卷不动,密钥就解不开锁:
git clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi # 生成 64 位十六进制加密密钥 ENCRYPTION_KEY="$(openssl rand -hex 32)" printf "ENCRYPTION_KEY=%s\nPORT=3001\n" "$ENCRYPTION_KEY" > .env docker compose up -d细节在 安装文档。
日常运维记四条就够
- 忘记密码点登录页Forgot password?,重置码打印在服务器日志里,15 分钟有效
- 局域网想访问?默认只绑
127.0.0.1,加HOST_BIND=0.0.0.0再启动,仅限可信网络 ⚠️ - 日志:
docker compose logs -f freellmapi;桌面版托盘里打开日志文件夹 - 提供商密钥 AES-256-GCM 加密存本地 SQLite,请求时才在内存解密
免费层没有 SLA,这套东西定位是个人实验和学习。真要上线的产品,发布前把密钥池换成付费 API。
装完这三件事可以马上做
- 把 Claude Code、Cline 这类编程智能体的后端指过来,客户端接入文档 里有一键 setup 命令
- 在Fusion页配一组模型,然后请求
fusion虚拟模型:几家免费模型并行起草,裁判模型合成一份答案 - 打开Models页看当前调度顺序,顺手给某家模型加权重试它,评分架构文档 讲清楚分数怎么算
【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考