news 2026/10/19 1:50:43

FreeLLMAPI 上手:把 34 家免费模型接入同一个 OpenAI 兼容接口

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
FreeLLMAPI 上手:把 34 家免费模型接入同一个 OpenAI 兼容接口

FreeLLMAPI 上手:把 34 家免费模型接入同一个 OpenAI 兼容接口

【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi

FreeLLMAPI 把34 家AI 提供商的免费额度接成一路信号,只对外暴露一个 OpenAI 兼容的/v1接口,外加一套聚合路由。可以把它想成一个呼叫中心:你只管拨一个号码,系统按实时评分把通话转给当前状态最好的接线员。哪家被限流,通话直接转给下一位,你这边听不出来。

一条命令能装好吗

能,而且这条命令可以重跑。重跑只升级镜像,不会动你的配置。它会建好~/freellmapi目录、生成加密密钥、拉镜像并启动容器,服务和仪表盘一起跑在 3001 端口:

curl -fsSL https://freellmapi.co/install.sh | bash

装完别急着写代码。浏览器打开http://localhost:3001,进密钥页做三件事:把各家提供商密钥填进去;把回退链的顺序调成你喜欢的排班,排前的优先接单;复制页头的统一密钥,以freellmapi-开头,以后所有应用只用这一把。真实密钥用 AES-256-GCM 加密存在本地 SQLite,界面上不露明文。

然后去Playground页发一句话。✅ 回复气泡上会标出实际由哪家提供商、哪个模型应答,还有延迟。路由确实在转,一眼就能看出来。

不想碰 Docker?桌面版是个单文件安装包,装上就有托盘弹窗,仪表盘自动登录,实时请求统计直接弹在眼前。

429 打过来的时候内部发生了什么

该密钥进入冷却(暂时跳过这家),请求自动转给回退链的下一个位置。冷却时长按阶梯升级:2 分钟、10 分钟、1 小时、1 天。连续失败一次比一次等得久,402 欠费这类硬错误直接冷却一整天。

评分看最近 7 天的实测数据,成功率、吞吐、首字节时间都算在内,带 2 天半衰期:越近的调用权重越大,老数据自动贬值。选模核心在 路由服务,失败切换循环在 fallback-loop。别问怎么知道的,我盯着日志看了一个下午。

接入代码要改几行

两行。现有代码只要走 OpenAI 协议,把base_url指到本地 3001 的/v1,api_key换成统一密钥就行。model写auto:smart,路由器会偏向智能评分最高的那家:

const res = await fetch('http://localhost:3001/v1/chat/completions', { method: 'POST', headers: { 'Authorization': `Bearer <你的统一密钥>`, 'Content-Type': 'application/json', }, body: JSON.stringify({ model: 'auto:smart', messages: [{ role: 'user', content: '一句话介绍你自己' }], }), }); const data = await res.json(); console.log(data.choices[0].message.content);

不想引依赖的话,curl 一个样:

curl http://localhost:3001/v1/chat/completions \ -H "Authorization: Bearer <你的统一密钥>" \ -H "Content-Type: application/json" \ -d '{"model":"auto:smart","messages":[{"role":"user","content":"一句话介绍你自己"}]}'

响应头里的X-Routed-Via会写清楚这次是谁应答的。流式、工具调用、Embedding、图像生成、Anthropic 协议面都有,看 REST API 参考。

装完第一个该点的按钮在哪

密钥页。装完点它,十分钟内该填的填完。

不想碰命令行怎么办

两个退路。桌面版前面说过了。另一个是 Compose 手控:克隆仓库、生成密钥、写进.env,然后启动。SQLite 落在具名卷里,升级时保持ENCRYPTION_KEY和卷不动,密钥就解不开锁:

git clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi # 生成 64 位十六进制加密密钥 ENCRYPTION_KEY="$(openssl rand -hex 32)" printf "ENCRYPTION_KEY=%s\nPORT=3001\n" "$ENCRYPTION_KEY" > .env docker compose up -d

细节在 安装文档。

日常运维记四条就够

  • 忘记密码点登录页Forgot password?,重置码打印在服务器日志里,15 分钟有效
  • 局域网想访问?默认只绑127.0.0.1,加HOST_BIND=0.0.0.0再启动,仅限可信网络 ⚠️
  • 日志:docker compose logs -f freellmapi;桌面版托盘里打开日志文件夹
  • 提供商密钥 AES-256-GCM 加密存本地 SQLite,请求时才在内存解密

免费层没有 SLA,这套东西定位是个人实验和学习。真要上线的产品,发布前把密钥池换成付费 API。

装完这三件事可以马上做

  • 把 Claude Code、Cline 这类编程智能体的后端指过来,客户端接入文档 里有一键 setup 命令
  • 在Fusion页配一组模型,然后请求fusion虚拟模型:几家免费模型并行起草,裁判模型合成一份答案
  • 打开Models页看当前调度顺序,顺手给某家模型加权重试它,评分架构文档 讲清楚分数怎么算

【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/19 1:48:20

酷秒神马9.0源码深度解析:从架构重构到任务调度与缓存设计

先说结论&#xff1a;酷秒神马9.0版2026最新源码系统&#xff0c;从代码层面看&#xff0c;不是一次小修小补的迭代。我拿到这套源码包后做的第一件事不是急着跑Demo&#xff0c;而是直接看目录结构和核心依赖的变化。整套系统的主版本号从8.x跳到9.0&#xff0c;意味着有非兼容…

作者头像 李华
网站建设 2026/10/19 1:47:40

macOS 安装 MySQL 完整教程

macOS 安装 MySQL 完整教程&#xff08;Homebrew&#xff09; 本文记录在 macOS 上用 Homebrew 安装 MySQL 的完整过程&#xff0c;包含国内网络下载失败的解决方法&#xff0c;以及安装后如何启动服务、设置密码。本机环境&#xff1a;macOS 26.3.1&#xff0c;Homebrew 6.0.1…

作者头像 李华
网站建设 2026/10/19 1:47:19

A comprehensive study of LLM-based argument classification: from LLAMA through GPT-4o to Deepseek-R1

文章主要内容总结 本文是一项关于基于大型语言模型(LLMs)的论点分类(Argument Classification)的综合性研究,核心内容包括: 研究背景与目标:论点挖掘(Argument Mining, AM)是跨学科领域,旨在自动识别论点组件(如前提、主张)及组件间关系(支持、反对、中立)。随着…

作者头像 李华
网站建设 2026/10/19 1:46:34

STM32+华为云IoT+Qt全链路智能家居系统设计

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/10/19 1:46:03

STM32F103定时器寄存器深度解析:从计数原理到PWM与输入捕获实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/10/19 1:43:40

Context-Mode:统一管理运行环境与请求上下文,告别散落判断

团队最近接了一个跨平台的项目&#xff0c;需求不算复杂&#xff0c;但前后端加在一起&#xff0c;逻辑跑起来之后问题不少。数据查不到、权限对不上、页面行为一会儿一个样&#xff0c;排查到最后发现大部分问题的根子&#xff0c;都出在“运行环境上下文”这一层。当时我把这…

作者头像 李华