OpenClaw 实战：GPUStack 本地自定义模型接入 TaoToken 统一 Key 配置指南

1. 为什么要在 OpenClaw 里接 GPUStack 本地模型

OpenClaw 是一个支持工具调用、记忆和 workspace 的 agent 框架，它本身不绑定任何模型供应商，只要对方提供 OpenAI 兼容接口就能接。GPUStack 正好是一个把本地显卡资源统一调度、对外暴露 OpenAI 兼容 API 的推理平台。把这两者拼在一起，你得到的是：数据不出局域网、没有按 token 计费、延迟取决于你自己的网线和显卡、模型想换就换（Qwen、Llama、DeepSeek、Gemma 都行）。

但真正动手时会发现，OpenClaw 的 provider 配置项比想象中细，GPUStack 的接口路径又分/v1和/v1-openai两种，上下文长度对不上就直接 400。这篇就按「先验证后端、再写配置、最后排障」的顺序，把 OpenClaw + GPUStack + OpenAI 兼容接口这条链路一次性跑通。适合已经部署好 GPUStack、能打开 OpenClaw dashboard、手里有至少一个本地模型（比如 qwen2.5:14b-instruct）的开发者。

2. 前置准备：TaoToken 统一 Key 与 GPUStack 侧确认

在写 OpenClaw 配置之前，先把两件事定下来：一是 GPUStack 的接口地址和模型名，二是统一走 TaoToken 的 Key 通道，避免每个本地服务各管一套密钥。

GPUStack 侧你需要确认三个值。第一是服务地址，形如http://你的内网IP:端口，注意不要带路径。第二是接口前缀，GPUStack 官方推荐/v1-openai，部分版本也支持/v1，两个都试一下哪个通。第三是模型 id，必须和 GPUStack 模型列表里显示的完全一致，包括冒号和大小写，比如qwen2.5:14b-instruct不能写成qwen2.5-14b-instruct。

TaoToken 这边的作用是给 OpenClaw 提供一个统一的 Key 与 API 通道。你可以先在控制台创建一个 API Key，后续 OpenClaw 的 provider 里apiKey字段就填它，这样本地模型和云端模型可以共用同一套鉴权入口，切换时不用改代码。相关入口：

• 模型对话体验：https://taotoken.net/models?utm_source=taotoken_aicg_blog_end&utm_content=model_chat&utm_campaign=rewrite
• 创建 API Key：https://taotoken.net/api-keys?utm_source=taotoken_aicg_blog_end&utm_content=api_keys&utm_campaign=rewrite
• 接入文档：https://taotoken.net/doc?utm_source=taotoken_aicg_blog_end&utm_content=doc&utm_campaign=rewrite

注意：GPUStack 如果没设 API Key，OpenClaw 里apiKey填任意非空字符串即可，但生产环境建议在 GPUStack 控制台开启鉴权，避免内网裸奔。

3. 可复制配置：config.toml 骨架与 dashboard 写法

OpenClaw 的 provider 配置写在models.providers下。推荐先用 dashboard 可视化改，确认无误后再落到config.toml，这样出问题好回滚。

3.1 dashboard 可视化配置

启动 dashboard：

openclaw dashboard

浏览器打开对应地址并登录 token，进入 Config → Models → Providers → Add Provider。Provider 名称建议起有意义的名字，比如gpustack。然后粘贴下面这段 JSON，把baseUrl和id换成你自己的：

{ "baseUrl": "http://你的GPUStack地址:端口/v1-openai", "apiKey": "你的TaoToken_API_Key", "api": "openai-completions", "models": [ { "id": "qwen2.5:14b-instruct", "name": "本地 Qwen2.5 14B Instruct", "reasoning": false, "input": ["text"], "contextWindow": 32768, "maxTokens": 8192 } ] }

几个字段的含义值得单独说。api必须是openai-completions，这是 OpenClaw 识别 OpenAI 兼容接口的标识。reasoning强烈建议false，Qwen 系列开了它经常返回空内容。contextWindow必须大于等于 GPUStack 实际支持的上下文，否则历史一长就报 400。maxTokens是单次生成上限，按显存给。

保存后进入 Config → Agents → Defaults → Model，把 primary 改成：

{ "primary": "gpustack/qwen2.5:14b-instruct" }

格式是provider名/模型id，中间用斜杠。保存全部配置后重启 OpenClaw 服务。

3.2 config.toml 命令行写法

如果你习惯脚本化，可以直接用 CLI 写入：

openclaw config set models.providers.gpustack '{ "baseUrl": "http://你的GPUStack地址:端口/v1-openai", "apiKey": "你的TaoToken_API_Key", "api": "openai-completions", "models": [ { "id": "qwen2.5:14b-instruct", "name": "本地 Qwen2.5 14B", "reasoning": false, "input": ["text"], "contextWindow": 32768, "maxTokens": 8192 } ] }' openclaw config set agents.defaults.model.primary "gpustack/qwen2.5:14b-instruct"

对应的config.toml片段长这样，方便你直接对照检查：

[models.providers.gpustack] baseUrl = "http://你的GPUStack地址:端口/v1-openai" apiKey = "你的TaoToken_API_Key" api = "openai-completions" [[models.providers.gpustack.models]] id = "qwen2.5:14b-instruct" name = "本地 Qwen2.5 14B" reasoning = false input = ["text"] contextWindow = 32768 maxTokens = 8192 [agents.defaults.model] primary = "gpustack/qwen2.5:14b-instruct"

提示：contextWindow和 GPUStack 启动参数--max-model-len要一致或更大。GPUStack 默认可能只有 4096 或 8192，这是后面 400 报错的头号原因。

4. 验证请求：先 curl 后端，再测 OpenClaw

配置写完别急着在 OpenClaw 里聊天，先用 curl 单独验证 GPUStack 的 OpenAI 兼容接口是否正常。这一步能帮你把「后端问题」和「OpenClaw 配置问题」分开。

export GPUSTACK_API_KEY=你的GPUStack_API_KEY curl http://你的GPUStack地址:端口/v1-openai/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $GPUSTACK_API_KEY" \ -d '{ "model": "qwen2.5:14b-instruct", "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Hello! Tell me about yourself."} ], "temperature": 0.7, "stream": false }'

返回的 JSON 里如果包含choices[0].message.content字段，说明后端 OK。如果报 401 或 403，检查 Bearer 后面的 Key 是否正确，或者临时去掉 Authorization 头测试。如果报 404，说明路径不对，把/v1-openai/chat/completions换成/v1/chat/completions再试。

后端通了之后，回到 OpenClaw 发一条消息。成功的话你会看到模型正常回复，dashboard 的 Logs 里没有 error。如果 OpenClaw 报错但 curl 正常，问题基本就在 provider 配置的字段上，重点查api类型、baseUrl路径、模型 id 拼写这三处。

5. 本篇常见错排查

5.1 400 Bad Request: request exceeds max tokens

完整报错类似request (70540 tokens) exceeds the model's maximum context length (4096 tokens)。原因是 OpenClaw 把历史对话、workspace 内容、工具输出全塞进请求，而 GPUStack 默认上下文很小。

解决分三步。第一步，在 GPUStack 部署页面编辑模型，Advanced Parameters 里加--max-model-len 32768（按显存选 16384 或 65536），保存后重新部署。第二步，同步把 OpenClaw 配置里的contextWindow改成 32768 或更大。第三步，临时救急可以在聊天界面输入/new新建空会话，或/compact压缩历史，CLI 下用：

openclaw reset --scope sessions --yes

5.2 空回复、不回复

先确认reasoning是不是false，Qwen 系列开了它容易返回空。再确认模型 id 和 GPUStack 列表里完全一致，冒号、大小写都不能错。然后用第 4 节的 curl 再测一次后端。最后看 OpenClaw Logs，dashboard 或终端里都有，具体错误会写在那。

5.3 路径 404 与鉴权 401

404 基本都是baseUrl路径问题，/v1-openai和/v1换着试。401 是 Key 问题，GPUStack 开了鉴权就必须填真实 Key，没开就填任意非空字符串。如果 OpenClaw 里填的是 TaoToken 的 Key，而 GPUStack 又开了自己的鉴权，注意两者不要混用，provider 的apiKey对应的是 GPUStack 那一侧。

5.4 工具调用不生效

OpenClaw 的 agent 能力依赖模型支持 function calling。部分小模型或量化版本对工具调用支持不完整，表现为模型只回文字不触发工具。可以先用code_execution让模型写个简单函数测试，如果一直不触发，换一个工具调用支持更好的模型 id。

6. 长期编码与 Agent 场景的接入建议

如果你打算把 OpenClaw 当长期编码助手或跑自动化 agent，建议开启 aggressive compaction，避免历史无限膨胀：

[compaction] mode = "aggressive"

同时养成定期/new的习惯，尤其是切换任务时。多模型并存也很实用，同一个 provider 下加多个模型 id，随时切换：

[[models.providers.gpustack.models]] id = "qwen2.5:14b-instruct" name = "本地 Qwen2.5 14B" reasoning = false input = ["text"] contextWindow = 32768 maxTokens = 8192 [[models.providers.gpustack.models]] id = "llama3.1:8b-instruct" name = "本地 Llama3.1 8B" reasoning = false input = ["text"] contextWindow = 16384 maxTokens = 4096

长期跑编码和 agent 任务的话，可以了解下 Coding Plan 的额度方案：https://taotoken.net/coding-plan?utm_source=taotoken_aicg_blog_end&utm_content=coding_plan&utm_campaign=rewrite

Claude Code 相关接入参考：https://taotoken.net/claude-code-anthropic?utm_source=taotoken_aicg_blog_end&utm_content=claude_code&utm_campaign=rewrite

控制台统一管理 Key 和用量：https://taotoken.net/console?utm_source=taotoken_aicg_blog_end&utm_content=console&utm_campaign=rewrite

API 基础地址（不加 UTM）：https://taotoken.net/api

整套流程跑下来，核心就三件事：api用openai-completions、baseUrl优先/v1-openai、contextWindow和 GPUStack 的--max-model-len对齐。先用 curl 验后端，再上 OpenClaw，上下文爆了就/new或/compact。把这三条守住，本地模型跑 agent 的链路基本不会翻车。