Node.js 服务端应用接入 Taotoken 多模型 API 的异步调用示例-开发者社区

🚀 告别海外账号与网络限制！稳定直连全球优质大模型，限时半价接入中。 👉 点击领取海量免费额度

Node.js 服务端应用接入 Taotoken 多模型 API 的异步调用示例

对于 Node.js 后端开发者而言，将大模型能力集成到服务端应用中是常见的需求。Taotoken 平台提供的 OpenAI 兼容 API 使得这一过程变得标准化和简便。本文将介绍如何在 Node.js 服务端项目中，通过配置openai包来异步调用 Taotoken 的多模型 API，并处理不同类型的响应。

1. 项目初始化与环境配置

开始之前，你需要一个 Node.js 项目。如果你还没有，可以通过npm init -y快速初始化。核心的依赖是 OpenAI 官方 Node.js SDK。

通过 npm 或 yarn 安装它：

npm install openai

为了安全地管理 API 密钥，强烈建议使用环境变量。你可以在项目根目录创建一个.env文件，或者在你的服务器环境（如 Docker、Kubernetes 或 PaaS 平台）中配置。在.env文件中，添加你的 Taotoken API Key：

TAOTOKEN_API_KEY=your_taotoken_api_key_here

请将your_taotoken_api_key_here替换为你在 Taotoken 控制台创建的实际 API Key。在代码中，我们可以使用dotenv包来加载这些变量，或者直接通过process.env访问（如果环境已预设）。

2. 配置 OpenAI 客户端并发送请求

配置 SDK 的关键在于正确设置baseURL。对于 Taotoken 平台，你需要将baseURL指向https://taotoken.net/api。SDK 会自动在此基础 URL 上拼接/v1/chat/completions等路径。

下面是一个完整的异步函数示例，它创建客户端并调用聊天补全接口：

import OpenAI from ‘openai’; // 如果使用 CommonJS，则使用：const OpenAI = require(‘openai’); // 初始化客户端 const client = new OpenAI({ apiKey: process.env.TAOTOKEN_API_KEY, // 从环境变量读取密钥 baseURL: ‘https://taotoken.net/api’, // 指定 Taotoken 的端点 }); async function callTaotokenChatCompletion(messages, modelName = ‘claude-sonnet-4-6’) { try { const completion = await client.chat.completions.create({ model: modelName, // 模型 ID 可在 Taotoken 模型广场查看 messages: messages, // 对话消息数组 stream: false, // 非流式响应，设为 true 则开启流式 // 其他可选参数，如 temperature, max_tokens 等 }); // 提取并返回助理的回复内容 const assistantReply = completion.choices[0]?.message?.content; return assistantReply; } catch (error) { console.error(‘调用 Taotoken API 时发生错误:’, error); // 根据业务需求进行错误处理，例如重试、降级或抛出错误 throw error; } } // 使用示例 const exampleMessages = [ { role: ‘user’, content: ‘请用一句话介绍 Node.js 在服务端开发中的优势。’ } ]; (async () => { const reply = await callTaotokenChatCompletion(exampleMessages); console.log(‘模型回复:’, reply); })();

在上面的代码中，model参数的值需要替换为你在 Taotoken 模型广场中选择的模型 ID。平台提供了多种模型，你可以根据任务需求（如代码生成、文本总结、复杂推理）进行选择。

3. 处理流式响应

对于需要实时输出或处理长文本的场景，流式响应（streaming）非常有用。它将回复拆分成多个 chunk 逐步返回，可以提升用户体验的感知速度。

配置流式响应只需将stream参数设为true，然后监听返回的迭代器对象：

async function callTaotokenWithStreaming(messages, modelName, onChunkReceived) { try { const stream = await client.chat.completions.create({ model: modelName, messages: messages, stream: true, }); let fullContent = ‘’; for await (const chunk of stream) { const content = chunk.choices[0]?.delta?.content || ‘’; fullContent += content; // 调用回调函数，实时处理每个内容块（例如发送给 WebSocket 客户端） if (onChunkReceived && content) { onChunkReceived(content); } } return fullContent; // 返回完整的聚合内容 } catch (error) { console.error(‘流式调用失败:’, error); throw error; } } // 使用示例：模拟逐块打印 (async () => { await callTaotokenWithStreaming( [{ role: ‘user’, content: ‘写一个简单的 Node.js HTTP 服务器示例。’ }], ‘claude-sonnet-4-6’, (chunk) => process.stdout.write(chunk) // 逐块打印到控制台 ); })();

4. 集成到现有业务逻辑

将上述调用封装成服务类或模块，可以更好地融入你的业务架构。例如，你可以创建一个AIService类，集中管理模型选择、错误重试、日志记录和性能监控。

class AIService { constructor(apiKey, baseURL) { this.client = new OpenAI({ apiKey: apiKey, baseURL: baseURL, }); } async generateResponse(prompt, model, options = {}) { const messages = [{ role: ‘user’, content: prompt }]; const completionOptions = { model, messages, ...options, // 允许覆盖 temperature, max_tokens 等 }; // 这里可以添加重试逻辑、令牌计数、耗时统计等 const startTime = Date.now(); const response = await this.client.chat.completions.create(completionOptions); const endTime = Date.now(); console.log(`调用模型 ${model} 耗时: ${endTime - startTime}ms`); return response.choices[0]?.message?.content; } } // 在应用中使用 const aiService = new AIService(process.env.TAOTOKEN_API_KEY, ‘https://taotoken.net/api’); // 在路由处理器或业务逻辑中调用 app.post(‘/api/chat’, async (req, res) => { const { userMessage, preferredModel } = req.body; try { const aiReply = await aiService.generateResponse(userMessage, preferredModel); res.json({ reply: aiReply }); } catch (error) { res.status(500).json({ error: ‘AI 服务暂时不可用’ }); } });

这种封装方式便于统一管理 API 调用，未来如果需要切换模型提供商或增加缓存层，修改也会更加集中。