Langchain4j-集成模式分析-开发者社区

集成模式分析

请关注公众号【碳硅化合物AI】

概述

LangChain4j 支持 20+ LLM 提供商和 30+ 向量数据库。通过统一接口抽象实现无缝切换。集成新提供商主要工作：实现ChatModel或EmbeddingStore接口，处理 HTTP 调用、错误处理、重试等细节。

LLM 集成模式

所有 LLM 集成遵循相同模式：实现ChatModel接口、使用构建器模式、处理 HTTP 请求/响应、转换数据格式、处理错误和重试。

以 OpenAI 为例：

publicclassOpenAiChatModelimplementsChatModel{privatefinalOpenAiClientclient;privatefinalIntegermaxRetries;@OverridepublicChatResponsedoChat(ChatRequestchatRequest){// 转换格式ChatCompletionRequestopenAiRequest=toOpenAiChatRequest(chatRequest);// 调用 API（带重试）ParsedAndRawResponse<ChatCompletionResponse>response=withRetryMappingExceptions(()->client.chatCompletion(openAiRequest),maxRetries);// 转换响应returnChatResponse.builder().aiMessage(aiMessageFrom(response.parsed())).tokenUsage(tokenUsageFrom(response.parsed())).finishReason(finishReasonFrom(response.parsed())).build();}}

关键点：OpenAiClient封装 HTTP 调用，toOpenAiChatRequest()做格式转换，withRetryMappingExceptions()处理重试，最后转换响应为ChatResponse。

集成类关系图

集成方式

两种方式：有官方 SDK 直接用 SDK，没有则用langchain4j-http-client构建 HTTP 请求。实际项目中，OpenAI、Anthropic 等大厂都有官方 SDK，直接用更稳定；小厂或自建服务需要用 HTTP 客户端。

向量存储集成

向量存储集成模式类似，实现EmbeddingStore接口。核心方法：add()添加嵌入向量和原始内容，findRelevant()根据查询向量找最相似的。实现类包括PineconeEmbeddingStore、MilvusEmbeddingStore、InMemoryEmbeddingStore等。

集成流程

集成测试

所有集成必须通过统一测试套件，确保行为一致。ChatModel实现继承AbstractChatModelIT，只需实现models()返回测试实例，基础测试（消息处理、工具调用、流式响应、图片输入、结构化输出、错误处理等）自动运行。这确保了所有集成行为一致。

HTTP 客户端和配置

langchain4j-http-client提供 HTTP 客户端抽象，默认使用 Java 11+ 的java.net.http.HttpClient，也可自定义（OkHttp、Apache HttpClient 等）。

所有集成使用构建器模式：可选参数、链式调用、不可变对象、build()时验证。参数分三层：构建器参数（默认值）、RequestParameters（请求级）、ChatRequest.parameters()（调用级，优先级最高）。

异常处理和重试

不同提供商错误格式不同，需要统一映射（401 认证失败、429 限流、5xx 服务器错误等）。RetryUtils.withRetryMappingExceptions()提供统一重试：捕获可重试异常（网络错误、5xx、429），指数退避，达到最大次数后抛出。可重试：网络错误、5xx、429；不可重试：4xx（除 429）、认证失败。