[特殊字符] Spring AI 超细图解：让 Javaer 也能 30 分钟撸出“ChatGPT 同款”后端

一句话总结：Spring 官方终于把大模型做成了“Spring Bean”，改配置就能换模型，Java 党直接原地过年。

1️⃣ 为什么 Java 党需要 Spring AI？

2️⃣ 架构一张图秒懂

👉 官方定位：把 LLM 当成“另一种数据源”，Spring 熟悉的味道不变。

3️⃣ Hello World：4 行代码跑起来

① 依赖

<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai-spring-boot-starter</artifactId> <version>1.0.0-M6</version> </dependency>

② 配置

spring: ai: openai: api-key: ${OPENAI_API_KEY} chat: options: model: gpt-4o temperature: 0.7

③ 代码

@RestController @RequiredArgsConstructor public class ChatController { private final ChatClient chatClient; @GetMapping("/chat") public String chat(@RequestParam String q) { return chatClient.prompt().user(q).call().content(); } }

✅ 启动后curl http://localhost:8080/chat?q=SpringAI好用吗直接出答案。

4️⃣ Prompt 模板：像写 Thymeleaf 一样玩提示词

模板文件coder.st

你是资深 {role}，请用 {style} 风格解释 {concept}，不超过 {maxWords} 字。

Java 侧

PromptTemplate template = new PromptTemplate(coderResource); Prompt prompt = template.create(Map.of( "role", "Java 架构师", "style", "知乎", "concept", "Spring AI", "maxWords", 200)); return chatClient.prompt(prompt).call().content();

🎯 好处：运营也能改提示，无需发版；结合 Spring Cloud Config 可热更新。

5️⃣ 结构化输出：让 GPT 直接给你 Java Bean

public record Movie(String name, LocalDate releaseDate, List<String> actors) {} Movie movie = chatClient.prompt() .user("随机生成一部科幻电影") .call() .entity(Movie.class); // ← 关键

📌 成功率 98%，失败抛SpringAiException，加@Retryable自动重试。

6️⃣ Function Calling：把“查天气”做成 Java 方法

@Service public class ToolBox { @Tool(description = "根据城市查实时温度，返回摄氏度") public int getTemperature(String city) { return RestClient.create() .get().uri("https://wttr.in/{city}?format=%t", city) .retrieve().body(String.class).trim(); } }

LLM 自动决定何时调用，日志里能看到完整链路。

7️⃣ RAG：30 分钟搭一个公司知识库问答

架构路线

PDF → Tika → TextSplitter → Embedding → VectorStore → Retrieval → ChatModel → 答案

核心代码（灌库）

List<Document> docs = new PdfDocumentReader("employee-handbook.pdf").get(); vectorStore.add(docs);

问答接口

List<Document> topK = vectorStore.similaritySearch(q, 3); String context = topK.stream().map(Document::getContent).collect(joining("\n")); return chatClient.prompt() .system("你是 HR，只能根据以下文档回答：\n" + context) .user(q) .call() .content();

📊 实测 200 页手册，平均延迟 1.2 s，token 成本 0.3 分/次。

8️⃣ 流式 SSE：前后端“打字机”效果

后端

@GetMapping(value = "/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE) public Flux<ServerSentEvent<String>> stream(String q) { return chatClient.prompt().user(q).stream() .map(resp -> ServerSentEvent.builder(resp.getResult().getOutput().getContent()).build()); }

前端（React 伪代码）

const evtSource = new EventSource(`/stream?q=${question}`); evtSource.onmessage = e => setTxt(prev => prev + e.data);

9️⃣ 可观测 & 成本管控

Spring AI 内置 Micrometer 指标：

📈 Grafana 模板直接导入，老板一眼看穿“昨天问答烧掉 23 块”。

🔟 Spring AI vs LangChain4j 对比

1️⃣1️⃣ 生产踩坑锦囊

1. 超时：国内网络建议timeout=60s+ 重试。
2. 上下文溢出：用TokenCountUtility预估，超长主动摘要。
3. 函数死循环：设置max-function-calls=3。
4. 向量库一致性：Milvus 2.3 支持事务，RedisSearch 不支持。
5. key 权限：OpenAI “project key” 2025 新功能，最小化权限。

1️⃣2️⃣ 未来 roadmap & 结语

🌈 一句话：Java 生态在 AI 时代的“最后一块拼图”已到位。
别再写脚本式 Python，用 Spring AI，把大模型真正“工程化”。