《Spring Boot 3：高级与架构设计》第 6 章 Spring 拥抱 AI AI 与大语言模型 阅读笔记

《Spring Boot 3：高级与架构设计》第 6 章 Spring 拥抱 AI AI 与大语言模型 阅读笔记

本章主要内容：

• AI与大语言模型介绍；
• Spring AI 项目的整合与使用；
• 使用多轮对话；
• 多模态 AI 调用；
• RAG 构建知识库；
• 工具调用；
• MCP 服务器搭建与客户端侧集成。

自 2023 年 ChatGPT 进入大众视野后，大语言模型这一新兴技术正逐渐被应用于系统开发。
开发者发现，原本需要复杂算法支撑的语义理解、内容生成等，现在通过 API 调用即可获得接近人类水平的效果。
这种技术范式的跃迁不仅带来了效率的颠覆性提升，更促进了智能客服、代码助手、文档解析等新型应用场景的爆发式增长。
企业如何应用 AI、现有的系统如何有效地接入 AI，已成为近几年避不开的话题，作为开发者，我们也应当主动求变，拥抱 AI。

本章从 AI 和大语言模型开始讲起，逐步介绍大语言模型整合 spring-ai 框架后在项目开发中的多种使用方式，难度普遍不大，但新名词较多，需要循序渐进接受和理解。

6.1 AI 与大语言模型

既然要拥抱 AI 和大语言模型，首先就需要对其有最基础的认识。
人工智能（AI）是让计算机模拟人类智能的技术，旨在教会机器看、听、理解和决策；
大语言模型（large language model，LLM）是 AI 领域的一项突破性进展，通过分析海量文本数据，理解和生成人类语言。
例如，智能客服的自动回复、ChatGPT 帮助撰写文章和总结内容，都是 LLM 的经典应用。
在笔者编写本章之时，最新推出的 LLM 已经拥有辅助编程、文学创作、文生图、文生视频等能力，对许多行业都造成了很大的影响和冲击。

6.1.1 发展历程

LLM 并非一蹴而就，而起源于神经网络、深度学习等技术。
早在 2017 年，Google 就发布了 Transformer 架构，这个架构突破了传统卷积神经网络、循环神经网络等处理自然语言的瓶颈，
为后续 LLM 的发展提供了强大的技术支撑，使得 LLM 能够更高效地处理自然语言。
从 2018 年开始，基于 Transformer 的应用开始崭露头角，包括 BERT 和 GPT-1，这一代的模型参数量大概是 1.1 亿左右（参数量可以简单理解为 LLM 记忆的知识点或规则）​。

2020 年，OpenAI 公司的 GPT-3 模型发布，其参数量跃升至 1750 亿，仅训练数据就高达 45 TB。
这个规模在当时已是非常庞大，而且 GPT-3 已经具备 “思维链” 的雏形，即我们当下所见的 AI 对话中结合历史对话做出针对性反应的特点。2022 年底，OpenAI 公司的 ChatGPT 发布，它基于 GPT-3.5，在与人类对话的体验上获得了质的飞跃。
也正因如此，在短短两个月内 ChatGPT 的用户量创纪录地破亿，ChatGPT 从此进入了大众视野。
在 2023 年到 2024 年中，多家大厂分别发布了 LLaMA、GPT-4、Claude 3、Gemini 等更强大的大模型。
2025 年初，中国的深度求索公司开源发布的大模型 DeepSeek 引爆了全球 AI 圈。
从业界巨头到个人创客，大大小小的厂商纷纷跟进和整合，让这场技术海啸迅速催生出全民 AI 的应用浪潮。

时至当下，LLM 的发展还在继续，大厂的产品层出不穷。从神经网络到 Transformer 架构，每一次技术突破都在重新定义 “智能” 的生成方式，开源生态正在消解 AI 垄断，让 LLM 逐渐应用在各行各业。
相信随着 LLM 的发展，我们能够接触到更加聪明的 LLM，并使其惠及更多的行业。

6.1.2 运行机制

LLM 是如何工作的？相信每个对 LLM 感到好奇的读者都曾产生这种疑惑。本节不会过于深入地讲解 LLM 的具体原理和细节，仅从整体上介绍LLM 是如何理解人类语言并输出合理结果的。

从本质上看，我们与 LLM 的对话只包含 3 个步骤：
（1）我们向 LLM 输入文字；
（2）LLM 理解我们输入的文字并“思考”​；
（3）LLM 向我们输出文字。

整个过程与人类之间的对话交流并无太大区别。那么我们可以类比于人与人交流的过程来理解 LLM 的运行机制，将其分为 3 个工作步骤和 2 个前期准备。

1． 理解用户的语义

在接收到用户输入的文字后，LLM 会通过 3 个步骤建立语言认知。

（1）分词（tokenization）​：将一个完整的句子拆分为若干个模型能理解的单位（标记）​。
中文可能被拆分为常见词（如 “学习|编程|好|轻松”​）​，而英文单词可能会进一步被拆分（如 “un|happy”​）​。

（2）建立关系网络：这个步骤会用到上一步拆分的词组，通过 Transformer 架构的自注意力机制分析标记之间的关联，动态判断哪些词需要重点关注。

（3）划重点：其实质为注意力权重分配，LLM 会根据上一步筛选的值得重视的词，决定哪些词对生成结果更重要，这关系到后续输出内容的推理。

经过上述 3 个步骤后，LLM 相当于理解了用户向它发起交流的内容。

2． 推理生成的内容

在理解输入内容后，LLM 就需要推理生成的内容，其过程是根据已掌握数据中的统计规律，预测最可能的下文内容（可简单理解为 “从记忆中搜寻最有可能的答案”​）​。
例如当用户输入 “学习 Spring 的路线” 时，LLM 会从本身已经掌握的知识中找出与 Spring 相关的知识，并结合第 1 步划出来的重点（学习、路线）来推敲应该输出哪些文字。
这个过程除了与 LLM 掌握的知识有关，还受到其他因素的影响。
其中比较容易理解的一个因素是模型温度，这个参数指的是模型生成文本的随机程度，模型温度数值越大，越倾向于低概率生成的词（输出内容越具有随机性和创造性）​；
反之，值越小则越倾向于高概率生成的词（越保守）​。
由此可见，用户输入相同的内容时，LLM 每次回复的内容并不完全相同，而是在多种因素的影响下最终生成不同的推理结果。

3． 组织输出的语言

推理的步骤结束后，LLM 就会将结果输出给用户，但这个过程并不是直接将上一步推理的结果全盘输出，
因为 LLM 的工作方式实际上是“猜词”​，即根据用户输入的内容和自身输出的内容来推断下一个输出的字词是什么。
例如用户输入 “学习 Spring 的路线” 时，可能 LLM 已经生成了 “学习 Spring”​；
接下来 LLM 要结合用户输入的内容和当前已经输出的内容来推断下一个输出的词，
假设此时计算所得 “的路线” 生成的概率是 69% ，​“Framework” 生成的概率是 30%，​“Boot” 生成的概率是 1%，
则 LLM 会选择其中概率最高的词补充到输出结果中；
如此往复循环，直到 LLM 认为输出结果完毕。
在这个组织语言的过程中，某一个字词出现的概率并不是一成不变的，
例如当用户补充说明想着重了解 Spring Boot 的学习路线时，则在 Spring 词后出现 Boot 的概率会上升。

4． 学习更多的知识

以上 3 个步骤是 LLM 与人交互的步骤，在这个过程中，LLM 需要预先“学习”足够多的知识，才能以一定的依据来推理内容组织语言，这个预先学习的过程被称为 “预训练”​。
训练 LLM 时，需要给模型投喂海量数据，例如让它 “通读” 百科全书，包括图书、期刊、电子资料、网页、代码等。
通过庞大数据量的学习后，模型便会了解相应的知识，也就可以应对用户提出的问题。
预训练的目标是通过无监督学习，让模型预测文本中的缺失部分（起初不了解的）​，从而学习语言规律，保证生成的内容更准确、自然。

5． 专项技能的培训

除了预训练之外，要想让 LLM 足够了解某一特定领域的知识，还需要对其进行专项技能特训，也就是大模型训练中的“微调”​。
简单来说，微调是向 LLM 输入特定的数据集，对其进行进一步训练，使其能够学习相应领域的知识，以满足特定任务或领域的需要。
与预训练的方式不同，微调通常会使用带答案的对话数据训练，
例如当用户提问 “学习Spring的路线” 时，微调答案告诉 LLM 应当先从 Java 基础讲起，再延伸到 Spring Framework 核心框架、Spring Boot 等。
经过特定领域专项训练后，再遇到类似的问题时，LLM 便可更加明确如何回答用户，从而使输出的结果更精准。

6.1.3 典型应用

时至今日，LLM 已在众多的行业领域中发挥强大的作用，为行业的发展和革新插上了翅膀。下面简单介绍 LLM 在具体行业中的应用，帮助读者感受 LLM 给我们带来的便利。

1． LLM + 教育：永不疲倦的 AI 助教

（1）将 LLM 引入教育行业，作文可以不由改卷老师通篇阅读后给出大概分数，而是交给 LLM 后由 LLM 阅读全文并给出更精准、全面的评价。
（2）利用 LLM 的交互机制创造交互式学习，配合恰当的人格预设，可以有效地提升学生学习的积极性，启发学生的思维。

2． LLM+医疗：医生的辅助诊疗智库

（1）将 LLM 引入医疗行业，通过学习医院和医生的历史诊断病例，LLM 可以挖掘出疾病与症状之间的关联关系和潜在联系，扩大医生诊断问题的覆盖面并提高准确度。
（2）通过阅读患者的电子病历，LLM 可以提取出患者的关键时间线，包括发现症状、症状演变、检查结果、用药反应等关键节点，并据此生成病历摘要供临床医生参考和审核。这个过程可以有效缩短住院医师处理病历的时间。

3． LLM+创作：源源不断的灵感永动机

（1）将 LLM 应用到内容创作领域，如网络小说、影视剧本、短视频脚本等内容创作的前期准备都可以交给AI。AI生成内容又快又好，大大降低了创作的门槛。
（2）除了个人创作者，商业领域也可利用 LLM 生成广告创意、营销文案，通过生成海量创意点和营销点，从中选择既新颖又优质的内容，可以有效提高商品销量，增加企业收入。

4． LLM+商业：强大的企业大脑中枢

（1）电商平台通过引入售前和售后智能客服，可以有效提高客服的及时响应率，并且可以更好地应对买家的咨询和投诉。
（2）企业可以利用 LLM 配合信息采集工具来分析消费者对商品的评价，从中分析消费者的需求和痛点，进而改进已有的产品。

6.1.4 主流模型

到笔者撰稿之时，市面上已有多种 LLM，其擅长的领域和方向有所区别，落地应用也各不相同，表 6-1 简要列举了几个主流 LLM，并从核心特征、擅长领域、应用落地等角度进行了简单对比。

表 6-1 主流 LLM 对比