一文讲清：大模型训练技术RLHF介绍篇

介绍

RLHF（基于人类反馈的强化学习）是一种通过人类偏好数据训练奖励模型，并利用强化学习微调语言模型，使其输出更符合人类价值观和偏好的技术。

ChatGPT的RLHF

0、步骤一：领域特定预训练（Domain Specific Pre-Training）

使用因果语言建模目标，在原始文本上对预训练的大语言模型进行微调。目的是让模型适应特定领域的语言风格和知识。

1、步骤二：监督微调 （Supervised Fine-Tuning）- 训练出人类期望初始模型

SFT是在在已经预训练好的领域特定的 LLM 基础模型作为起点，并在一小部分高质量的、由人类标注的“标准答案”数据或任务特定和领域特定的（提示/指令，回答）高质量配对数据上进行微调。这一步让模型初步学会如何更好地遵循指令，为后续的强化学习阶段提供一个高质量的“策略”起点。

最近两年，大家都可以看到AI的发展有多快，我国超10亿参数的大模型，在短短一年之内，已经超过了100个，现在还在不断的发掘中，时代在瞬息万变，我们又为何不给自己多一个选择，多一个出路，多一个可能呢？

与其在传统行业里停滞不前，不如尝试一下新兴行业，而AI大模型恰恰是这两年的大风口，整体AI领域2025年预计缺口1000万人，其中算法、工程应用类人才需求最为紧迫！

学习AI大模型是一项系统工程，需要时间和持续的努力。但随着技术的发展和在线资源的丰富，零基础的小白也有很好的机会逐步学习和掌握。【点击蓝字获取】

【2025最新】AI大模型全套学习籽料（可白嫖）：LLM面试题+AI大模型学习路线+大模型PDF书籍+640套AI大模型报告等等，从入门到进阶再到精通，超全面存下吧！

整个过程可以分解为以下几个关键环节：

• 数据准备

• • Prompts & Text Dataset：首先，需要收集或创建一个提示词数据集。这些提示词就是用户可能会向模型提出的问题或指令，例如“解释一下牛顿定律”或“写一首关于月亮的诗”。
  • Human Augmented Text：然后，会要求标注人员（人类）为这些提示词编写高质量的回答。这些回答需要准确、有用、无害，并完美地遵循指令。这是“可选的”，意味着在实践中，有时也会直接使用现有的高质量对话或文本数据。

• 模型准备

• • Initial Language Model：这是一个已经在大规模通用文本上预训练好的基础语言模型（例如，类似于GPT-3的模型）。它拥有丰富的语言知识和生成能力，但可能不擅长精确地遵循特定指令。

• 训练过程

• • Train Language Model：使用上面准备好的“提示词-高质量回答”配对数据，以监督学习的方式对这个基础模型进行微调。
  • 具体做法：将提示词输入模型，让模型生成回答，然后将其与人类编写的标准答案进行对比，通过计算损失函数和反向传播，来调整模型的参数，使其输出逐渐向人类期望的答案靠拢。

2、步骤三：RLHF（基于人类反馈的强化学习）

• 奖励模型训练（Reward Model Training）：训练一个语言模型，用于判断回答的“好”与“坏”（例如“点赞”或“点踩”）。
• RLHF 微调（RLHF Fine-Tuning）：使用由人类专家标注的**（提示，好回答，坏回答）** 数据，结合奖励模型对 LLM 进行对齐训练，使其生成更符合人类偏好的回答。

1、训练奖励模型 - 学习人类的偏好

训练一个能够代替人类来给模型回答打分的“裁判”模型。方法是让上一步微调好的模型对同一个提示生成多个不同的回答。让人类标注员对这些回答进行排序，指出哪个更好，哪个更差。一旦奖励模型训练好，它就可以自动、快速地给海量的模型生成内容打分，从而替代昂贵且耗时的人类标注。具体步骤如下：

生成候选文本

• 起点：从Prompts Dataset中采样一批提示。
• 生成：将这些提示输入到第一步产生的SFT模型中。对于同一个提示，让模型生成多个（通常为4到9个）不同的回答。

人类进行排序和打分

• Human Scoring：将上一步生成的多组文本（每组对应一个提示）呈现给人类标注员。
• Outputs are ranked：标注员的任务不是直接打分，而是对这些文本进行质量排序（例如，从最好到最差）。如使用ELO评分系统（国际象棋等竞技游戏中常用）是一种将排序转化为精确分数的有效方法。
• 结果：最终，每个生成的文本都会获得一个量化的分数（如7.0），这个分数代表了其在人类评判中的相对质量。

训练奖励模型

• Train on (sample, reward) pairs：现在，我们拥有了一个训练数据集。其中每个样本都是一对数据：

• • 样本：一段模型生成的文本。
  • 奖励：该文本对应的人类偏好分数。

• Reward (Preference) Model：我们初始化一个新的模型（通常基于SFT模型的结构进行修改），其任务是学习一个映射关系：输入一段文本，输出一个标量奖励值。

• 训练过程：通过大量的(文本, 分数)配对数据，训练这个奖励模型，让它学会预测人类会给某段文本打多少分。它的目标是最小化自己的预测值与人类给出的真实分数之间的差距。

3、强化学习微调 - 用“奖励”来引导模型

使用强化学习**（PPO），利用训练好的奖励模型作为“指南针”，来进一步优化语言模型，使其生成更受人类偏好的回答。具体是利用第二步训练好的奖励模型作为指导，使用强化学习来进一步优化第一步得到的SFT模型**，使其生成的回答能获得更高的奖励，同时避免模型为了“刷分”而产生乱码或荒谬的内容。

• 输入与生成

• • Initial Language Model：即第一步得到的SFT模型，作为参考的“基线”或“锚点”。它可能生成y: a furry mammal。
  • Tuned Language Model (RL Policy)：这是我们正在通过强化学习进行微调的、当前版本的模型（即“策略”）。它可能生成y: man's best friend。
• • 从Prompts Dataset中取出一个提示，例如x: A dog is...。
  • 将这个提示同时输入给两个模型：

• 计算奖励

• • 将当前策略生成的回答y: man's best friend输入给Reward Model。
  • 奖励模型会给出一个标量奖励r_θ(y|x)，比如7.5。这个分数代表了人类对这个回答的偏好程度。

• 施加约束

• • 为了防止模型为了获得高奖励而“走火入魔”（例如，生成一堆无意义的、但恰好能骗过奖励模型的词），我们引入了一个KL散度惩罚项：λ_KL * D_KL(π_PPO(y|x) || π_base(y|x))。
  • D_KL(...)：衡量的是当前策略π_PPO和初始基线模型π_base的输出分布之间的差异。如果差异过大，就会被惩罚。
  • λ_KL：是一个超参数，用于控制惩罚的力度。
  • 作用：这个惩罚项像一根“缰绳”，确保模型在追求高奖励的同时，不会偏离它从预训练和SFT中学到的基本语言知识和常识太远，从而保证输出的文本既符合偏好，又保持连贯和合理。

• 组合最终奖励并更新模型

• • 最终奖励 = 奖励模型分数 - KL惩罚项
  • 这个组合后的最终奖励被送入Reinforcement Learning Update (e.g. PPO)算法中。
  • PPO算法会根据这个奖励信号，计算梯度∇_θ J(θ)，并按照θ ← θ + ∇_θ J(θ)的方式更新Tuned Language Model的参数θ。

LLaMA2的改进版RLHF

LLaMA 2 采用的一种更先进、更复杂的 RLHF 流程。

• 引入安全相关的人类偏好（Safety Reward Model）

• 能够流水线式的执行训练流水线，可以使用拒绝采样（Rejection Sampling)解决训练过程中的高质量数据和稳定性问题

基于AI反馈的RLAIF（未来方向）

减少对人类标签的依赖：RLAIF通过利用大型语言模型（LLMs）生成的偏好标签来代替人类反馈，从而减少了对耗时且成本高昂的人类标注工作的依赖。

提高可扩展性：由于减少了对人工标注的需求，RLAIF大大提高了强化学习训练流程的可扩展性，使得在大规模数据集上训练语言模型变得更加可行和高效。

保持或提高性能：根据实验结果，RLAIF在多个文本生成任务上达到了与RLHF相当甚至更优的性能，包括摘要、有益对话生成和无害对话生成，这表明AI反馈是一种有效的替代人类反馈的方法。

处理领域偏移：实验表明，RLAIF在处理领域偏移问题上表现出色，即使在训练和测试数据分布不一致的情况下，也能保持较高的性能。

直接利用LLM反馈：通过直接提示LLM获取奖励分数，RLAIF绕过了将LLM偏好标签提炼成奖励模型的步骤，这种方法在某些情况下比传统的RLHF设置更有效。

AI偏好生成的优化：通过研究不同的AI偏好生成技术，如链式推理和详细的前言提示，RLAIF为最大化AI生成偏好与人类偏好的一致性提供了有效的策略。

可解释性和调整性：RLAIF提供了一种机制，通过直接调整AI生成的偏好，可以进一步提高模型的可解释性和根据特定需求进行微调的能力。

RLHF开发库

Hugging Face TRL 库

这是一个专门用于实现基于人类反馈的强化学习的Python库。TRL是Transformer Reinforcement Learning的缩写，它提供了实现RLHF完整流程的工具和接口。

最近两年，大家都可以看到AI的发展有多快，我国超10亿参数的大模型，在短短一年之内，已经超过了100个，现在还在不断的发掘中，时代在瞬息万变，我们又为何不给自己多一个选择，多一个出路，多一个可能呢？

与其在传统行业里停滞不前，不如尝试一下新兴行业，而AI大模型恰恰是这两年的大风口，整体AI领域2025年预计缺口1000万人，其中算法、工程应用类人才需求最为紧迫！

学习AI大模型是一项系统工程，需要时间和持续的努力。但随着技术的发展和在线资源的丰富，零基础的小白也有很好的机会逐步学习和掌握。【点击蓝字获取】

【2025最新】AI大模型全套学习籽料（可白嫖）：LLM面试题+AI大模型学习路线+大模型PDF书籍+640套AI大模型报告等等，从入门到进阶再到精通，超全面存下吧！