2025_NIPS_Boosting Resilience of Large Language Models through Causality-Driven Robust Optimization

文章核心总结与翻译

一、主要内容

该研究针对大型语言模型（LLMs）普遍存在的虚假相关性依赖和幻觉生成问题，提出了一种新的因果驱动鲁棒优化（CDRO）框架，核心目标是增强模型的因果推理能力，提升其可靠性和鲁棒性。

1. 问题背景：LLMs常依赖训练数据中的表面统计模式（如共现偏差、词汇重叠偏差等）而非真实因果关系，导致模型泛化能力弱、易产生偏见和幻觉，在医疗、法律等高危领域应用存在风险。现有方法要么对所有参数无差别微调（效率低、易遗忘预训练知识），要么依赖后处理技术（适应性差）。

2. 核心流程：

   • 数据增强：利用SOTA LLMs自动生成训练数据的反事实变体和释义变体，无需人工标注；
   • 因果参数定位：通过分析原始样本、反事实样本和释义样本对应的模型参数训练动态（损失梯度差异、隐藏状态余弦相似度），利用逻辑回归模型动态识别对因果推理敏感的参数组件；
   • 协同优化：采用增强型REINFORCE++算法优化识别出的因果参数，同时基于模型性能实时更新逻辑回归模型，实现因果组件的自适应定位；
   • 奖励设计：融合准确性、鲁棒性、校准度和置信度四类奖励，平衡模型泛化能力与鲁棒性。