news 2026/11/1 1:51:50

From Decorative to Load‑Bearing: Task Difficulty Shapes the Causal Role of Chain‑of‑Thought

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
From Decorative to Load‑Bearing: Task Difficulty Shapes the Causal Role of Chain‑of‑Thought

# From Decorative to Load‑Bearing: Task Difficulty Shapes the Causal Role of Chain‑of‑Thought
> 论文信息:arXiv:2609.25366,接收于 TMLR 2026,作者 Renee Jia, Di Mu

## 一、文章主要内容
本文研究**思维链(CoT)文本推理对模型最终答案的因果约束能力**,提出核心概念「承载性(load‑bearingness)」:即CoT推理文本是否真正因果地决定模型输出;与之相对的是「装饰性(decorative)」,即CoT只是事后合理化,不会约束答案。

1. **提出新实验范式:基于续写的因果测试(continuation‑based causal testing)**
对CoT中某一步推理做扰动篡改,截断推理链,让模型从被污染的前缀继续生成,观察模型后续行为。定义三类行为模式:
- **静默绕过(silent bypass)**:无视被篡改错误推理,依然输出正确答案(CoT装饰性)
- **自我修正(self‑correction)**:识别错误并修正,输出正确答案
- **错误传播(error propagation)**:顺着错误推理继续,输出错误答案(CoT具备承载性)

2. **核心实验发现:任务难度决定CoT承载程度**
在 Gemma‑2‑9B‑IT、Llama‑3.1‑8B‑Instruct、DeepSeek‑R1‑Distill‑Qwen‑7B,数据集 GSM8K、MMLU、BIG‑Bench Hard 开展大规模实验(总计28584条续写样本):
- **简单任务**:模型会绕过自己写下的推理,CoT大多只是装饰,错误

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/11/1 1:50:47

注塑机数据采集物联网网关连接MES系统软件可以实现什么功能

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/11/1 1:49:53

零基础上手 VideoCaptioner:3 步生成视频字幕并完成中英双语翻译

零基础上手 VideoCaptioner:3 步生成视频字幕并完成中英双语翻译 【免费下载链接】VideoCaptioner 🎬 卡卡字幕助手 | VideoCaptioner - 基于 LLM 的智能字幕助手 - 视频字幕生成、断句、校正、字幕翻译全流程处理!- A powered tool for easy…

作者头像 李华