文章目录
- D46 · 医疗问答模型微调实战：高风险行业怎么把大模型用起来
- 开篇：为什么医疗是所有行业里最不该随便上模型的
- 第 1 章 医疗场景的风险模型
- 1.1 四层风险
- 1.2 错误代价的不对称性
- 1.3 架构选型：RAG 为主，微调为辅
- 第 2 章 数据合规：能不能用，比好不好用更重要
- 2.1 医疗数据的特殊之处
- 2.2 去标识化 vs 匿名化
- 2.3 训练数据的三种来源与合规性
- 2.4 PII 检测与脱敏
- 2.5 审计日志：可追溯是合规的硬要求
- 第 3 章 幻觉控制：让模型不乱说
- 3.1 幻觉的四种类型
- 3.2 三层安全护栏
- 3.3 护栏 1：急症关键词强制拦截
- 3.4 护栏 2：实体校验
- 3.5 溯源校验：必须能查到出处
- 3.6 护栏 3：拒答机制
- 3.7 置信度校准：知道自己不知道
- 第 4 章 微调：只训行为，不训知识
- 4.1 训练数据构造
- 4.2 安全数据必须混入
- 4.3 训练配置
- 4.4 训练数据清洗的特殊要求
- 第 5 章 完整架构：RAG + 微调 + 三层护栏
- 5.1 RAG 的医疗特定改造
- 5.2 生成 Prompt 设计
- 5.3 转人工的触发条件
- 第 6 章 评测：不能用普通 benchmark
- 6.1 五个核心指标
- 6.2 评测集的构造
- 6.3 一个必须做的对比实验
- 第 7 章 落地清单与踩坑
- 7.1 完整踩坑记录
- 7.2 上线前检查清单
- 7.3 给不同规模团队的最小可行方案
- 5 个 Key Takeaway
- 思考题
- 下篇预告
- 参考资料
D46 · 医疗问答模型微调实战：高风险行业怎么把大模型用起来
专栏第 46 篇 · S3 第三阶段第 1 篇（行业应用开篇）
关键词：医疗 NLP · 数据合规 · PII 脱敏 · RAG 知识注入 · 幻觉控制 · 拒答机制 · 置信度校准 · 人工兜底
开篇：为什么医疗是所有行业里最不该随便上模型的
先讲一个我亲身踩过的坑。
2023 年我们给某三甲医院做过一个「智能导诊助手」，用他们过去两年的导诊记录微调的。上线测试第一天下午，护士站打来电话：
「有个患者问『我最近老是胸闷，是不是肺癌』，你们系统回了一句『根据您描述的症状，建议您保持良好心态，适量运动』。患者当场就炸了。」
技术上这句话没问题——它没给诊断，没给用药。但它极其不负责任：一个可能的心梗前兆信号，被系统用「保持良好心态」轻描淡写地打发了。这就是医疗场景和其他所有场景的根本区别：
在客服场景，模型答错一句的代价是「用户不满意」。
在医疗场景，模型答错一句的代价可能是「延误救治」。
这个代价的不对称性，决定了医疗场景的技术方案和客服场景完全不是一回事。D36-D45 那一套「合成数据 + 微调 + 对齐 + 压缩 + 路由」直接搬过去，会出大问题。
这篇是 S3 第三阶段（行业应用）的开篇。我不写「怎么训一个医疗大
