EU AI Act 第 10 条落地前：训练数据的治理文档怎么准备
标签：#数据治理 #AI治理 #数据质量 #合规 #数据集
摘要：欧盟《人工智能法案》（EU AI Act）对高风险 AI 系统的训练、验证与测试数据集提出了明确的治理要求，出海企业首当其冲。本文拆解第 10 条的五个要件——质量标准适用、设计选择记录、来源与收集方式、准备处理操作、偏见检查与缓解——给出治理文档清单、与国内 GB/Z 237-2026 等体系的对照复用路径，以及一份可直接套用的准备顺序。
文章目录
- EU AI Act 第 10 条落地前：训练数据的治理文档怎么准备
- 一、前言：为什么中国团队也要管欧洲的条款
- 二、第 10 条拆解：五个要件
- 2.1 要件①②：质量标准与设计选择
- 2.2 要件③④：来源登记与准备流水
- 2.3 要件⑤：偏见检查与缓解
- 三、治理文档清单与准备顺序
- 3.1 六份核心文档
- 3.2 准备顺序：四步走
- 四、别重造轮子：与国内体系的对照复用
- 五、总结
一、前言：为什么中国团队也要管欧洲的条款
不少国内团队对 EU AI Act 的第一反应是"欧洲的事，与我无关"。但只要满足任一情形，第 10 条就是你绕不开的义务：
- 系统在欧盟市场投放或投入使用（包括跨境电商的推荐与定价系统、面向欧洲用户的 SaaS、智能硬件的 AI 功能）；
- 系统输出在欧盟境内被使用且影响欧盟用户；
- 作为高风险系统的模型或数据供应商，被下游欧盟部署方要求提供数据合规证据。
EU AI Act 按风险分级监管，高风险系统（如生物识别、关键基础设施、教育、雇佣、信用评分等场景）承担核心义务，数据治理是其中最"数据团队"的一条——别的义务是法务和产品的事，第 10 条的活，几乎全部落在数据治理团队头上。
换一个视角：这条条款其实是把"训练数据要有治理"从最佳实践变成了可审计、可处罚的法定义务。Gartner 的判断与之相互印证——数据问题已阻塞约 40% 的 AI 项目，63% 的组织缺乏 AI-ready 数据管理实践。监管只是把这件事写进了罚单。
二、第 10 条拆解：五个要件
第 10 条的核心要求（条款细节表述以法规原文为准，以下为实务拆解）：高风险系统的训练、验证与测试数据集，须符合适用的质量标准，并采取足够的数据治理与管理措施。这个"治理与管理措施"可以拆成五个要件：
| 要件 | 监管在问什么 | 对应文档 |
|---|---|---|
| ① 质量标准适用 | 你的数据集遵循什么质量标准？相关性、代表性、完整性、准确性怎么界定？ | 数据集质量标准说明书 |
| ② 设计选择记录 | 为什么选这些数据、这些特征、这些标注方法？ | 设计决策记录（Design Choices Log） |
| ③ 来源与收集方式 | 数据从哪来？采集方式是什么？有没有合法依据？ | 数据来源登记册 |
| ④ 准备处理操作 | 清洗、脱敏、标注、平衡等加工动作做了什么？ | 数据准备流水（Processing Pipeline Log） |
| ⑤ 偏见检查与缓解 | 检测了哪些偏差？采取了什么缓解措施？残余风险是什么？ | 偏见评估报告 |
五个要件共同指向一个监管逻辑：不仅要"数据是好的"，还要能证明"你知道它为什么是好的、好到什么程度、缺陷怎么处理的"。这正是文档化治理（documented governance）的字面含义——没有留下文档的治理，在监管眼里等于没做。
2.1 要件①②：质量标准与设计选择
质量标准说明书至少覆盖五个维度，每个维度要有可操作的判定方式：
- 相关性：数据与系统预期用途的映射关系（哪些数据支撑哪些功能）；
- 代表性：目标人群/场景的覆盖度，样本分布与真实分布的比对；
- 完整性：关键字段缺失率上限与处理策略；
- 准确性：标注一致性（如多人标注的 Kappa 系数）、抽样比对结果；
- 时效性：数据的采集窗口与更新策略。
设计选择记录常被忽略，但它是审计时回答"为什么"的唯一凭据。建议用决策日志模板：每条记录 = 决策点 + 备选方案 + 选择理由 + 负责人 + 日期。比如"弃用 2023 年前历史订单数据"这条决策，要有完整记录，而不是只体现在最终数据集里。
2.2 要件③④：来源登记与准备流水
来源登记册按来源类型管理，四类口径与国内数据产权登记的来源审查口径高度一致——自行采集、协议取得、公开收集、衍生创造各有合规要点：
- 自行采集：用户授权链是否覆盖"用于模型训练"这一用途（注意：隐私政策里"改进服务"不一定等于"训练模型"，这是常见误判）；
- 协议取得：上游协议是否允许转授权、允许 AI 训练用途；
- 公开收集：爬取目标的 robots 协议与网站条款，个人信息场景的合法性基础；
- 衍生创造：标注成果的知识产权归属、模型生成内容的可用性。
准备流水要求每次加工动作可复现：清洗规则、脱敏参数、采样策略、版本号。落地方式就是把第 ④ 要件做成版本化的 pipeline 日志——训练用的具体是 v1.3 数据集、由哪个 pipeline 版本从哪些源生成，一条 SQL 或一次 workflow 运行就能回放。
2.3 要件⑤：偏见检查与缓解
偏见评估要做到三段论：检测什么 → 发现什么 → 怎么办。
- 检测维度按系统用途定：涉及个人评价的系统（雇佣、信用）至少覆盖受保护属性相关群体在样本分布、标注结果、模型表现上的差异；
- 缓解措施要记录残余风险：缓解后仍有偏差的，写明残余水平与运行期监控方案——监管要的不是"零偏差"，而是"已知、已处理、已监控"；
- 缓解动作本身也会进入要件④的流水（如重采样、加权），形成闭环。
三、治理文档清单与准备顺序
3.1 六份核心文档
| 文档 | 内容要点 | 维护频率 |
|---|---|---|
| 数据集技术说明书 | 构成、来源、体量、质量标准、已知限制 | 每个数据集版本 |
| 来源登记册 | 四类来源逐条登记 + 合法性依据 | 持续更新 |
| 设计决策日志 | 数据选择/特征/标注的关键决策 | 决策发生时 |
| 准备流水记录 | 处理步骤、参数、版本，可回放 | 每次加工 |
| 偏见评估报告 | 检测维度、结果、缓解措施、残余风险 | 训练前 + 定期复评 |
| 质量门禁记录 | 训练准入检查的通过/拦截记录 | 每次训练 |
3.2 准备顺序：四步走
- 先补来源登记册（最高优先级）：来源合法是所有后续动作的前提，来源不明 = 一票否决，补什么都白补；
- 再立质量标准说明书：把散落在实验记录里的质量要求收敛成正式文档；
- 然后把偏见评估做成可复跑的检查：写进 pipeline，而不是每次人工出报告；
- 最后补齐决策日志与流水回填：历史训练没有留记录的部分，如实写"回填说明"并声明口径——宁可标注回填，不可伪造记录，这和 DCMM 评审"台账造假直接扣光分"是同一个道理。
四、别重造轮子：与国内体系的对照复用
对国内团队来说，第 10 条的五个要件几乎都能在已有体系里找到可复用的载体：
| EU AI Act 第 10 条要件 | 国内可复用载体 |
|---|---|
| 质量标准适用 | GB/Z 237-2026《人工智能 可信赖数据集》自评（来源合规/质量控制/安全管理/持续维护/风险治理）；GB/T 36344 数据质量评价框架 |
| 来源与收集方式 | 数据产权登记的四类来源审查口径；企业数据分类分级体系 |
| 准备处理操作 | 数据血缘 + 版本管理（与数据契约、pipeline 日志复用） |
| 偏见检查与缓解 | 《人工智能安全治理框架 3.0》对训练数据真实准确、来源合法及外挂知识库筛选的要求 |
| 文档化治理整体 | 数据集台账、高质量数据集建设指南（数据资源摸底→数据集登记） |
实务建议是一套治理动作、两份输出：同一个数据集治理流程，对内产出 GB/Z 237 自评与登记材料，对外按第 10 条要件重新组装成合规文档包。差别只在文档的组织方式，而不是治理本身——先建国内体系、再映射输出，比两条线各建一遍省一半以上成本。
给出海团队一个时间上的提醒：EU AI Act 的高风险系统义务适用已分阶段生效，且下游部署方（你的欧盟客户）会通过合同把义务传导给供应商——别等监管来查，第一封要求提供数据治理文档的邮件大概率来自客户采购。
五、总结
EU AI Act 第 10 条把训练数据治理从"最好有"变成"必须能出示"。落地记住三句话：来源合法是一票否决项，先补来源登记册；文档化是义务本体，没留记录的治理等于没做；与国内 GB/Z 237、分类分级体系一套动作两份输出，不要重造轮子。
更深一层，这条条款标记的是全球 AI 数据监管的共同方向：从"管模型"转向"管数据"。今天按第 10 条准备的文档体系，明天大概率就是国内同类规则的雏形——投入不会白费。
互动：你的团队为训练数据建过治理文档吗？来源登记和偏见评估哪一项更难补？欢迎评论区交流。
#数据治理 #AI治理 #数据质量 #合规 #数据集
