收藏!小白程序员必看:ISO/IEC 27090发布,AI安全风险库如何分四本账?
ISO/IEC 27090标准正式进入出版阶段,首次将AI专属威胁单列成册。企业需将AI风险与传统网络安全分开管理,重点关注训练数据、模型资产、接口滥用和再训练污染四类风险。标准强调AI安全需独立评估,而非简单叠加于传统安全措施上,建议企业提前建立独立的AI风险库,确保数据与模型安全。
ISO/IEC 27090 进入出版阶段,企业 AI 风险库该分四本账
摘要 | ISO/IEC 27090 进入出版阶段,AI 专属威胁首次被单列成册。企业 AI 风险库宜与传统网络安全分账,训练数据、模型资产、接口滥用、再训练污染各管一摊。
2026 年 10 月,ISO/IEC 27090《Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems》在 ISO 官网的状态更新为"国际标准出版中"(Stage 60.00),进入正式发布之前的最后一个生产环节。这份由 ISO/IEC JTC 1/SC 27(信息安全分技术委员会)制定的文件,是全球第一份专门讲"AI 系统自身如何被攻破"的指导性标准,预计年内正式发布。
它最值得企业记住的一句话是:AI 系统依然暴露在传统网络安全威胁之下,保护软件、基础设施和访问控制仍然必要——但这些措施不够。ISO 的说法很明确,AI 专属措施是"叠加",不是"替代"。
1 27090 到底"新"在哪里
标准先划清一条边界:它的重点不是"用 AI 去防御别的系统",而是"AI 系统自己被攻击时怎么办"。范围覆盖 AI 全生命周期,也不局限于生成式 AI 或聊天机器人,各类 AI 系统都算在内。
ISO 在解读材料中点名了两类典型攻击,恰好对应两种完全不同的资产:
· 数据投毒(data poisoning):把恶意或不受控的数据注入训练数据,进而影响模型产出。攻击者甚至不需要碰你的服务器,只要污染数据来源。
· 模型窃取(model exfiltration):通过反复调用接口——这些调用在日志里看起来全都"合法"——把模型能力或知识产权整体搬运走。这说明只管住访问权限是不够的,还得能识别异常使用模式。
除此之外,标准还梳理了逃避攻击(evasion)、成员推断(membership inference)、模型反演(model inversion)、直接模型投毒,以及输入输出侧的一整类威胁:提示注入、模型输出敏感信息、输出内容中夹带注入指令。
2 为什么必须和传统网安"分账"
· 资产不同。传统网安保的是主机、网络、账号、数据;AI 系统多出两样需要单独登记的东西——训练数据和模型本身。
· 失效模式不同。一台服务器"正常工作"基本就等于安全;而一个模型可以在基础设施完全正常的情况下,因为数据被投毒而持续输出错误结论。ISO 的原话大意是:从基础设施角度看系统运行正常,但底层数据或模型已被操纵,产出可能已经被污染。
· 检测手段不同。传统网络安全靠边界和权限;AI 需要日志监测、恶意输入识别、模型用途限制和输出过滤。
· 时间尺度不同。上线不是终点。标准特别强调:运行阶段采集的数据,之后可能被用于更新或再训练模型;一旦这批数据被污染,风险会直接进入下一个版本。对持续学习、迭代训练的系统来说,运行期的输入本身就会变成训练数据——投毒的窗口从"开发期"扩展到了"全生命周期"。因此模型、数据、集成方式或部署环境一变,风险评估就要重做。
3 企业 AI 风险库:四本分账
把 AI 风险从传统网络安全风险里拆出来,落到四个独立的账本上:
| 风险类别 | 保护对象 | 对应威胁 | 落库要记录什么 |
|---|---|---|---|
| ① 训练数据完整性 | 原始数据集、标注结果、采集与清洗链路 | 数据投毒、后门植入、标注污染 | 数据来源与授权凭证、版本与哈希指纹、变更审批、清洗与抽检记录 |
| ② 模型资产 | 权重与参数、模型文件、蒸馏与微调产物 | 模型窃取、模型反演、成员推断 | 模型清单与敏感分级、访问与导出审计、水印或指纹、接口调用频率与异常行为告警 |
| ③ 提示与接口滥用 | 推理接口、Agent 工具调用、输出通道 | 提示注入、越权工具调用、敏感信息输出 | 接口鉴权与配额、输入输出过滤规则、工具权限最小化、越权与异常输出告警 |
| ④ 再训练数据污染 | 运行日志、用户反馈、增量训练集 | 反馈投毒、数据漂移、隐性污染 | 再训练数据准入规则、样本人工审核、版本回滚机制、再训练前后对照评估 |
4 怎么落到治理动作
· 资产盘点先行。把上表四类资产登记造册,明确责任人和敏感级别。没有清单,后面所有的控制都是空的。
· 威胁建模进流程。在设计阶段就做 AI 威胁建模和红队测试,而不是上线后补。标准把威胁建模与红队,和 AI 治理、零信任、软件工程实践、供应链安全并列为"把信息安全应用于 AI"的组成部分。
· 日志与监测不能省。ISO 把日志监测、开发环境保护、恶意输入识别、模型用途限制放在"维持长期防护"部分,并强调多层防御(defence in depth)——因为有一部分 AI 威胁确实难以检测,单点控制兜不住底。
· 变更触发复核。模型、数据、集成方式或部署场景发生变化时重新评估风险,把这条写进流程,而不是靠人记得。
· 与既有体系挂接。27090 提供的是指导,不是认证要求。落地时可以挂靠在 ISO/IEC 27001、27002(信息安全管理)和 ISO/IEC 42001(AI 管理体系)之下,形成"管理 + 技术"的双层支撑,也便于对接外部监管要求。
27090 最实用的一句提醒是:别把 AI 安全当成"网络安全加一个 AI 模块"。
它需要独立的风险条目、独立的资产清单、独立的检测手段和独立的责任人。
现在距离正式发布只剩最后一个生产环节,恰好是企业把 AI 风险库"分账"的时间窗口。等到标准正式文本发布再动手,往往会发现连"要保护什么"都还没列清楚。
互动话题:如果你对网络攻防技术感兴趣,想学习更多网安方面的知识和工具,可以看看以下题外话!
题外话
黑客/网络安全学习路线
今天只要你给我的文章点赞,我私藏的网安学习资料一样免费共享给你们,来看看有哪些东西。
网络安全学习资源分享:
下面给大家分享一份2026最新版的网络安全学习路线资料,帮助新人小白更系统、更快速的学习黑客技术!
一、2026最新网络安全学习路线
一个明确的学习路线可以帮助新人了解从哪里开始,按照什么顺序学习,以及需要掌握哪些知识点。
对于从来没有接触过网络安全的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。
**读者福利 |***CSDN大礼包:《网络安全入门&进阶学习资源包》免费分享 *(安全链接,放心点击)
我们把学习路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战。
L1级别:网络安全的基础入门
L1阶段:我们会去了解计算机网络的基础知识,以及网络安全在行业的应用和分析;学习理解安全基础的核心原理,关键技术,以及PHP编程基础;通过证书考试,可以获得NISP/CISP。可就业安全运维工程师、等保测评工程师。
L2级别:网络安全的技术进阶
L2阶段我们会去学习渗透测试:包括情报收集、弱口令与口令爆破以及各大类型漏洞,还有漏洞挖掘和安全检查项目,可参加CISP-PTE证书考试。
L3级别:网络安全的高阶提升
L3阶段:我们会去学习反序列漏洞、RCE漏洞,也会学习到内网渗透实战、靶场实战和技术提取技术,系统学习Python编程和实战。参加CISP-PTE考试。
L4级别:网络安全的项目实战
L4阶段:我们会更加深入进行实战训练,包括代码审计、应急响应、红蓝对抗以及SRC的挖掘技术。并学习CTF夺旗赛的要点和刷题
整个网络安全学习路线L1主要是对计算机网络安全的理论基础的一个学习掌握;而L3 L4更多的是通过项目实战来掌握核心技术,针对以上网安的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。
二、技术文档和经典PDF书籍
书籍和学习文档资料是学习网络安全过程中必不可少的,我自己整理技术文档,包括我参加大型网安行动、CTF和挖SRC漏洞的经验和技术要点,电子书也有200多本,(书籍含电子版PDF)
三、网络安全视频教程
对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的网安视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识。
网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己录的网安视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。
四、网络安全护网行动/CTF比赛
学以致用,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。
五、网络安全工具包、面试题和源码
“工欲善其事必先利其器”我为大家总结出了最受欢迎的几十款款黑客工具。涉及范围主要集中在 信息收集、Android黑客工具、自动化工具、网络钓鱼等,感兴趣的同学不容错过。
面试不仅是技术的较量,更需要充分的准备。
在你已经掌握了技术之后,就需要开始准备面试,我们将提供精心整理的网安面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。
如果你是要找网安方面的工作,它们绝对能帮你大忙。
这些题目都是大家在面试深信服、奇安信、腾讯或者其它大厂面试时经常遇到的,如果大家有好的题目或者好的见解欢迎分享。
参考解析:深信服官网、奇安信官网、Freebuf、csdn等
内容特点:条理清晰,含图像化表示更加易懂。
内容概要:包括 内网、操作系统、协议、渗透测试、安服、漏洞、注入、XSS、CSRF、SSRF、文件上传、文件下载、文件包含、XXE、逻辑漏洞、工具、SQLmap、NMAP、BP、MSF…
**读者福利 |***CSDN大礼包:《网络安全入门&进阶学习资源包》免费分享 *(安全链接,放心点击)