news 2026/8/26 18:08:24

解读《人工智能生成合成内容标识办法》

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
解读《人工智能生成合成内容标识办法》

大家好,首先做一个简单的自我介绍,本人目前从事数据安全行业,之前有过网络安全、等级保护的工作经历。现在个人的目标是成为一名数据安全合规方向的资深人士。我会不定期解读输出一些数据安全、个人信息保护、生成式AI类标准文件的解读文章。帮助其他人了解标准文件的同时也提高自己。因为本人也是才开始学习解读文件,存在错误的地方欢迎大家在评论区留言共同探讨,也欢迎私聊~。

本次学习的是AI内容标识文件《人工智能生成合成内容标识办法》,我之所以选择第一次学习本文件,是因为本办法对应的标准《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》是强制性国家标准,且办法里也明确规定适用于所有提供或传播AI生成合成内容的服务提供者,适用范围广,且具有法律强制力。

接下来我会从文件定位、背景、结构、关键词的维度带大家一起看这篇文章,我会将每条正文内容转换成自己的理解,图片为原文,解读为文字,建议大家最好先读一下原文,再看解读文字。

一、文件定位

首先我们先看文件开头,由国家互联网信息办公室(网信办牵头)、工信部、公安部、国家电视广播总局四部门联合发文。为规范人工智能生成合成内容标识而制定。文件名称以”办法“结尾,属于规范性文件(拥有法律效力),发文日期为2025年3月7日。

二、拆结构看背景

文件背景

通过文件开头的依据,查看本文背景:

从上往下看,最上层的是《生成式人工智能服务管理暂行办法》,《互联网信息服务深度合成管理规定》是深度合成技术方面的规定与本办法也有关联,AI合成也包含在深度合成中。然后本办法《人工智能生成合成内容标识办法》与《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》属于政策+标准组合。本办法对《生成式人工智能服务管理暂行办法》第十二条的细化。45438文件负责细节落地。

一般文件(包括本文)都分为总-分-总结构,第一、二条、十三条、十四条为总,中间第三条至十二条为中间结构。

通过通读全文加整理脑图,我将中间部分划分为三大部分:服务提供者、内容传播者、应用商店与用户。本文最后面是我自己总结的脑图,供大家快速了解中间重要部分(花了一段时间,喜欢的话点个赞支持下~)。我们先聊聊开头和结尾的内容。

第一条、第二条


开头第一条说明本办法的依据来源,第二条说明本办法适用范围,服务提供者开展人工智能生成合成内容标识的均适用本办法。

人工智能生成合成内容也就是说指利用AI技术生产、合成的文本、图片、音频、视频、虚拟场景等信息的全部需要遵守本办法来添加标识(最经典的就是我们抖音短视频刷到的“内容为AI生成”字眼)。

第十三条、第十四条

最后两条第十三、十四条说明了处罚依据实施日期,由2025.9.1日起施行。

三、正文内容

第三条

第三条是解释显式标识、隐式标识的含义。这里大白话翻译一下,显式标识的意思是可以被用户看到、听到的标识。隐式标识在内容上是不会直接被用户看到、听到的

第四条

第四条要求服务提供者(直接向用户提供生成或合成服务的主体)添加显式标识,咱们先判断是否属于《互联网信息服务深度合成管理规定》第十七条第一款有哪些情形,然后本条在符合要求的情况下列出了几种需要添加显式标识的情况。

《互联网信息服务深度合成管理规定》第十七条第一款如下图:可能导致公众混淆或者误认的,应当进行显著标识,并且罗列了对应场景

总结一下本条:也就是按照文本、音频、图片、视频、虚拟场景划分,可能导致公众混淆或者误认的需要在内容或内容附近添加显式标识。需要注意的是本文第四条的前两个要求里,有个“或者”二字,说明这是两种情况,需要在两种里最少选一条。再就是第四第五个要求里也有个“可以”二字,可以理解成在”可以“前面的内容是必须执行的,“可以"后面的内容是选择性执行的。

第五条

第五条是说的隐式标识,在读完之后的总结就是,所有AI生成合成内容都需要添加隐式标识。

接下来我们按照顺序看第一句,服务提供者都需要按照《互联网信息服务深度合成管理规定》第十六条的规定,规定的内容如下图所示:

图中所说的深度合成服务可以理解成是AI生成合成的一个子集,是深度学习等算法生成的内容。

回到第五条内容上,也就是服务提供者需要对生成或编辑的信息内容,都应该采取技术措施添加不影响用户适用的标识,也就是需要添加上隐式标识。隐式标识的具体包含内容在《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》中有具体说明。

这里多说两点,隐式标识分为文件元数据隐式标识和内容隐式标识(也就是数字水印形式)两种,文件元数据隐式标识是必须的,数字水印形势是加分项,鼓励提供者添加的。

然后文件的元数据是指描述数据本身的一些特征和背景,比如一段数据的格式、长度等属性数据。通俗来说就是“关于数据的数据”。举个例子:一个文件的文件名、文件大小(占多少KB/MB)、文件类型(.jpg, .pdf, .mp4)、位置信息(文件的存放路径)等。

到这里大家可能还有个问题,文件元数据隐式标识到底长什么样子,我先给大家看一下 45438文件里文件元数据隐式标识格式,在附录中有,大家可以自行了解。

然后我又自己动手验证了一下,大家推荐一个可以识别AI图片的网站,可以检测文件元数据(EXIF) 点击这里:

图穷-在线EXIF图片信息提取

网站名:exif.oneding.tech

AI生成的图片放到网站里检测,内容如下:

在版权信息里,会有一个“AIGC”的标识,有这个标识就代表AI生成合成的内容了,但是这只是代表大部分,我安装了智能体,我让智能体帮我把图片去掉AI生成的内容后,这个网站就检测不到了。

第六条

第六条说的是内容传播者的规定,也就是我们生活中看到的抖音、快手等传播内容的平台应该做的事情。本条是全文中比较难以理解的部分,主要是前三中情况。

前三条需要认真阅读和理解,特别注意“属于”、“可能”、“疑似”这几个字眼。已经在图片中圈出。

1、内容传播者需要核验,核验文件元数据中明确有隐式标识的要添加提示标识提醒“属于生成合成内容”;

2、未核验到元数据中的隐式标识,但是用户声明里声明了(第八条服务提供者需要在声明中明确方法),要添加显著提示标识提醒“可能为生成合成内容”;

3、未核验到元数据隐式标识的,用户声明也没有的,但是平台检测到合成痕迹的。为“疑似生成合成内容”。

上述三种情况均在内容发布周边添加显著提示标识。

第七条

这一条是关于分发平台的,比如说手机上的应用商城之类的平台,在提供AI生成合成服务的应用程序上架时,需要核查生成合成内容标识的相关材料

第八条

服务提供者要在用户协议中明确生成合成内容,上面第六条中的内容传播者核验内容里就有本条内容。

第九条

用户可以向服务提供者申请没有显式标识的生成合成内容。服务提供者提供之后要留存相关日志6个月以上。

第十条

第十条主要是对于用户的,在平台发布内容时应该主动使用平台提供的标识。下面起到警示作用,组织和个人不得恶意破坏生成合成内容标识。

第十一条

目前我查到的还有《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》

第十二条

要求服务提供者在进行算法备案安全评估时,必须一并提交标识合规的相关材料。标识信息共享是为了更好的快速定位责任主体。

安全评估相关标准:GB/T 45654-2025《生成式人工智能服务安全基本要求》

算法备案相关标准:《互联网信息服务算法推荐管理规定》

大模型备案相关标准:《生成式人工智能服务管理暂行办法》

四、总结

本文章的正文内容已经结束了。总结一下,学习这种政策类、规范类的文件并没有想象中的简单,甚至可以说是费时,本以为这十几条的文章会非常简单。可是想要深入吃透其中的所有内容很耗精力。与之前的研究等保测评项完全是两个概念。

个人建议,在学习时可以把《人工智能生成合成内容标识办法》与《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》各读一遍之后,两个搭配着再过一遍。前者是政策框架,后者是强制性国家标准,想要吃透的话两者缺一不可。

另外我在附件中除了本文还上传了《生成式人工智能服务管理暂行办法》、《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》、《互联网信息服务深度合成管理规定》。以供大家参考。下图是本人学习时制作的思维导图,也一起分享给大家,希望可以起到帮助作用。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/26 18:08:19

Kappa一致性结果解读:观察一致性与期望一致性的比较

Kappa一致性检验结果解读Kappa一致性检验是用于衡量两种评价方法或两位评价者对同一对象评价一致性程度的统计方法。Kappa系数考虑了随机因素造成的一致性,能够更客观地反映实际一致性水平。本研究使用SPSSAU软件,对医生A与医生B的诊断判定结果进行Kappa…

作者头像 李华
网站建设 2026/8/26 18:05:18

热仿真在电池包热管理里到底做什么

热仿真在电池包热管理里用于温度场/流场预测、方案对比、结构优化、风险预判,能在打样前评估散热效果,减少试错。电池包热管理涉及多物理场,热仿真价值明显:温度场预测。仿真电池包在充放电、快充工况下的温度分布,识别…

作者头像 李华
网站建设 2026/8/26 18:03:30

Go开发环境搭建:从安装到第一个程序跑通

TL;DR 核心要点速览 Go编译型语言,执行速度比Python快10倍 Goroutine初始栈2KB,比线程轻100倍 Channel是Go并发通信的核心原语 GMP调度器自动管理goroutine调度 Go标准库覆盖HTTP/JSON/加密等常用场景 本篇是Go入门模块,建议按顺序学习 摘要:Go开发环境搭建全流程,从下载安装G…

作者头像 李华
网站建设 2026/8/26 18:02:58

Padstack Editor工具介绍笔记

Padstack Editor工具介绍笔记前言一、 为什么Cadence需要独立的焊盘编辑器?1.1 封装库的两层结构1.2 与AD/PADS的核心区别1.3 独立焊盘编辑器的工程价值二、 Padstack Editor启动与文件类型2.1 启动方式2.2 软件界面功能介绍2.3 文件命名规范前言 如果你是从Altium…

作者头像 李华
网站建设 2026/8/26 17:59:59

SparkStreaming 之 foreachRDD 算子详解及代码实现

摘要:foreachRDD 是 Spark Streaming 里最常用、也最容易写挂的输出算子。这篇讲清它和 transform 的区别——foreachRDD 在 Driver 端拿到 RDD、真正执行在 Executor 端,以及由此带来的一个高频坑:连接到底该建在哪。用三种连接方式的性能对…

作者头像 李华
网站建设 2026/8/26 17:55:18

楼宇自控和智能照明两者应用逻辑

在现代智慧建筑体系中,楼宇自控是统筹建筑所有基础设施运行的核心系统,而智能照明是建筑机电配套的重要组成模块。二者的深度融合,打破了传统照明独立运行、粗放管控的模式,让建筑照明不再是单一的采光设备,而是可感知…

作者头像 李华