k8·凯发天生赢家·一触即发(中国区)官方网站

2024年9月14日，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称“办法”）以及配套的《网络安全技术-人工智能生成合成内容标识方法（征求意见稿）》（以下简称“国家强制标准”，与办法合称“两则新规”）。两则新规在此前《互联网信息服务深度合成管理规定》、《生成式人工智能管理暂行办法》和《网络安全标准实践指南—生成式人工智能服务内容标识方法（TC260-PG-20233A）》的基础上，对标识要求的适用主体、具体操作方法以及主体义务等方面的要求进行了细化与新增。本文将围绕两则新规与此前规定的变化，为各方市场主体提供合规意见参考。

 

植徳注：我们为您整理了新旧规范中涉及的具体标识方法，由于篇幅所限，请参见本文附件文件。

 

 

一、新规的新变化

 

1. 适用主体：网络信息服务提供者

 

根据办法第二条，办法适用的主体为符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者。此处有两个关键词可能已经引起了读者的注意：“网络”以及“服务提供者”：

 

A. 新增：通过互联网提供服务

 

目前，生成式人工智能相关的法律法规主要有如下：

 

	名称以及主要内容	发布部门
1	《生成式人工智能服务管理暂行办法》 针对生成式人工智能产品的数据合规、算法合规、知识产权合规、内容合规进行全方位合规要求的规定	国家互联网信息办公室等
2	《互联网信息服务算法推荐管理规定》 针对包括生成合成类算法在内的各类算法的合规规定	国家互联网信息办公室等
3	《互联网信息服务深度合成管理规定》 针对深度合成类算法进行的合规规定	国家互联网信息办公室等

 

但在《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》的适用范围尚存在模糊地带。《互联网信息服务深度合成管理规定》将“深度合成服务”描述为“应用深度合成技术提供互联网信息服务”，《生成式人工智能服务管理暂行办法》却并未提及“通过互联网提供服务”，而是进一步将本地化部署等人工智能服务方式也囊括其中，这一区别在实践层面产生了《生成式人工智能服务管理暂行办法》有别于《互联网信息服务深度合成管理规定》的立法意义。然而，有别于《生成式人工智能服务管理暂行办法》中使用的“生成式人工智能服务提供者”表述，办法使用了“网络服务提供者”表述，似乎在强调两则新规的适用主体仅为通过互联网提供服务的相关服务提供者。

 

B. 细化：服务提供者

 

有别于《互联网信息服务算法推荐管理规定》与《生成式人工智能服务管理暂行办法》均未进一步细分“服务提供者”的定义，《互联网信息服务深度合成管理规定》明确将“深度合成服务技术支持者”独立于“深度合成服务提供者”之外，并在后续算法备案流程中为其设定了不同的备案要求。

 

虽然具有舆论属性与社会动员能力的生成式人工智能算法应按照《互联网信息服务算法推荐管理规定》进行备案，但因生成式人工智能算法需与深度合成算法需共同选择“生成合成类”算法进行备案，导致虽然立法层面并未区分“生成式人工智能技术支持者”与“生成式人工智能服务提供者”，实操层面生成式人工智能服务提供者与深度合成服务提供者一样需要细分“服务提供者”和“技术支持者”，进而适用不同的具体备案要求（其中最为显著的区别即是服务提供者需提供关于服务标识的具体描述，而技术提供者无需提供）。

 

办法目前将适用范围仅限定为“网络信息服务提供者”，本所理解其实质上是从立法层面向生成式人工智能领域延伸了“服务提供者”与“技术支持者”的划分，明确大模型开发、深度合成算法研发等技术支持者无需履行相应的标识义务，而面向用户的服务提供者则需按照办法及相关强制性国家标准履行严格的标识义务。这一规定对进一步厘清人工智能服务提供各主体的义务范围有重要的指导意义。

 

2. 适用客体：人工智能生成合成内容

 

办法第三条明确表示，本办法所称“人工智能生成合成内容”是指“利用人工智能技术制作、生成、合成的文本、图片、音频、视频 等信息”，将利用生成式人工智能算法生成内容与利用人工智能进行深度合成的内容均囊括在适用客体之内，这一行为一定程度上解答了民众此前对生成式人工智能算法究竟应当按照《深度合成管理规定》第十七条的哪一款进行显性标识的问题，为生成式人工智能算法与深度合成算法提供了统一的标识方法指引。

 

3. 具体标识方法：显性标识与隐性标识

 

相较于此前的《深度合成管理办法》第十六条、第十七条以及TC260 出具的《网络安全标准实践指南—生成式人工智能服务内容标识方法》，本次发布的办法和国家强制标准对具体标识方法的显著变化有二：

 

A. 显性标识：对标识方法按照不同的内容类型进行了细化与变更

 

a. 细化

 

TC260 出具的《网络安全标准实践指南—生成式人工智能服务内容标识方法》（简称TC260指引）仅对交互场景、图片和音频三种场景进行了标识指引，而办法和国家强制标准却将生成合成内容划分为文本、图片、视频、音频、虚拟场景和交互场景等具体类型，并就不同类型建立了更详细的要求。

 

b. 变更

 

对提示文字的要求：两则新规删除了TC260指引要求的“提示文字应至少包含‘由人工智能生成’或‘由AI生成’等信息“的要求，改为要求各类内容的显示标识应同时包含“人工智能要素”和“生成合成要素”两方面内容，给了相关产品设计更广泛的空间。

 

对图片和视频的要求：两则新规将标识尺寸更新为“显式标识的文字高度应不低于画面最短边长度的5%”，与TC260指引此前的“所占面积应不低于画面的 0.3%或文字高度不低于 20 像素”有较大变化。同时，对于视频的标识位置，办法和国家强制标准新设了“一个强制，两个自愿”原则，即必须在视频起始画面添加显性标识，视频中间和结尾画面可自愿性添加显性标识。这一要求有别于TC260指引的“视频中由当前服务生成的画面应添加提示，其他画面可不添加提示”规定。但需要注意的是，此处办法要求应当在视频播放周边也添加显性标识，但国家强制标准并未做此要求，此处亟待正式发布稿予以进一步明确。

 

B. 隐性标识：义务类型减负与标识格式格式更新

 

a. 减负：将“内容隐式标识”变更为自愿性义务

 

TC260将“内容隐式标识”与“元数据隐式标识”并列规定为隐式标识的要求范式，但办法和国家强制性标准却将“内容隐式标识”（例如数字水印等）改为鼓励服务提供者履行的自愿性义务，仅要求服务提供者按要求添加元数据隐式标识。这一变更对降低服务提供者的合规成本以及促进相关行业发展有显著积极意义。

 

b. 更新：更新了“元数据隐式标识”的拓展字符格式

 

办法明确规定，隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。国家强制性标准相应地将TC260指引中规定的拓展字符的字符串格式（“AIGC:{"ServiceProvider": value1, "Time": value2，"ContentID":value3}”）变更为“{"AIGC": {"Label": value1, "ContentProducer": value2, "ProduceID": value3, "ReservedCode1": value4, "ContentPropagator": value5, "PropagateID": value6,"ReservedCode2": value7, "}}”，同时针对每个要素的具体要求进行了详细规定。

 

4. 主体责任

 

办法和国家强制性标准创新性地将“内容平台服务提供者”和“互联网应用分发平台”纳入责任主体范畴，不仅要求两主体承担人工智能生成合成内容/上架应用功能的审核义务，还要求“提供网络信息内容传播平台服务的服务提供者”承担对可能和疑似人工智能生成合成内容的主动提示义务以及对“确为、可能和疑似”人工智能生成合成内容的隐性标识义务。这一变化适应于实践中纠纷发生的实际情况，虽一定程度上加重了网络内容平台以及分发平台的相关义务，但对规范人工智能市场秩序、保护用户合法权益有着重要意义。

 

 

二、合规建议

 

1. 人工智能生成合成服务提供者

 

除按要求进行标识之外，结合办法第六、八、九、十一和十二条，本所为人工智能生成合成服务提供者提供如下合规建议参考：

 

A. 用户协议：应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。同时，为免用户需要无显性标识的内容，建议服务提供者事先通过用户协议将标识义务转移给用户并明确使用责任，以备后续向用户提供相应的内容；

 

B. 数据留存期限：如用户需要服务提供者提供没有添加显式标识的生成合成内容，服务提供者应留存相关日志不少于六个月，前述“相关日志”本所理解包括用户协议内容、用户的请求以及向用户提供无显性标识内容的日志； 

 

C. 算法备案与安全评估：在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。 

 

2. 网络内容平台服务提供者

 

结合本办法第六条，本所本所为网络内容平台服务提供者提供如下合规建议参考：

 

A. 主动审核：应当核验文件元数据中是否含有隐式标识；

 

B. 标识与提示义务：对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容; 文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容; 文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者检测到显式标识或其他生成合成痕迹的，可识别为疑似生成合成内容，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容;

 

C. 用户协议：因可能涉及修改用户上传内容的元数据字符，应当在平台用户协议中就此部分修改获得用户相应的授权，以避免构成著作权侵权等情况；

 

D. 产品功能：应在产品中提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。

 

3. 互联网应用分发平台服务提供者

 

结合本办法第六条，本所建议互联网应用程序分发平台尽快按照办法及国家强制标准要求完善平台上架应用的审核标准，除关注具体标识方式外，对于平台用户协议、是否为用户设置功能开关等内容也应当有审核措施。同时，前述审核范围应至少囊括人工智能生成合成应用以及网络内容平台应用。

 

4. 用户

 

结合本办法第十条，本所建议网络用户在三方平台上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识，不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。

 

【具体标识方法详见公号内下载链接】