文档管理中心
应用分发应用市场审核政策资质文件法规依据及示例人工智能生成合成内容标识相关材料

人工智能生成合成内容标识相关材料

一、法规依据

《人工智能生成合成内容标识办法》

第二条:符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者(以下简称“服务提供者”)开展人工智能生成合成内容标识活动,适用本办法。

第三条:人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

人工智能生成合成内容标识包括显式标识和隐式标识。

显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

第四条:服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照下列要求对生成合成内容添加显式标识:

(一)在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识,或者在交互场景界面、文字周边添加显著的提示标识;

(二)在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识,或者在交互场景界面中添加显著的提示标识;

(三)在图片的适当位置添加显著的提示标识;

(四)在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可以在视频末尾和中间适当位置添加显著的提示标识;

(五)呈现虚拟场景时,在起始画面的适当位置添加显著的提示标识,可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识;

(六)其他生成合成服务场景根据自身应用特点添加显著的提示标识。

服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。

第五条:服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途等信息内容。

二、FAQ

1、什么是人工智能生成合成内容?

依照《人工智能生成合成内容标识办法》第三条,人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

2、人工智能生成合成内容标识的类型有哪些?

依照《人工智能生成合成内容标识办法》第三条,人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

3、需添加人工智能生成合成内容标识的人工智能生成合成内容适用场景有哪些?

依照《互联网信息服务深度合成管理规定》第十七条,深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:

(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;

(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;

(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;

(四)沉浸式拟真场景等生成或者编辑服务;

(五)其他具有生成或者显著改变信息内容功能的服务。

深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。

典型场景举例:

4、为什么要提交人工智能生成合成内容标识相关材料?

依照《人工智能生成合成内容标识办法》第七条:互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的,互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

5、人工智能生成合成内容标识相关材料具体包含哪些文件?

人工智能生成合成内容标识相关材料(如下二选一):

(1)应用未提供文本、音频、图片、视频等人工智能生成合成内容文件的导出或下载等功能,不涉及人工智能生成合成内容文件元数据,需提供:应用内已添加内容显式标识截图;

(2)应用提供文本、音频、图片、视频等人工智能生成合成内容文件的导出或下载等功能,涉及人工智能生成合成内容文件元数据,需提供:人工智能生成合成内容标识说明函,说明文件模板请参考:人工智能生成合成内容标识说明函.zip;

6、为什么要在生成合成内容中添加显式标识?

依照《人工智能生成合成内容标识办法》第四条,服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照下列要求对生成合成内容添加显式标识:

(一)在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识,或者在交互场景界面、文字周边添加显著的提示标识;

(二)在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识,或者在交互场景界面中添加显著的提示标识;

(三)在图片的适当位置添加显著的提示标识;

(四)在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可以在视频末尾和中间适当位置添加显著的提示标识;

(五)呈现虚拟场景时,在起始画面的适当位置添加显著的提示标识,可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识;

(六)其他生成合成服务场景根据自身应用特点添加显著的提示标识。

服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。

7、添加生成合成内容显式标识的具体方法是什么?

(1)文本内容显式标识方法如下:

a) 文本内容显式标识应采用文字或角标形式。

b) 文字形式的文本内容显式标识应同时包含以下要素:1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术;2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。

c) 角标形式的文本内容显式标识应包含“AI”。

d) 文本内容显式标识应位于以下一个或多个位置:1) 文本的起始位置;2) 文本的末尾位置;3) 文本的中间适当位置。

e) 文本内容显式标识使用的字型和颜色应清晰可辨。

(2)图片内容显式标识方法如下:

a) 图片内容显式标识应采用文字提示。

b) 图片内容显式标识应同时包含以下要素:1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术;2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。

c) 图片内容显式标识应位于图片的边或角。

d) 图片内容显式标识使用的字型应清晰可辨。

e) 图片内容显式标识的文字高度不应低于画面最短边长度的5%。注:非矩形图片的最短边指可完全将该图片包含在内部的矩形的最短边。

(3)音频内容显式标识方法如下:

a) 音频内容显式标识应采用语音标识或音频节奏标识。

b) 语音标识应包含以下要素:1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术; 2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。

c) 音频节奏标识应为“短长 短短”的节奏。

注1:“短长 短短”节奏为“AI”的摩斯码表示。

d) 音频内容显式标识应位于以下一个或多个位置:1) 音频的起始位置;2) 音频的末尾位置;3) 音频的中间适当位置。

注2:音频的起始位置位于生成合成的音频内容开始之前。音频的末尾位置位于生成合成的音频内容结束之后。

注3:在智能语音助手、智能客服、智能导航等音频的高频交互场景中,音频的起始位置、末尾位置是指一轮交互的起始位置和末尾位置。

e) 语音标识应使用正常语速。

注4:汉语正常语速约在120字/min~160字/min。

f) 节奏标识应清晰可辨。

(4)视频内容显式标识方法如下:

a) 视频内容显式标识应采用文字提示。

b) 视频内容显式标识应同时包含以下要素:1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术;2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。

c) 视频内容显式标识应位于视频起始画面,可位于视频末尾和中间适当位置。

d) 视频内容显式标识应位于视频画面的边或角。

e) 视频内容显式标识使用的字型应清晰可辨。

f) 视频内容显式标识的文字高度不应低于画面最短边长度的5%。

g) 在视频正常播放速度下,视频内容显式标识持续时间不应少于2s。

(5)虚拟场景显式标识方法如下:

a) 虚拟场景显式标识应采用文字提示。

b) 虚拟场景显式标识应同时包含以下要素:1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术;2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。

c) 虚拟场景显式标识应位于虚拟场景起始画面,可位于虚拟场景持续服务过程中的适当位置。

d) 位于虚拟场景起始画面的虚拟场景显式标识应位于画面的边或角。

e) 虚拟场景显式标识使用的字型应清晰可辨。

f) 虚拟场景显式标识的文字高度不应低于画面最短边长度的5%。

(6)交互场景界面显式标识方法如下:

a) 交互场景界面显式标识应采用文字提示。

b) 交互场景界面显式标识应同时包含以下要素:1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术;2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。

c) 交互场景界面显式标识应采取以下一种或多种方式:1) 在内容附近持续显示提示文字;2) 在交互场景界面顶部、底部、背景等适当位置持续显示提示文字。

d) 交互场景界面显式标识使用的字型和颜色应清晰可辨。

说明

文字提示应同时包含以下要素:1)人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术;2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。例如,“AI生成”或“AI 合成”或“人工智能生成”或“人工智能合成”。

8、为什么要在生成合成内容的文件元数据中添加隐式标识?文件元数据指的是什么?

(1)依照《人工智能生成合成内容标识办法》第五条:服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条(深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识,并依照法律、行政法规和国家有关规定保存日志信息。)的规定,在生成合成内容的文件元数据中添加隐式标识。

(2)文件元数据指的是按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途、版权等信息。

说明

如您的应用未提供文本、音频、图片、视频等人工智能生成合成内容文件的导出或下载等功能,不涉及人工智能生成合成内容文件元数据和隐式标识,无需提供文件元数据隐式标识说明文件和文件元数据中已添加隐式标识的截图。

9、添加生成合成内容文件元数据隐式标识的具体方法是什么?

(1)隐式标识应包括以下要素:

a) 生成合成标签要素:内容的人工智能生成合成属性信息;

b) 生成合成服务提供者要素:生成合成服务提供者的名称或编码;

c) 内容制作编号要素:生成合成服务提供者对该内容的唯一编号;

d) 内容传播服务提供者要素:内容传播服务提供者的名称或编码;

e) 内容传播编号要素:内容传播服务提供者对该内容的唯一编号。

(2) 文件元数据隐式标识格式应符合附 录 E.zip,更多信息可参考《人工智能生成合成内容标识方法》关于发布《人工智能生成合成内容标识方法 文件元数据隐式标识 文本文件》等6项网络安全标准实践指南的通知

(3)人工智能生成合成的内容文件中,应仅保留一份文件元数据隐式标识。

说明

如您的应用未提供文本、音频、图片、视频等人工智能生成合成内容文件的导出或下载等功能,不涉及人工智能生成合成内容文件元数据和隐式标识,无需提供文件元数据隐式标识说明文件和文件元数据中已添加隐式标识的截图。

(4)在接入第三方大模型时,应要求服务提供方出具隐式标识截图,或自行通过《人工智能生成合成内容标识服务平台》进行检测并获取检测结果作为合规证明。

10、《人工智能生成合成内容文件元数据隐式标识说明函》应该如何填写?

a、《说明函》中的应用名称和企业名称须与提交的应用名称和开发者名称保持一致,且加盖公章;

b、如涉及多个人工智能生成合成场景,需提供多个场景下的显式标识和元数据隐式标识截图信息。

在 应用分发 中进行搜索
请输入您想要搜索的关键词