[智能应用]对于人工智能生成合成内容，中国出台规定[1P] [复制链接]

中国政府14日发布了一项规定，旨在规范人工智能技术在数字内容创作中的作用。
这份题为《人工智能生成合成内容标识办法》（以下简称《标识办法》）的文件由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布。
该办法为生成合成文本、图片、音频、视频等信息制定了明确规则。
根据规定，人工智能生成合成内容必须包含用户可以明确感知的显式标识，以及采取技术措施在生成合成内容文件数据中添加的隐式标识。
其中显式标识可以是文字、声音、图形，隐式标识则可以使用数字水印等技术来标识内容的属性及其来源。
提供内容生成合成服务的平台必须确保可下载或共享的文件包含所需的标识。
该法规还要求服务提供商在服务中明确告知用户识别方法和标识样式。
《标识办法》强调，任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，也不得为他人实施上述恶意行为提供工具或者服务。
报道称，这一法律框架体现了中国对负责任地发展人工智能的承诺。
《标识办法》将于今年9月1日实施，旨在防止滥用人工智能，同时促进人工智能的道德和安全应用。
报道称，中国的目标是到2030年成为人工智能技术领域的全球领导者。
2017年，中国公布了《新一代人工智能发展规划》，提出了雄心勃勃的目标，即人工智能核心产业规模超过1500亿元，带动相关产业规模超过1万亿元。
2021年11月中国开始施行个人信息保护法，为个人信息的收集、存储和使用制定了标准，旨在保护用户隐私。
此外，2023年，中国提出了“全球人工智能治理倡议”，旨在促进人工智能的安全、道德和公平发展。（编译/王萌）

2月27日，观众在郑州博物馆观看展览。当日，“AI绘画的共生探索”作品展在郑州博物馆开幕。

中国出台《人工智能生成合成内容标识办法》
出台规定概述
近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起施行。该办法旨在促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益。

出台背景
近年来，人工智能技术快速发展，为生成合成文字、图片、音频、视频等信息提供了便利工具，海量信息得以快速生成合成并在网络平台传播。在促进经济社会发展的同时，也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题，引发社会关注。

主要规定内容
标识类型及要求
显式标识：是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。例如，在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识等。
隐式标识：是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。服务提供者应当在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
对不同服务提供者的要求
生成合成内容服务提供者：除了添加显式和隐式标识外，还应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。若用户申请服务提供者提供没有添加显式标识的生成合成内容的，服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存提供对象信息等相关日志不少于六个月。
网络信息内容传播服务提供者：应当采取措施规范生成合成内容传播活动，如核验文件元数据中是否含有隐式标识，根据不同情况在发布内容周边添加显著的提示标识，并在文件元数据中添加传播要素信息，同时提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
互联网应用程序分发平台：在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。若提供该服务，应当核验其生成合成内容标识相关材料。
对用户的要求
用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。

禁止行为
任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

配套标准
配套《标识办法》，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》已由国家市场监督管理总局、国家标准化管理委员会正式批准发布

中国政府确实在近期发布了《人工智能生成合成内容标识办法》（以下简称《标识办法》），这项规定由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布，旨在规范人工智能技术在数字内容创作中的作用。以下是该办法的一些关键点：

1. 显式和隐式标识：根据《标识办法》，人工智能生成合成内容必须包含用户可以明确感知的显式标识，以及采取技术措施在生成合成内容文件数据中添加的隐式标识。显式标识可以是文字、声音、图形，而隐式标识可以使用数字水印等技术来标识内容的属性及其来源。

2. 平台责任：提供内容生成合成服务的平台必须确保可下载或共享的文件包含所需的标识，并明确告知用户识别方法和标识样式。

3. 禁止恶意行为：任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，也不得为他人实施上述恶意行为提供工具或者服务。

4. 实施日期：《标识办法》将于2025年9月1日实施，目的是防止滥用人工智能，同时促进人工智能的道德和安全应用。

5. 中国对AI的承诺：这一法律框架体现了中国对负责任地发展人工智能的承诺，并与中国的目标相符，即到2030年成为人工智能技术领域的全球领导者。

6. 相关法规：中国在2017年公布了《新一代人工智能发展规划》，提出了人工智能核心产业规模超过1500亿元的目标，并在2021年11月开始施行个人信息保护法，为个人信息的收集、存储和使用制定了标准，旨在保护用户隐私。2023年，中国提出了“全球人工智能治理倡议”，旨在促进人工智能的安全、道德和公平发展。

综上所述，《标识办法》是中国在人工智能领域规范发展的又一重要步骤，旨在确保技术的健康发展，同时保护公民的合法权益和社会公共利益。