规范人工智能产业 网信办就人工智能生成合成内容标识办法征求意见

　　作为新兴产业的重要代表，人工智能目前正处于高速发展的阶段，不断的影响着我们的生活，甚至一定程度改变了现有的产业与服务。毋庸置疑，人工智能给我们的生活带来了便利，但与此同时，它同样带来了一系列矛盾，其中，不少与隐私保护和版权归属有着密切联系。也正因如此，规范人工智能生成内容，成为了现阶段该良性推进该技术发展的一项重要工作。
 

　　近日，为了进一步加强人工智能生成合成内容管理，规范人工智能生成合成内容标识，网信办发布《人工智能生成合成内容标识办法(征求意见稿)》(以下简称：征求意见稿)，意见反馈截止时间为2024年10月14日。
 

　　该征求意见稿基于《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章制定，旨在规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
 

　　征求意见稿中，明确了人工智能生成合成内容包括了利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息，内容标识则包括显式标识和隐式标识。其中显式标识指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识；隐式标识指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
 

　　具体的添加方式根据生产内容的不同决定，具体可以参考征求意见稿第四条、第五条。并且征求意见稿强调了服务提供者提供生成合成内容下载、复制、导出等方式时，需要确保文件中含有满足要求的显式标识；鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
 

　　征求意见稿还明确了传播平台责任，提出提供网络信息内容传播平台服务的服务提供者需核验文件元数据中的隐式标识，并在发布内容周边添加显著的提示标识。而如用户需要未添加显式标识的生成合成内容，服务提供者需在用户协议中明确标识义务和使用责任，并提供后留存相关日志不少于六个月。此外服务提供者需提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
 

　　征求意见稿最后还针对监管与处罚进行了简单的说明，其中包括三部分，“务提供者应当按照有关强制性国家标准的要求进行标识”“服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享”“违反未对生成合成内容进行标识造成严重后果的，由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚”。
 

　　相信随着公众的反馈，《人工智能生成合成内容标识办法》会不断完善，待确认并落实后，将有助于促进人工智能技术的健康发展，保护用户权益，维护社会公共利益。