中国国家互联网信息办公室9月14日公布了一份征求意见稿，旨在规范人工智能（AI）生成合成内容标识，“维护国家安全和社会公共利益”。

这份正在向社会公开征求意见的标识办法对于人工智能生成合成内容在制作、展示和传播过程中的标识提出明确要求。

根据征求意见稿，符合条件的人工智能生成合成服务提供者将被要求对生成的文本、视频、音频和虚拟场景添加显著的提示标识。与此同时，也鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

征求意见稿提到，任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得通过不正当标识手段损害他人合法权益。征求意见稿还要求，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。

国家互联网信息办公室称，这些要求旨在维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

这些要求建立在现有法律框架的基础上，包括2023年1月施行的《互联网信息服务深度合成管理规定》。该规定要求对可能导致公众混淆或者误认的深度合成内容进行显著标识。另一项里程碑式的规定是2023年8月施行的《生成式人工智能服务管理暂行办法》。

此次的征求意见稿是中国对人工智能的快速发展以及该技术带来的挑战——包括错误信息传播和版权问题——的最新回应。举例来说，“深度伪造”技术可利用人工智能对图像、音频和视频进行造假，进而用来实施欺诈。

中国政法大学专家张凌寒说：“标识制度可以提升人工智能信息内容治理能力，减少虚假信息生成，防止虚假信息污染下一代训练数据，营造良好的网络信息生态环境。”

许多国家和组织都在探索如何规范人工智能生成的内容，以确保真实性、保护版权和维护社会秩序。值得注意的努力包括欧盟的人工智能协调计划、美国的《深度伪造问责法案》和英国政府的《在线危害白皮书》。北京一位专门从事知识产权交易的律师表示，这一举措意味着中国生成式人工智能服务业进入严格监管和高合规标准的新阶段。