最近，在百度上搜索照片时会发现，照片上有“AI图片编辑”字样，点进去后，即使“小白”也可以一键实现图片“变清晰、去水印、扩图、智能抠图”等，这在以前是不可想象的。让复杂工作变得如此简单，自然要感谢近年来快速发展的人工智能、深度合成等新技术。然而，人工智能生成的文本、图像、音视频等内容在推动经济创新、丰富数字生态的同时，也引发了虚假信息传播、破坏网络生态等风险。如何区分、确保数据质量与内容真实性，成为技术应用与产业发展的关键命题。
2025年3月7日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布了《人工智能生成合成内容标识办法》（以下简称《标识办法》）。这一办法的出台，标志着我国在人工智能深度合成内容管理领域迈出了重要一步，为人工智能产业健康有序发展提供了制度保障。
高质量数据对生成式人工智能产业发展至关重要
谈及为何要发布《标识办法》？全国政协委员、金杜律师事务所高级合伙人张毅表示，数据是人工智能发展的基石，其质量直接影响人工智能模型的性能和输出结果。数据来源有多方面，包括公开数据、公共数据、私域数据等。而数据质量涵盖了准确性、完整性、一致性、时效性、可靠性和可用性等多个维度。高质量数据对生成式人工智能产业发展至关重要，基于错误或不完整的数据作出的决策可能偏离正确方向，不符合法规要求的数据可能带来法律风险。
行业中有句俗话叫：垃圾（数据）进，垃圾（结果）出。如果生成式人工智能产生的结果未经标识而进入公开数据领域，大模型无法将其与正常数据区分开来，可能将其用于预训练，导致模型可能输出与事实严重偏离的结果，即“模型幻觉”。更严峻的是，若这些“幻觉数据”被其他模型二次训练使用，将形成“污染循环”，最终导致技术可信度崩塌。此外，提升数据质量的方式通常包括数据清洗和校验，如果“生成数据”不加标识，数据清洗和校验也很难实现。这里所说的数据包括文字、图片和视频。当摄影师历经千辛万苦拍摄的照片与生成照片混在一起时，如不加标识，获奖的极有可能是生成式照片；当生成的视频不加标识地呈现在人们眼前时，会对人们的生活造成极大混乱和困扰。
《标识办法》的出台，正是从源头破解这一困局的关键举措。
明确标识要求，让生成内容“看得见、查得到”
“一是明确标识要求，让生成内容‘看得见、查得到’。”张毅说，《标识办法》明确，人工智能生成合成内容标识包括显式标识和隐式标识两种形式。显式标识要求服务提供者在生成内容中嵌入可被用户直接感知的提示，例如在文本首尾添加文字标识、在图片及视频画面中插入图形、声音等显著图标等，此举可以确保用户能直观辨别生成内容的人工智能属性。而隐式标识则要求服务提供者通过技术手段将生成内容的制作要素信息（如服务提供者编码、内容编号等）嵌入文件元数据或数字水印中，这既保障了标识的持久性，也为后续数据清洗、校验提供技术依据。隐式标识不易被用户明显感知到。
二是《标识办法》细化了服务提供者、平台、用户责任，明确了各方义务。张毅表示，如服务提供者需在内容生成、传播各环节履行标识义务，在提供下载功能时要确保显式标识满足要求，也就是要在深度合成的文本、图片、音频、视频、呈现虚拟场景及其他生成合成服务场景中添加显著的提示标识，在文件元数据中要记录隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息，并要求通过用户协议明确说明生成合成内容标识的方法、样式等规范内容。
平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示，从而在传播端阻断虚假信息扩散。
用户发布从网上下载的生成合成内容时，应当主动声明并使用他人提供的标识功能进行标识，不得恶意删除、篡改、伪造、隐匿生成合成内容标识，不得通过不正当标识手段损害他人合法权益，违者将承担法律责任。
《标识办法》的第三个亮点是与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接。比如，服务提供者在履行算法备案、安全评估等手续时，应当提供生成合成内容标识相关材料，为防范打击相关违法犯罪活动提供支持和帮助。这主要是因为，相关材料可能涉及标识的技术细节，如水印算法、元数据格式、服务商编码等，这些信息能够帮助执法部门在发现违法内容时快速识别内容来源，追踪到服务提供者或者用户。以金融诈骗案件为例，当不法分子利用人工智能生成虚假信息、伪造文书等方式实施金融诈骗时，执法机关可以根据技术细节迅速判断该内容是否由人工智能生成，追溯由哪家服务提供者生成、具体生成的时间和使用账号，并迅速锁定幕后黑手。这些信息就像是数字世界的“指纹”，可以为案件侦破提供关键线索。
此外，配套《标识办法》，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》，已由国家市场监督管理总局、国家标准化管理委员会正式批准发布，2025年9月1日与《标识办法》同步实施。这些都为行业发展提供了可操作的合规路径。
彰显中国在推动人工智能健康发展方面的责任与担当
“《标识办法》的落地对于规范生成合成内容标识、保障人工智能健康发展具有重要意义。”张毅说，通过规范生成合成内容的标识，可以有效区分人工智能生成内容与真实数据，避免“幻觉数据”进入公开数据领域，从而提升数据质量，保障人工智能模型输出的准确性。另外，有助于减少虚假信息的传播，维护网络空间的清朗生态。与此同时，还能够增强用户对人工智能生成内容的信任，推动生成式人工智能技术在更多领域的应用落地，为社会经济发展注入新动能。此外，《标识办法》的出台，体现了我国在人工智能治理领域的积极探索，彰显了中国在推动人工智能健康发展方面的责任与担当，也为全球人工智能治理提供中国方案。
《标识办法》以“标识”为锚点，既为技术应用划定安全边界，也为社会信任筑牢基石，但人工智能治理仍任重道远。未来，还需要进一步完善相关法规和标准，加强技术研发和应用，提升数据质量和治理能力。同时，社会各界也应积极参与，共同推动人工智能的健康发展，为构建智能社会贡献力量。（记者 徐艳红）
