AI合成内容认证新规出台，9 月起实施，网信办等四部门联合发布

AI合成内容认证新规，保障信息真实可信【翻转虚假，构筑数字信任】

　　 3月14日消息，为推动人工智能产业健康发展，加强人工智能生成合成内容的标识管理，保障公民、法人及其他组织的合法权益，维护社会公共利益，国家互联网信息办公室、工业和信息化部、公安部及国家广播电视总局联合发布了《人工智能生成合成内容标识办法》（以下简称《标识办法》）。该办法将于2025年9月1日正式实施。

　　 近年来，随着生成式人工智能与深度合成技术的快速进步，利用这些技术生成或合成文本、图片、音频、视频等信息变得更加便捷。这类技术在推动经济增长、丰富网络内容以及改善公众生活方面发挥了积极作用，但同时也带来了虚假信息传播、网络生态受损等一系列问题。社会各界对此高度关注，并呼吁尽快出台专门法规，加强技术层面的监管力度，明确平台的责任归属。为了回应社会关切及民众期待，国家互联网信息办公室联合工业和信息化部、公安部、国家广播电视总局共同制定了《标识管理办法》。该办法以内容标识为核心切入点，对先前相关规章中关于标识的具体要求进行细化，进一步凸显内容标识在提醒警示与监督追溯方面的技术功能，致力于构建一个公开透明、公正合理的治理体系，营造公平竞争的发展氛围，从而推动人工智能产业的健康持续发展。

　　 《标识办法》指出，人工智能生成合成内容的标识主要分为显式标识和隐式标识两类。显式标识是通过文字、声音或图形等形式，在生成合成内容或交互场景界面上添加，并能够被用户直观察觉到的标识；而隐式标识则是利用技术手段，在生成合成内容的文件数据中嵌入的，通常不易被用户直接注意到的标识。

　　 依据《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》以及《生成式人工智能服务管理暂行办法》的相关要求，开展人工智能生成合成内容标识工作的机构或企业，需遵循《标识办法》中的相关规定。

　　 根据《标识办法》的规定，当服务提供者所提供的生成合成服务符合《互联网信息服务深度合成管理规定》第十七条第一款的情形时，必须依据要求在生成合成的内容上添加明显的标识。同时，服务提供者还需依照《互联网信息服务深度合成管理规定》第十六条的要求，在生成合成内容的文件元数据中嵌入隐式标识。此外，提供网络信息内容传播服务的服务提供者应采用技术手段，对生成合成内容的传播活动进行规范化管理。

　　 《标识办法》强调，任何组织和个人都不得恶意删除、篡改、伪造或隐匿本办法所要求的生成合成内容标识，也不得为他人的此类恶意行为提供技术支持或便利条件，更不能利用不正当的标识手段侵害他人的合法权益。 我认为，这一规定旨在维护网络环境的健康与秩序，确保信息的真实性和透明度。在当前信息化高度发达的时代，生成和合成内容广泛应用于各个领域，但同时也带来了诸多潜在风险。如果缺乏有效的监管和约束，虚假信息可能会被大范围传播，进而误导公众，甚至引发社会矛盾。因此，明确禁止任何形式的恶意操作，并对相关行为进行严格管控，是十分必要的。同时，这也提醒广大网民要提高辨别能力，在获取信息时多加核实，共同营造清朗的网络空间。

　　 附《标识办法》全文如下：

　　 第一条 为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。

　　 第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识活动，适用本办法。

　　 第三条人工智能生成的合成内容是指借助人工智能技术创造或整合的文本、图片、音频、视频以及虚拟场景等信息。

　　 人工智能生成合成内容标识包括显式标识和隐式标识。

　　 显式标识是在创建合成内容或设计交互场景时，通过文字、声音、图形等形式展现，并能够被用户清晰感知到的标识。

　　 隐式标识是在生成合成内容时通过技术手段嵌入的一种不易察觉的标记。这种标识在日常使用中很难被普通用户注意到，但它在保护数字内容的安全性和版权方面发挥着重要作用。随着数字技术的发展，隐式标识已经成为维护网络环境健康的重要工具之一。 我认为，隐式标识的广泛应用不仅有助于防止未经授权的内容传播，还能为创作者提供更可靠的权益保障。特别是在当前信息爆炸的时代，如何确保原创内容不被恶意篡改或滥用，隐式标识无疑提供了有效的解决方案。然而，我们也需要关注其可能带来的隐私问题，确保技术的应用既能促进创新，又能尊重用户的合法权益。总之，在技术发展的道路上，平衡安全与隐私是至关重要的课题。

　　 第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：

　　 （一）原新闻内容提到，在某些情况下，为了更好地引导读者理解信息，会在文本的起始、末尾或中间添加适当的提示标识。这一做法旨在帮助人们更清晰地把握重点。 修改后的原创内容： 在实际操作中，通过在文章开头、结尾或正文中插入必要的提示性文字或符号，能够有效提升信息传递的准确性与效率。这种做法不仅有助于突出关键点，还能减少误解的可能性。 个人观点： 我认为，在信息爆炸的时代，合理运用提示标识是一种非常值得推广的方法。它既能让复杂的信息变得条理分明，也能让读者快速抓住核心要点，从而提高阅读体验。特别是在新闻报道领域，恰当的提示不仅能增强可信度，还能帮助公众更准确地解读事件背景和发展趋势。因此，无论是传统媒体还是新媒体平台，都应重视这一细节，以更好地服务于受众需求。

　　 （二）在音频的开头、结尾或中间合适的位置加入语音提示或节奏提示等标记，或者在交互式场景界面里设置明显的提示标识。

　　 （三）在图片的适当位置添加显著的提示标识；

　　 （四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；

　　 （五）呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；

　　 （六）其他生成合成服务场景应根据自身特性，设置清晰且显著的提示标识，以便用户更直观地了解服务性质与功能边界。这一举措不仅有助于提升用户体验，也能有效避免潜在的信息误导或权益纠纷。 在我看来，这种要求体现了对消费者知情权的重视。在数字化时代，信息过载已成为常态，而合成技术的应用更是让内容真假难辨。因此，通过明确标识来区分自然生成与人工合成的内容，无疑是构建健康网络生态的重要一步。同时，这也提醒相关企业需更加注重社会责任，在追求技术创新的同时，也要确保其应用符合伦理规范和社会公共利益。毕竟，透明度不仅是对用户的尊重，也是对企业长远发展的保障。

　　 服务提供者在提供生成合成内容的下载、复制、导出等功能时，必须保证文件中包含符合要求的显式标识。

　　 第五条根据《互联网信息服务深度合成管理规定》第十六条的要求，服务提供者应在生成合成内容的文件元数据中嵌入隐式标识。该隐式标识应包含合成内容的属性信息、服务提供者的名称或编码以及内容编号等制作要素的相关信息。

　　 倡导服务提供者在制作合成内容时加入数字水印等隐式标识。

　　 文件元数据是一种嵌入在文件头部的描述性信息，它以特定的编码格式存在，主要用于记录文件的来源、属性以及用途等关键内容。这种技术在数字时代显得尤为重要，因为它不仅能够帮助用户快速了解文件的基本情况，还能有效提升文件管理的效率。 在我看来，元数据的作用远不止于此。随着信息技术的发展，越来越多的数据被生成和存储，而如何高效地管理和利用这些数据成为了一个亟待解决的问题。元数据的引入无疑提供了一种有效的解决方案，它就像一个隐形的标签，为每一份文件赋予了独特的身份标识。这不仅有助于防止文件丢失或混淆，还能够在大数据分析中发挥重要作用，使信息检索更加精准。 此外，元数据的应用也推动了版权保护和隐私安全的进步。通过详细记录文件的创建者、修改历史等信息，可以有效追踪文件的传播路径，这对于打击盗版行为具有重要意义。同时，在个人隐私日益受到重视的今天，合理使用元数据可以帮助我们在享受便捷服务的同时，更好地保护个人信息不被滥用。 总之，文件元数据作为现代信息技术的重要组成部分，其价值正在不断被挖掘和拓展。未来，随着技术的进一步发展，我们有理由相信，元数据将在更多领域展现出更大的潜力，为我们的生活带来更多便利。

　　 第六条提供网络信息内容传播服务的服务提供者有必要加强管理，确保生成合成内容传播活动的规范化。这一要求不仅关乎平台自身的健康发展，更直接影响到整个网络生态的安全与秩序。 在当前技术快速发展的背景下，人工智能等新技术被广泛应用于内容创作领域，这为用户提供了更加丰富多元的信息体验。然而，随之而来的虚假信息、不实言论等问题也日益突出，这对社会公共利益构成了潜在威胁。因此，服务提供者必须承担起相应的责任，通过建立健全的内容审核机制和技术手段，对生成或合成的内容进行严格把关，避免误导公众。 同时，还应鼓励社会各界共同参与监督，形成政府监管、行业自律和社会共治的良好局面。只有这样，才能更好地维护网络空间清朗，促进数字经济健康有序发展。总之，面对新时代带来的机遇与挑战，各方需携手努力，构建一个既充满活力又和谐稳定的新媒体环境。

　　 （一）在核验文件元数据时，需特别留意其中是否隐含着生成合成内容的相关标识。对于那些明确标注为合成内容的文件，应通过合适的方式，在其发布内容的周围添加醒目的提示标志，以便公众清楚地了解到该内容属于生成或合成类型。这一措施不仅有助于提高信息透明度，还能有效避免公众对内容真实性产生误解。 我认为，随着人工智能技术的发展，生成合成内容的应用场景日益广泛，这无疑给信息传播带来了新的挑战。如何平衡技术创新与信息真实之间的关系，是当前亟待解决的问题。通过在合成内容周围添加提示标识，既是对公众知情权的尊重，也是对媒体责任的一种体现。这种做法能够帮助受众更好地辨别信息来源，增强判断力，从而构建更加健康的信息生态。同时，这也提醒内容创作者，在利用先进技术创作的同时，也要承担起相应的社会责任，确保信息传播的真实性和客观性。

　　 （二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容可能为生成合成内容；

　　 （三）在当前的信息传播环境中，当文件元数据未能揭示任何隐式标识，且用户也未明确声明其内容为生成或合成时，提供网络信息内容传播服务的服务提供者应保持高度警惕。若通过技术手段发现显式标识或其他生成合成的痕迹，则应将其视为疑似生成合成内容。此时，服务提供者有责任采取合理措施，在相关内容周围添加醒目提示标识，以提醒公众此内容可能属于生成合成类型。这种做法不仅有助于维护信息的真实性和透明度，还能有效避免虚假信息的扩散，保护公众知情权。 我的看法是，随着人工智能技术的发展，生成合成内容的能力日益增强，这既带来了便利，也伴随着潜在的风险。因此，平台方在履行社会责任的同时，也需不断完善技术手段，确保能够及时准确地甄别此类内容，并通过直观的方式告知用户。此外，还应加强公众教育，提高大家对生成合成内容的辨别能力，共同构建健康和谐的网络环境。

　　 （四）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。

　　 有前款第一项至第三项情形的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。

　　 第七条 互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

　　 第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

　　 第九条用户在申请服务提供者生成合成内容时，若未要求添加显式标识，服务提供者可在与用户达成一致并通过用户协议明确标识义务及使用责任的前提下，提供无显式标识的生成内容。同时，服务提供者需依法保存相关操作记录和用户信息等日志至少六个月，以确保可追溯性与合规性。 这一做法体现了技术应用中的权责平衡原则。一方面，它为用户提供了更灵活的服务选择，满足了特定场景下的需求；另一方面，也强调了平台方对内容生成过程的透明度管理以及后续责任追溯的能力。这种机制既保障了用户体验，又避免了潜在的法律风险，值得肯定和支持。同时，建议未来能进一步细化协议条款，增强双方权利义务的清晰度，从而更好地保护各方利益。

　　 第十条用户利用网络信息内容传播服务发布生成或合成内容时，应主动作出声明，并运用服务提供者提供的标识功能加以标注。

　　 任何组织和个人都不得恶意删除、篡改、伪造或隐匿本办法所要求的生成合成内容标识，也不得为他人的此类恶意行为提供技术支持或便利条件，更不能利用不正当的标识手段侵害他人的合法权益。 我认为，这一规定旨在维护网络环境的健康与秩序，确保信息的真实性和透明度。在当前信息化高度发达的时代，生成和合成内容广泛应用于各个领域，但同时也带来了诸多潜在风险。如果缺乏有效的监管和约束，虚假信息可能会被大范围传播，进而误导公众，甚至引发社会矛盾。因此，明确禁止任何形式的恶意操作，并对相关行为进行严格管控，是十分必要的。同时，这也提醒广大网民要提高辨别能力，在获取信息时多加核实，共同营造清朗的网络空间。

　　 第十一条服务提供者在开展标识活动时，还需遵守相关的法律法规、部门规章以及强制性国家标准的要求。

　　 第十二条服务提供者在进行算法备案与安全评估时，需依据本办法提交生成合成内容的相关标识材料，并强化标识信息的共享机制，以协助防范和打击相关违法犯罪行为，提供必要的支持与帮助。

　　 第十三条根据相关规定，若违反本办法要求，网信、电信、公安及广播电视等相关主管部门将依据各自职责，依照有关法律法规和部门规章进行处理。

　　 第十四条 本办法自 2025 年 9 月 1 日起施行。