9月1日起，AI生成内容要求必须强制做出标识，否则将有违法违规的风险。

　　《人工智能生成合成内容标识办法》（以下简称《标识办法》），于今年3月发布，要求所有利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息，都必须依法添加相应的身份标识。

　　▲点击图片了解《人工智能生成合成内容标识办法》具体内容和要求。

　　该《标识办法》于9月1日起正式施行，从此AI生成内容告别“隐身”状态，必须添加“水印”，以亮明身份了。

　　01

　　《标识办法》出台的背景

　　《标识办法》不仅仅是一纸技术标准，更是国家对AI内容治理系统性布局的重要一环。

　　据报道，目前我国生成式人工智能产品的用户规模已达2.3亿人，已有490余款大模型在国家网信办完成备案，240余款大模型在省级网信办完成登记。

　　随着技术的不断发展，人工智能生成合成内容的制作日益简单和逼真，有的几乎可以“零门槛”达到以假乱真的地步，AI生成内容风险日益凸显。其中造谣、擦边、换脸、拟声等是AI滥用的重灾区，导致虚假信息泛滥、身份信息冒充、恶意内容生成、版权纠纷不断等乱象频发，严重破坏了网络生态。

　　在此种现状下，今年4月份，中央网信办启动了“清朗·整治AI技术滥用”专项行动，聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象。在专项行动的第一阶段，累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

　　《标识办法》是针对AI内容的标识提出要求，切入点虽小，却符合当前人工智能技术的发展现状。当每一份AI内容都被清晰标识时，用户就能够更加理性地判断信息来源和可信度，在信息传播、消费决策、知识获取等场景中，减少被虚假信息误导的风险。

　　《标识办法》的出台，通过进一步规范人工智能生成合成内容标识，与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规相衔接，将进一步推动人工智能产业健康有序发展。

　　02

　　平台积极响应

　　自9月1日起，各平台企业和每一位内容创作者都将直面这场史无前例的合规大考。

　　《标识办法》对AI内容的标识提出了三大核心要求，涉及显式标识、隐式标识和平台责任。明确要求，平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示，从而在传播端阻断虚假信息扩散。

　　各大平台积极进行标识功能部署，微信、抖音、小红书、DeepSeek等陆续出台了细化规则。

　　微信公众平台发布了《关于进一步规范人工智能生成合成内容标识的公告》，并对平台标识提示和用户主动声明两种形式进行示范。抖音集团目前已上线两项核心功能：一是AI内容标识功能，协助创作者为AI内容添加提示标识，方便用户区分辨别；二是AI内容元数据标识读写功能，可识别并写入AI内容的元数据信息，为内容溯源提供技术支撑。小红书也推出AI生成合成内容标识技术及功能，在笔记发布和内容管理环节提供了标识路径，便于创作者在合规创作的同时进行自主声明。

　　▲小红书对如何主动添加AI标识进行指导。

　　03

　　媒体在行动

　　此次《标识办法》的推出，对内容创作者也将产生深远影响，无论是个人博主、自媒体工作室还是专业内容机构，都必须重新审视自己的内容生产流程，建立完善的AI内容标识机制。

　　此前，有应用AI生产传播的内容机构，尤其是专业媒体机构，已经通过内容管控制度与流程，开始有意识地主动在显著位置添加提示，逐步落实AI内容标识工作。

　　▲人民网发布的海报，在右上角做出了“图片由AI生成”的显著标识。

　　▲新京报动新闻团队创作的《AI重现<中国娃娃>：1岁孩子如何让侵华日军暴行震惊世界？》用AI技术还原了88年前的照片《中国娃娃》诞生的经过，在视频画面右上角标注了“画面由AI辅助还原”字样。

　　当然，任何法律法规的执行，并非简单的“发布-遵守”的线性过程，《标识办法》的落实也不可能一蹴而就，也会面临多种挑战。

　　目前标识技术存在易规避的问题，显式标识可能会被裁剪、PS抹除，隐式标识在视频转码、压缩、截图等操作后可能失效或被破解。检测模型的准确率也并非100%，可能存在“误杀”与“漏网”，导致误判和漏判的发生。而部分用户和创作者，因认知与能力不足，不知道“怎么标、标什么”，或认为过程繁琐，可能选择忽视……无论是技术上还是认知上的攻防战，还将持续存在。

　　但无论如何，从“先发展后治理”到“边发展边治理”，《标识办法》的发布执行，标志着中国对生成式AI的监管进入“技术管技术”的新阶段。只有让每一条AI内容都能被看见、被追溯，产业才能真正走出“野蛮生长”，迈向健康、可持续发展的时代。