据“网信中国”5月12日消息，针对部分短视频内容来源不清、真假难辨等问题，中央网信办指导网站平台深入清理虚假摆拍等违规短视频52万余个，明确网站平台必须为用户提供“含有虚构演绎内容”“含有AI生成内容”等标签。南都N视频辟谣专栏《真假即时查》此前曾调查曝光不法分子利用AI深度伪造，快速起号后开始带货、卖课等乱象。

据“网信中国”发文，今年以来，中央网信办全面部署推进规范短视频内容标注工作。1月以来，指导网站平台深入清理虚假摆拍等违规短视频52万余个，严惩违规账号6.8万余个，发布治理公告54期，并集中曝光典型案例。今年3月，网信部门指导抖音、快手、腾讯、小红书等12家平台先行先试，完善内容标注标签，对内容标注功能进行优化和测试。

中央网信办指导各地各网站平台全面推进落实三项工作，其中包括规范短视频内容标注标签，明确网站平台必须为用户提供6类“必选标签”，并可根据自身实际提供其他“可选标签”。

其中，“必选标签”包括“含有虚构演绎内容”“含有AI生成内容”“含有营销信息”“内容为转载”“内容为个人观点”和“无需标注”。真实生活记录类短视频可选择“无需标注”标签，该标签不在短视频页面呈现。此外，中央网信办还明确将内容标注设为短视频发布必经环节，发布者必须从“必选标签”中选择一项，才能发布短视频。

南都此前报道，3月23日，南都记者从“网信中国”获悉，当前，一些含有虚构演绎、摆拍营销、AI生成等内容的短视频未进行规范标注。近一个月以来，6家重点平台深入清理虚假摆拍等违规短视频3.7万余条。

南都N视频此前推出调查《网红造谣的幕后生意：以AI造假起号引流，涨粉后再转型转卖》。调查发现，为起号引流涨粉，不法分子利用AI深度伪造，误导公众认知，快速起号后，开始带货、卖课等。有的被明码标价放到账号交易网站上，形成“起号、转型、转卖”的灰色产业链。

《人工智能（885728）生成合成内容标识办法》于2025年9月1日起正式施行，要求对人工智能（885728）生成合成内容进行显式标识和隐式标识。