■本报记者王小月
近年来，AI深度合成名人、换脸换声的视频层出不穷，利用音视频诈骗、虚假带货频发。近日，演员吴越称一觉醒来“被直播带货”——AI合成的“她”在网络上兜售重组胶原蛋白精华液，单品月销7000余单。其附上的视频截图显示，一个与她容貌高度相似的数字人正在直播间里推荐一款护肤产品，口型、神态、语气都足以乱真，观众几乎不可能分辨真假。
演员成为“数字劳工”
无独有偶，2025年4月起，温峥嵘团队发现网络上出现大量AI伪造的“温峥嵘直播间”。同一时段内，至少12个账号同时开播，每个直播间里都有一个“温峥嵘”在带货，妆发不同、产品不同，但话术高度雷同。温峥嵘本人曾进入其中一个直播间质问“你是温峥嵘我是谁”，随即被对方拉黑。其团队单日即发现近50个冒充账号，但每天仍有新号不断涌入。温峥嵘无奈地表示：“我现在就很难证明我是我。”2025年12月，温峥嵘就AI换脸盗播报警并晒出受案回执。
靳东也是被AI换脸侵权的典型案例之一。他的形象被不法分子专门用于针对中老年群体的情感诈骗与非法集资。靳东在回应中直言，此类行为“性质极其恶劣”“AI换脸技术不只是用在短剧，很多人也因为AI换脸遭遇网络诈骗”。与一般带货侵权不同，靳东的案例已经越过了虚假代言的边界，直接演变为诈骗工具。
从2020年“假靳东”用照片加机器配音忽悠六旬老人，到2026年“AI吴越”在镜头里声情并茂地卖精华液，短短6年，仿冒技术完成了从“一眼假”到真假难辨的跨越。
河南泽槿律师事务所主任付建对记者表示，随着深度学习、神经网络等技术的发展，AI技术在人脸识别（885759）、图像合成等领域的应用越来越成熟。一些不法分子利用这些技术，轻松地将他人的面部信息盗取并合成到各种场景中，进行诈骗活动。与此同时，随着开源技术普及，这些技术的学习和应用门槛也在逐渐降低，使得更多的人有机会接触到这些技术，进一步加剧了AI盗脸类诈骗的发生。
付建表示，商家未经演员授权，使用其形象进行直播，涉嫌侵犯肖像权和姓名权。同时，商家还侵犯消费（883434）者的知情权、选择权、公平交易权，甚至可能危及安全保障权；情节严重的，还可能涉嫌欺诈。
AI标识竟成“挡箭牌”
在社交平台上，不少人报价几元到十几元就可以生成一条15秒的AI视频。记者看到，有AI电商工具介绍称，可以一键复刻同行爆款带货视频：先上传要复刻的参考视频，再上传要替换的人物或产品，选好类型和比例，将时长设置为与参考视频一致，即可生成一段高度还原的复刻视频。其本质是利用大模型实现一键复刻。
那么，给AI视频加上AI标识，能否解决问题？去年9月，《人工智能（885728）生成合成内容标识办法》开始施行。1年多过去，绝大多数AI视频都增加了标识，但新问题随之出现：近期多个涉嫌侵权的AI视频都带有“含AI生成内容”提示，标识反而成了侵权者的“挡箭牌”。
记者在短视频平台看到，目前的AI标识主要有两种：一种是作者主动声明“内容由AI生成”，另一种是平台识别后标注“疑似使用AI技术”。多数违规视频现在确实带了“含AI生成内容”小字。但标识只回答“是不是AI做的”，回答不了“有没有授权”“是不是欺诈”。
AI治理步入深水区
风险不只在屏幕这一侧。杭州市中级人民法院今年公布了一起案例，AI生成视频已经能够逃过人脸识别（885759）系统。2名不法分子利用网络收集他人照片，通过AI生成点头、摇头、眨眼等动态视频，再篡改相机数据，成功突破了购物平台的人脸核验，盗取了账户内的个人信息。
针对侵权行为，今年9月，最高人民法院发布《关于依法审理涉人工智能（885728）纠纷案件的意见》(以下简称《意见》)，对利用人工智能（885728）侵害肖像权、名誉权、隐私权、声音权益等行为的责任追究作出了明确规范，主要针对AI换脸拟声、AI幻觉侵权、网络开盒等社会热点问题。
《意见》明确，针对涉人工智能（885728）纠纷案件技术性、专业性强等特点，当事人因客观原因不能自行收集的证据，可申请人民法院调查收集；必要时，人民法院可以依职权调查收集证据，并及时审查证据保全申请，进一步降低当事人的举证难度。
在专项治理层面，执法力度持续加大。中央网信办深入开展“清朗.整治AI应用乱象”专项行动，重点打击利用AI换脸换声假冒他人身份、制作传播虚假信息、营销牟利等违法违规行为。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。
付建表示，AI仿冒带货侵犯的是被仿冒者的肖像权和声音权，被仿冒者可依据《民法典》向侵权商家主张权利，或向平台投诉、向法院起诉。“但对消费（883434）者来说，识别此类AI技术诈骗的难度很大。”付建建议，消费（883434）者购物时应尽量选择信用良好的网络平台或商家直营店铺。
