近日,演员吴越一觉醒来,发现自己竟在视频里“带货”卖护肤品:口型对得上,声线基本一致,可她本人从没用过这款产品。该账号还如法炮制,冒用邓亚萍等公众人物的名义,制作大量带货视频,只在角落标注一行小字“含AI生成内容”。(相关报道:演员吴越再回应“被AI换脸带货”:东西不是我卖的,最怕的是粉丝真信;朋友妈妈已经买了,他们说“吴越说好的,我就买了”)
10月19日,涉事账号已被永久封禁。封禁一个账号容易,斩断一条产业链却并非易事。明星被盗脸、消费(883434)者被收割,这门“假明星”的生意是如何跑通的?记者就此展开调查。
发几张照片,AI就能让明星“带货”
“上周刷到的带货视频还是刘亦菲,这周怎么就换人了?”近日,看到带货视频中的“代言人”频繁更换,李女士在购买一款面膜后起了疑心,特意去查刘亦菲本人有没有推荐过这款产品,结果发现对方根本没带过货。直到近日看到演员吴越发文怒斥的消息,她才发现之前看到的“明星带货视频”根本不是实拍,而是AI合成的。
李女士的遭遇并非个例。在社交平台上,不少消费(883434)者反映曾因明星推荐下单,事后却发现视频中的明星从未代言过相关产品。记者在主流电商平台及二手平台以“AI视频”为关键词检索后发现,大量商家公开承接各类AI人物视频定制业务,报价从几百元到上千元不等。
记者以买家身份咨询多家店铺,商家的说法并不一致。有商家表示,因为涉及侵权,不能制作明星的带货视频,可以换成其他数字人的形象。也有商家称,可以做AI明星带货视频,需要几张照片或者一段视频,技术方面没难度,主要靠文案和剧情创意出彩。当记者追问是否涉及侵权时,对方并未正面回应,只称“标注AI生成内容就行”。
事实上,吴越事件中的涉事账号正是采用了这一套路。账号“花姐美肤日记”抓取吴越过往公开影像,通过AI调整口型、替换台词、复刻声线,伪造出她推荐商品的场景,仅在角落标注一行小字“作者提示:含AI生成内容”。据测算,仅这款护肤品近30天销量就超7000单,销售额约50万元。
10月19日,涉事账号已无法搜到,并被永久封禁。封禁一个账号容易,斩断一条产业链却并非易事。记者调查发现,从AI视频制作到流量变现,一条分工明确的产业链已然成型。
100元起换脸,一周速成万粉号
记者以“想用明星形象做带货短剧、起号变现”为由,联系到一家承接AI视频制作的公司。“30秒短视频100元,1分钟短视频200元,带脚本,包出片。”在一份AI视频制作报价单上,记者看到,商家按分辨率、时长、剧本精细度分档报价,跑量视频从每分钟200元起步,每往上一个档位加价200元。
负责人王先生(化名)推荐记者以公司名义申请多个子账号,这样就能形成一套“矩阵号”。王先生称,不少做AI带货的客户都是这么操作,公司主体能申请的账号越多,后面再靠运营投流放量就越方便。
“明星网红脸、数字人脸,想要什么类型的脸都行。”王先生表示,一般新账号的前3到5条视频比较重要,一周之内能让平台给账号“打上标签”,涨粉到1万左右就算起号成功;做得比较好的账号十几天能有2万粉丝。他建议后续再找代运营。客户只要出钱,就能坐等“明星替自己的产品带货”。
一段几十秒的“明星带货”视频,熟练操作者半小时内就能完成,复杂的视频制作要耗费半天到一天时间。“真正的成本不在技术,而在于怎么把流量做起来。”王先生称,这种打法并不新鲜:批量注册账号、交叉引流、多“明星”轮番上阵,单一账号被举报封禁,内容就迅速迁移到新账号,生意照做不误。
那么,这门生意究竟能赚多少钱?王先生说,此类账号的变现效率取决于粉丝质量和选品,做得好的一天进账数千元并不稀奇,“前期投入主要是时间和工具费用,跑通之后几天回本是很正常的事”。
曾有业内人士向媒体透露,在不违规的情况下,养成一个粉丝10万的高仿明星账号,一般需要15到30天时间,如果凑巧碰上哪个作品被平台推荐上热门,可能10天时间就能达到10万粉丝。换言之,这是一门“低投入、快回本、可复制”的生意。
AI“盗脸”生意链,该如何斩断
当技术能够轻易复制任何人的脸和声音,普通人的面容同样可能被盗用。演员温峥嵘曾发现自己同一时段“现身”于3个不同的直播间,她冲进直播间评论:“你是温峥嵘,那我是谁?”结果却被瞬间拉黑、禁言。一天时间内,温峥嵘团队曾集中举报50个假冒账号。连温峥嵘都要经历漫长的拉扯,普通人若想追回损失,难度只会更高。
9月7日,《最高人民法院关于依法审理涉人工智能(885728)纠纷案件的意见》明确,未经同意使用自然人声音作为训练语料,模仿其音色、语调和发音风格生成可识别的合成人声的,构成对声音权益的侵害。操控虚拟形象、合成声音实施不当行为,或者发表不实言论、降低他人社会评价的,构成对名誉权的侵害,依法追究行为人的侵权责任。
上海段和段(济南)律师事务所孙富果律师解读,判断AI合成视频是否侵权,核心标准并非是否100%复刻本人样貌、声音,而是可识别性。只要普通公众能够认出视频中的虚拟形象对应特定自然人,就落入人格权保护范围。
“即便标注AI生成,未经许可商用合成肖像、声音仍侵害肖像权、声音权,且涉嫌以非法占有为目的虚构代言骗取财物,数额较大的,可能构成诈骗罪;虚假宣传情节严重的,可能构成虚假广告罪。”河南泽槿律师事务所主任付建认为,账号虚构了明星代言这一交易事实,消费(883434)者可以依据《消费(883434)者权益保护法》第55条主张惩罚性赔偿,人民法院依法予以支持,即退一赔三;不足500元的按500元计算。
“新的内容应用形态不断出现,平台审核规则需要及时跟进更新。从目前平台对内容丰富度的考量来看,平台对内容质量的把控通常倾向于从宽。”上海财经大学数字经济(885976)研究院副院长崔丽丽在接受齐鲁晚报·齐鲁壹点采访时表示,明星的形象被冒用、声誉被透支,维权却步履维艰;消费(883434)者冲着明星推荐下单,买到的是什么、值不值这个价,往往要等收到货才知道;而链条另一端的运营者,藏在账号背后,来去自如。因此,平台不能只做曝光后的“封号者”,而需要在识别到风险时主动介入。
在AI仿冒明星带货中,通用大模型平台与换脸拟声工具服务商承担的注意义务虽有差异,但技术中立不能成为违法行为的避风港,是否建立与场景风险相匹配的防范机制,是认定过错的核心。此类行为可能叠加民事、行政、刑事多重法律责任,孙富果律师提醒,新技术的商业应用不能靠伪造名人信任来收割消费(883434)者,随着最高法涉AI纠纷相关意见落地,裁判规则进一步明晰,“标注即免责”的空间将会持续收窄。
齐鲁晚报评论 AI标注不等于免责!盗脸带货该算的账一笔都不能少
AI把“盗脸带货”的成本砍到了百元级,法律却不能把追责成本也砍下去。
演员吴越遭AI伪造带货视频事件曝光,揭开一条灰色产业链:花100元便可定制换脸拟声短视频,靠着角落一行不起眼的“AI生成”小字,不法分子堂而皇之盗用明星形象收割销量,封号之后换个账号便能卷土重来。
商家大概以为,这行字就是挡箭牌:我标了是AI,责任就该到此为止。这套算盘,打错了。
最高法涉人工智能(885728)纠纷意见明确,只要普通公众能够识别视频形象指向特定自然人,即便做AI标注,未经许可商用合成他人肖像、声音,依然构成人格权侵权。
标注只是履行内容标识的法定义务,不能抵消盗用他人形象商业谋利的过错,更不能掩盖虚构明星代言、欺骗消费(883434)者的事实。
封禁一个账号容易,斩断产业链难,难就难在平台的“事后封号者”心态。明知是批量注册、交叉引流、多明星轮番起号的矩阵打法,为何不能前置识别、主动拦截?审核规则慢半拍、内容尺度放一码,客观上就是为“盗脸生意”放行。
“技术中立”从来不是避风港,通用大模型与换脸拟声工具服务商是否建立了与风险相匹配的防范机制,理应成为认定过错的核心标尺。
技术向善,靠的是规则划出的边界,而不是违法者的自律。随着裁判规则日益明晰,“标注即免责”的空间只会越来越小。
AI标注不是护身符,封号不是终点;肖像声音的账、平台分发的账、黑产收益的账、消费(883434)者被骗的账……该算的,一笔都不能少。
