最近,一个叫“小海”的孩子含泪求助,说自己的带货比赛只差最后一单,不少人看得心里发酸,点开链接替他补上“最后一单”。可记者调查发现,这个“苦命孩子”的身份和故事,从头到尾都是编出来的——那些看似真实的悲惨身世,不过是用来博取同情、引流带货的“人设”。悲情背后藏着怎样的生意?虚假人设是如何打造出来的?又该如何治理?
视频里这个带着哭腔的男孩,账号名字叫“小海”,前一个画面中男孩还躺在昏暗的房间内声泪俱下,恳请大家下单支持,下一个画面就坐起来为一种“杂粮饼”产品带货。
记者在抖音搜索关键词“小海”,发现大量雷同视频,同一个男孩形象、相似的哭腔、相同的带货模式,连身世都基本一致,都是单亲家庭出身、运动会夺冠、带货比赛还差最后几单。
令人意外的是,不少网友辨认出,这些视频账号里的“小海”,是AI合成的虚拟形象。记者进一步调查发现,“小海”并不是一个人,而是批量复制的同款人设,通过一些AI带货APP,换一套背景、改一段台词,就能批量生成一个个新的“小海”。社交平台上,名为“小海”的账号并不少见,评论区里留言下单的,其中不少是中老年女性。甚至一位79岁老人因为深信这个并不存在的所谓“苦命孩子”,差点跨越几千公里去探望,最后由于铁路乘警及时发现而制止。
记者发稿前,“小海”账号的带货视频,已在多个平台下架。但同样的AI数字人“虚拟人设”,并没有随“小海”账号一起消失。换上白大褂,他们又以“医生”的身份,出现在多个网络平台。益生菌、固体饮料,甚至手串,都成了他们口中能“断根”的“神药”。
记者发现,一批账号的视频里,反复出现“医生”的形象。他们有的自称“院长”,有的自称“主任”,出镜场景不是手术室就是病房,问诊、开方、推荐产品。这些所谓“医生”有些标注了AI合成,有的并未标注。
这些声称能“断根”的产品究竟是什么?记者注意到,视频中一款声称化解血管淤堵的“紫苏山茱萸归灵颗粒”,外包装明确标注为“固体饮料”;声称“对幽门螺杆菌、胃酸胃痛没有疗效十倍赔偿”的,记者发现实际就是益生菌产品;另一款被说成“断根”血管淤堵利器的,实物就是一串手串。
记者梳理调查中的账号,“深山救助”“AI小海”“AI医学专家”,主页或视频下方大都挂着商品链接。而消费(883434)者下单前看到的,往往是视频里那个被虚构出来的身份。
记者调查发现,“虚假人设”类的账号背后,往往还有脚本、教程、代运营和批量注册的矩阵账号。而从作品发布、流量推荐到商品链接,每个环节都依托短视频平台完成。那么,平台针对这类虚假内容,是否建立了相应的识别、认定与监管机制?
一平台智能客服称,平台一直有针对这类虚假人设虚假宣传类内容的识别机制,会结合作品内容,账号历史行为,用户反馈举报,多维度核验,一旦核实到违规就会按规则处理。记者调查了解到,平台都会有核实处理机制,但直播场次太多,可能不是每一场次都能监测到,建议网友随时举报处理。
假身世、假专家、假救助,套路在翻新,目的没变:就是把同情和信任换成订单。这类视频从发布、推荐到成交,每个环节都在平台上完成。专家提醒,平台的责任贯穿全程:事前核验,事中拦截,事后封堵。视频删了不等于问题解决了,标了“AI生成”也不等于免责了。让每一条虚假人设视频传不出去、卖不成货、追得到人。央视新闻
