时报观察:AI新骗局 平台责任大

2024-12-23 21:55:55
分享

人工智能(AI)骗局又有了新花样。

有网友向媒体反映,家中老人在网络卖货视频中看到“张文宏医生”在卖一种蛋白类的产品。老人信以为真,不仅下了单还转发到了很多群。经核实,该视频中的“张文宏医生”不是张文宏本人,而是利用AI技术合成的。张文宏对此回应称,这样的卖货账号已出现多个,而且一直在变。他虽然多次向平台投诉,但都收效甚微。

张文宏是国家传染病医学中心(上海)主任,复旦大学附属华山医院感染科主任。在新冠疫情期间,因为多次在公开场合发声而被普通人熟知,在社会上具有很高的权威性和公信力。如果他来带货,愿意买单的人自然很多。骗子们也是利用了普通人这种心理,才想出用AI合成视频进行带货。

相比过往利用熟人的影像和声音,通过电话或者微信进行诈骗,近期利用AI合成名人照片、视频进行的骗局屡见不鲜,受害者除了张文宏,还有靳东、黄百鸣等影视明星。

国家网信办、工信部、公安部在2022年颁行了《互联网信息服务深度合成管理规定》,其中明确了深度合成技术的使用规范,规定不得利用深度合成服务侵犯他人合法权益。上述行为显然不合法不合规。

值得关注的是,此类骗局,更多是利用短视频平台、电商平台等进行发布和直播,吸引用户购买相关产品,然后完成整个欺诈过程。显然,平台对此应该担负起更多的审核责任。

《互联网信息服务深度合成管理规定》要求深度合成服务提供者提供深度合成服务,可能导致公众混淆或者误认的,必须在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。

但刻意造假者显然不会遵守此项规定,平台则应该主动对相关视频进行审核和监管。至少从技术层面上,对任何上传的合成视频都应该主动提示。

张文宏说他虽然多次向平台投诉,但都收效甚微。事实上,正是一些平台机制不完善、治理不给力,客观上让一些不法分子有机可乘,甚至有恃无恐。而根据前述管理规定,视频平台若是对平台使用者的这种侵权行为不予恰当处理,则可能承担连带责任。

AI合成或者生成视频,给平台带来了更多的流量,吸引了更多的用户。平台企业在享受流量增加的同时,也有必要承担更多责任,避免有更多受害者受骗上当。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME