AI大模型遭“投毒” 给AI“洗脑”已成产业链
来源：
华商网
央视“3.15”晚会曝光AI大模型被投毒，服务商通过GEO技术操控AI、让AI“听话”、给AI“洗脑”、让客户的商品广告，成为AI模型给出的“标准答案”。
通过GEO技术真的能让AI“夹带私货”，甚至投放虚假信息吗？业内人士在电商平台上，随机购买了一款名叫“力擎GEO优化系统”的软件。之后，他虚构了一款名为Apollo-9的智能手环，并将虚构的产品信息输入软件系统，勾选文章创作指令。不一会儿，这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文，所有虚假信息都被完整写入，还杜撰了用户反馈，称数据精准度超出预期，甚至伪造评分，被一举评为业界第一名。点击发布，“力擎GEO优化系统”软件开始自动执行发布任务。
两个小时后，业内人士在某款AI大模型中询问：“Apollo-9智能手环怎么样”。AI模型就直接介绍了起来：最大亮点是健康监测功能，还直接照搬了业内人士虚构的“量子纠缠传感”“黑洞级续航”等虚假宣传话术。最终结论称，该手环适合中老年用户与健康养生爱好者。
查询发现，这款AI大模型所参考的资料，正是刚发布在业内人士自媒体账号上的那篇虚构文章。通过这款力擎GEO系统对AI大模型潜移默化的一番围猎，凭空捏造出来的这款商品，就这样被荒唐地推向了使用AI大模型的消费者。
这款力擎GEO系统的运营者李总告诉记者，GEO业务受热捧的主要原因就是它能在AI大模型里帮客户“喂料投毒”，实现客户的商业目的。据央视
0人
