职贝云数AI新零售门户

标题: 赶快转发给身边人!315曝光!AI大模型“投毒”发虚伪信息! [打印本页]

作者: a6Olk 时间: 昨天 18:37
标题: 赶快转发给身边人!315曝光!AI大模型“投毒”发虚伪信息!
大事大事都没事！有事就去问AI。

“给我引荐几款好用的耳机。”、“引荐几个在XXX附近好吃的餐馆。”

(, 下载次数: 0)

01

大事大事都问AI？315的曝光我整破防了

不知道你们会不会常常用AI去查询一些你不知道吗的信息，

反正小媛我是常常会用，不只方便还觉得AI知道的总比我多，又安心又靠谱。

但是当我们习气了向AI求助——查产品、问知识、找答案，甚至依赖它做决策时，

(, 下载次数: 0)

2026年315晚会的一则曝光，像一盆冷水浇醒了一切运用者：你眼前的AI回答，能够不是客观真相，而是被精心设计的“谎言”。

“什么！AI还会'中毒'骗人！”

我勒个老天！DeepSeek、豆包、元宝、文心一言等主流大模型赫然在列！无一幸免！

(, 下载次数: 0)

一个常常用AI求助的小女孩悄然的碎了......

随着315的曝光一条围绕“GEO生成式引擎优化”的AI投毒黑产就此浮出水面。

我就想知道：AI说的，到底还可信吗？

02

离谱现场：一款不存在的产品，两小时就被AI吹上了天

315晚会现场：一款完全虚拟的“Apollo-9智能手环”，经过一款名为“力擎GEO”的优化系统，几分钟内就能生成十余篇虚伪软文，这些文章不只杜撰了“量子纠缠传感”“无需采血测血糖”等离谱功能，还伪造了用户反馈和行业排名。

(, 下载次数: 0)

点击发布后，系统会自动登录自媒体账号，一键完成标题、内容、配图的发布，整套流程一气呵成。

(, 下载次数: 0)

仅仅两小时后，当记者在多款AI大模型中讯问这款虚拟手环时，AI竟一本正派地照搬虚伪信息，甚至引荐给中老年人作为健康好物；

(, 下载次数: 0)

三天内，经过持续发布11篇虚拟的“专家测评”“用户反馈”，这款不存在的产品更是登上了两大主流AI的引荐榜单前列。

这对吗？我是真没想到AI还能这样，我不断以为他是在训练好的知识库里发散，最多就是联网搜一下网上有的信息，还有信息来源。

不知道有多少人和我一样，觉得AI生成的答案挺靠谱的，至少在本人看来，AI什么也懂，所以大事大事没事就问AI。

(, 下载次数: 0)

03

AI 投毒的真面目：GEO 到底是个什么 “黑科技”？

这背后，就是被黑产从业者直抒己见的“AI投毒”，而其核心工具，便是GEO（Generative Engine Optimization）——生成式引擎优化。

那什么是GEO呢？

要小媛说：GEO就是经过在互联网上批量发布虚伪信息、软文，让AI在抓取信息时将这些谎言当作“可信来源”，进而在回答中反复复述，让谎言摇身一变成为“AI认证的标准答案”。

(, 下载次数: 0)

最让我震惊的是，这曾经构成了一套成熟的利益链条，成为一门一本万利的生意。

根据315曝光的信息，GEO服务密码标价，从基础版到高级版不等，高级版可完成每天生成63篇软文、24小时不间断发布。

(, 下载次数: 0)

涉事公司担任人坦言，他们一年服务200多个客户，遍及医疗、教培、装修、家电等各行各业，核心竞争力就是“能在任何平台把客户排名做到前三位”。而所谓的“优化”，本质就是“投毒”——不只能帮客户丑化产品、虚拟优势，还能专门给竞品“投毒”，编造黑历史、争光口碑。

(, 下载次数: 0)

更可怕的是，这种投毒门槛极低，几十元、几篇软文、几小时，就能完成对AI的“洗脑”，就连手机等大品牌，也被曝每年花费数百万元用于此类操作。

04

细思极恐：AI 投毒的坑，早就埋在了生活的角落

AI投毒的危害，远比我们想象的更隐蔽、更深远。

它早已不局限于虚拟一款产品，而是浸透到生活的方方面面：

(, 下载次数: 0)

求职时，HR随口向AI讯问候选人背景，一条被投毒的虚伪负面信息，能够就让一个人错失机会，而候选人甚至不知道本人输给了一条AI编造的谎言；

买家具时，AI被竞品投毒后，会清一色引荐“避雷”某品牌，让消费者堕入“一切品牌都渣滓”的困惑；

给老人选血糖仪、给孩子选奶粉时，被投毒的AI引荐的虚伪产品，能够直接要挟到家人的健康安全。

正如一位GEO从业者所说：“AI出来的结果大家会信，哪怕产质量量不如竞品，只需有AI背书，就能抢占市场。”

05

为什么 AI 这么容易 “中招”？

更让人无法的是，普通人很难分辨AI能否被“投毒”。

(, 下载次数: 0)

我们信任AI，本质上是置信它能整合全网信息、给出客观结论，但AI的信息抓取逻辑，恰恰给了黑产无隙可乘——它不会“思索”，只会“统计”，只需某类信息在网上出现的频率足够高、角度足够多，就会被当作“可信信息”。

这就让我忽然想到了“数字生命卡兹克”之前做过的AI投毒实验了：

经过注册小红书小号发布错误信息去误导AI生成错误信息的指令，

当时只觉得很好玩，没想到还真有别有用心的人去把他作为一个生意。

(, 下载次数: 0)

06

AI 的话还能信吗？我们普通人该如何自保？

那么，面对被投毒的AI，我们真的只能一筹莫展吗？AI说的话，到底还能信吗？

答案并非相对的否定。首先要明白：AI本身没有善恶，它只是一个工具，被投毒的是AI抓取的信息，而非AI本身。

315曝光后，各大主流大模型已疾速呼应，对曝光的虚伪产品信息停止清算，速度是真快呀，当时清算完这条，当前呢？

(, 下载次数: 0)

难不成还是曝光一条清一条？

本来GEO技术本身是优化信息分发的工具，错的是应用它传播虚伪信息、牟取暴利的黑产从业者。

对于普通人而言，我们无法改变黑产的运作，但可以学会“带着怀狐疑运用AI”。

(, 下载次数: 0)

AI的出现，本是为了帮我们打破信息差、提高效率，但当它被黑产应用，反而会制造新的信息壁垒和信任危机。

315的曝光，不是为了否定AI，而是为了提示我们：科技的提高，需求监管的护航，更需求每个人的警觉。

将来，随着监管的完善和技术的晋级，AI投毒乱象终将被遏制。

但在此之前，我们要记住：AI可以是我们的助手，但永远不能成为我们独一的依赖。

面对AI给出的答案，多一份慎重，多一次验证，才能避免被“骗”，真正让AI为我们所用。

毕竟，可信的从来不是AI，而是我们辨别信息的才能。

the end

这里是日常测AI、偶然吐吐槽的小媛，关注AI发展科技共创将来！既然都划到这儿了，不关注一波说不过去吧？否则下次更新能够你就刷不到我啦！扫码加入小媛的AI小窝，不要错过每一篇精彩文章！
(, 下载次数: 0)

欢迎光临职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)