职贝云数AI新零售门户
标题:
3·15晚会曝光!AI大模型,遭“投毒”
[打印本页]
作者:
bNu6V5zl
时间:
4 小时前
标题:
3·15晚会曝光!AI大模型,遭“投毒”
与 30万 粉丝一同窗Excel
3·15晚会曝光，应用AI大模型的运作机制，停止商业化、系统性“投毒”。
你可以把AI大模型想象成一个超级“好先生”，它经过阅读互联网上海量的文章、报告、评论来学习知识。当用户发问时，它就根据本人学到的“知识库”来组织答案。
如今，一些公司（GEO服务商）发现了一种“捷径”：既然AI是靠“阅读”来学习的，那我们只需“批量写作业、交作业”，就能让AI“学会”我们想让它说的东西。 这个“交作业”的过程，就被他们称为“GEO”或“投毒”。
(, 下载次数: 0)
上传
点击文件名下载附件
详细操作是这样的：
虚拟产品与内容：比如，记者和业内人士虚拟了一款根本不存在的、名为“Apollo-9”的智能手环，并给它编造了“量子纠缠传感”、“黑洞级续航”等夸张的虚伪卖点。
(, 下载次数: 0)
上传
点击文件名下载附件
批量“写作业”：他们购买名为“力擎GEO优化系统”的软件，输入虚拟的产品信息。这个软件能自动生成大量看起来很像专业测评、用户好评、行业排名的“软文”或“虚伪文章”。
全网“交作业”：软件会自动登录到各种自媒体账号，将这些假文章发布到网上。这些文章会假装成客观的测评、旧事报道或用户分享，目的是混入AI学习的“教材库”。
(, 下载次数: 0)
上传
点击文件名下载附件
“喂”给AI并获取排名：当AI大模型在互联网上抓取信息时，就会“读到”这些被批量发布的假文章。由于数量多、角度全（“专家测评”、“用户反馈”等），AI在交叉验证信息时，就容易误以为这些是真实、可信的信息。当用户再去问AI“哪款手环好？”时，AI就有能够把这款虚拟的、被“投毒”信息包装出来的产品，当作优质引荐回答给用户。
(, 下载次数: 0)
上传
点击文件名下载附件
背后的商业逻辑：
商家（客户）支付费用给GEO公司，就是为了在AI的引荐列表里“榜上有名”，甚至排名前三，这相当于一种新型的、针对AI的“搜索引擎优化”或“广告”。
由于AI回答看起来客观中立，这种“夹带私货”的广告更具有隐蔽性和诈骗性，让用户更难分辨。
这种做法被行业内的人本人戏称为“投毒”——给AI的信息源“下毒”。他们甚至承认，这种行为不只用于抬高本人，还能够用于争光竞争对手。
简单总结：有人经过技术手腕，系统性、大规模地在互联网上制造虚伪信息，专门用来“污染”AI大模型的学习数据，从而达到操控AI引荐结果、完成商业推行或竞争目的的现象。这是一种新兴的、应用AI技术破绽停止的不合理竞争和虚伪宣传手腕。
引荐：315晚会为啥没人看了？职场人：这4个真相，比曝光更扎心！
上篇：工资核对，简单好用！
请把「Excel不加班」引荐给你的冤家
别忘了点赞支持卢子哦↓↓↓
欢迎光临 职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)
Powered by Discuz! X3.5