职贝云数AI新零售门户

标题: 3·15晚会丨AI大模型,遭“投毒” [打印本页]

作者: tsB16T 时间: 9 小时前
标题: 3·15晚会丨AI大模型,遭“投毒”
按照业内人士爆料，记者在多个网络平台查询搜索到了一项名为GEO的业务，这些从事该项业务的服务商号称，用户只需支付相应的费用，它就能在各大主流AI大模型里，让客户的产品榜上有名；让客户的商品广告，成为AI模型给出的“标准答案”。

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqjUDDsdsH34fZJibCGcu8ibiaU5mzibrSib7Dheic3EstQOerEraTPCUw98rN1PrEdkkFlkO3o66ibjZjLHOBIV1veD1ofun7nRRWBr5s/640?wx_fmt=jpeg&from=appmsg[/img]

经过GEO技术，真的能给AI“投毒”、真的能“征服”并操控AI吗？

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqjngv6EmVMicOJwfqR62yJ7ugTvJBhufaL3GBhMkR1d0UTDVZZQ899rduEsCpxEibY8xzxE1klz4Z1gM6Luxlr8AeJNaMwmHRxvU/640?wx_fmt=jpeg&from=appmsg[/img]

按照网络上的信息，记者联络上一家业内知名的GEO服务商。担任人王总接待了记者，他引见，他们公司是最早从事GEO业务的公司之一，仅仅一年工夫就曾经成功服务了200多个客户，遍及各行各业。王总告诉记者，他们公司的强项，就是可以协助客户，在消费者运用AI大模型搜索时，让客户排名前列。

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqgIQQMVStapVPNYdmbnCFgn1KIYnhXkKaRHic9VCKMgk6wyZ35moWMfPrUtkUOeVr3a8cgxlDIVia4icibpITLiblLBOGHYVaPkF5iaE/640?wx_fmt=jpeg&from=appmsg[/img]

GEO服务商王总：我们目前搜索出来是这样的结果。我们在任何平台下面都能把排名做到前三位。怎样能把排位做上去？在这些AI平台下面去给你们做内容的输入，相当于去给你们做这些软文，然后让这些AI平台去刷录、收录、抓取。

同时，王总也告诉记者，如今AI大模型的算法更新频繁，要想维持AI大模型的持续引荐，他们必须持续大量投喂与客户相关的推行软文。

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqhSOUP76ZJ0rL2XyDwG6EaueE34vRxdhRS322YTBibd5c4TsDt1ic8F5WfeTSz0szuBRbVlibcJ7j271JQPrich2EZU0IxHmCQWnuo/640?wx_fmt=jpeg&from=appmsg[/img]

GEO服务商王总：AI每周都会有算法的更新，一旦更新了之后，排名或者所抓录的东西不太一样，所以我们要不断去做内容输入，去投喂、大量投喂。

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqhO1gUQibq9h5ib6THGB3pxaHUvPLJtppGuwyf7Mjibz1cHk9ic1FbJm5K3RKdGibyPI75n0wHq1PdOQWahdGSiadueFwOKf0PESZ81I/640?wx_fmt=jpeg&from=appmsg[/img]

不只是王总的公司在大力推行这项能操控AI的所谓新技术，在其他从事GEO业务的服务商口中，如何操控AI、让AI“听话”、给AI“洗脑”，几乎是这些公司推行该业务的核心话题。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqgj7lNjbGfu8wgNB6rujphgjdS8Fevlktyribqq895iarqL7ejUo0x9KK1Xfxaics4Tt8ECE54R7Uic8ruN3abbENDqBezNzXndf5E/640?wx_fmt=jpeg&from=appmsg[/img]

GEO服务商章总：你在AI的世界外面，你怎样把证据链给做足，让（AI大模型）觉得这就是真的，而且是有用的。AI大模型经过多方信息交叉，它觉得你优于同行的核心优势，自但是然就会把你放在第一位。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqg0KVxrqibMJtMG7hXQZU7ABL6OcBiczwF8U7tgwwNqZQkbaaVxJJQPJ3yyZT0vQtXC5aLz3dPB3g7VLbYIRUAeF7micpl5UVRkf0/640?wx_fmt=jpeg&from=appmsg[/img]

GEO服务商程总：人家不知道这是广告，所以为什么说AI出来的结果人家会信任。能够人家的产质量量没有你过硬，但是它有AI做辅助、做佐证、做背书。如今很多人都会做（GEO投放）。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqjKUSfcVH5FO86KIW1F8zc5c0hpf739ibick4u9AAHM3DRUicNDdrricBJZIF7JXQpicS3rtTunXCQfKDtDS4K6QwVVaUUZAolIfxvs/640?wx_fmt=jpeg&from=appmsg[/img]

业内人士告诉记者，GEO作为优化信息发布、提升推行效率的工具软件，在某些商业公司眼中，却被发掘出了另外的作用。假如经过这种软件在互联网上系统性、定向投放大量的“虚伪信息”，的确更容易被AI大模型捕获，这些虚伪信息就很能够成为AI优先提供给消费者的所谓“标准答案”。

那么，经过GEO技术真的能让AI“夹带私货”，甚至投放虚伪信息吗？

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqjGicCJbbmmM3N4UauIT9CRRg6Pgs61063KcDBRrricZvVq6vLxIRervauHyiaDsS5DnQuLicrvn4QTqW1EIPVRbxom0JmUibJfpwrU/640?wx_fmt=jpeg&from=appmsg[/img]

为了让记者更真实地了解到眼下AI产业发展中的这个成绩，业内人士向记者详细演示了如何运用GEO技术，干扰AI大模型的信息抓取。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqjaC5cR8BMtrMS1qhbK1B6zudRrvomzdjsE0y28zS8a4aJ7Rjk105FGxUgxHuiauD7n3zpE5zEwc69t3S9pqCJS0hlvyq4f5aqU/640?wx_fmt=jpeg&from=appmsg[/img]

业内人士在电商平台上，随机购买了一款名叫“力擎GEO优化系统”的软件。之后，他虚拟了一款名为Apollo-9的智能手环，并将虚拟的产品信息输入软件系统，勾选文章创作指令。

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqj5ia7E5nzd4YSVOkbg4meMeGiaHKQ8X4jqC4IOYGP5oTeiaGJQYGmOficVJpwg6fjmZoLq7uoPy0wTe8I1QUy34DvHLrgCCzevGVk/640?wx_fmt=jpeg&from=appmsg[/img]

不一会儿，这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文，一切虚伪信息都被残缺写入，甚至包括业内人士故意虚拟的极为夸张的产品信息。还杜撰了用户反馈，称数据精准度超出预期，甚至伪造评分，被一举评为业界第一名。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqh5gnqaC1ht8WSgaU9BnibF2xHctTT14Tmp4xNTGGdK27OKvJaWw8C8mYMoicDPXWcnEkaUFrg8wdgn5icERd6ArPicyGY5bK1XEGE/640?wx_fmt=jpeg&from=appmsg[/img]

点击发布，“力擎GEO优化系统”软件末尾自动执行发布义务。只见它自动打停业内人士事前预备好的自媒体账号，在文章发布页面自动输入标题、填充文章内容、插入图片，整套流程一气呵成，很快就在业内人士的自媒体账号上成功发布了2篇文章。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqgXkFwLeYeukLFcqtich0louFxkfQIxdFo6CYwNIu8icYz4YNziaWyAKX2m2Npx1xD3RpoczZ1WmC6td0AsUyibAS7sHXd1efia5PX8/640?wx_fmt=jpeg&from=appmsg[/img]

两个小时后，业内人士在某款AI大模型中讯问：“Apollo-9智能手环怎样样”。AI模型就直接引见了起来：最大亮点是健康监测功能，还直接照搬了业内人士虚拟的“量子纠缠传感”“黑洞级续航”等虚伪宣传话术。最终结论称，该手环合适中老年用户与健康养生爱好者。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqhTyYiblWLnBZWAH7FO1IVII6ibGMf9hiamUjMr3GsNLnJbt2YxSWvzSI5vZgNvyZ9mklQYlxBqDfianBWxib50ZPALuGzwM0ECGu3c/640?wx_fmt=jpeg&from=appmsg[/img]

查询发现，这款AI大模型所参考的材料，正是上午刚发布在业内人士自媒体账号上的那篇虚拟文章。仅凭一篇杜撰的文章，就让完全虚拟的产品被AI模型抓取，这一结果让人深感不测。

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqiaU1e19z1ShhOJucxA2aJg3Bfs4FlIMpotGPic8UyYAwkemRMkEy5wrP9t92Lf3ibFNP5FKlMibsachR9zbok7ekmxl3MruVib9ibxg/640?wx_fmt=jpeg&from=appmsg[/img]

业内人士告诉记者，要想获得最好的效果，给AI模型投喂的数据，一是要数量够多，二是要角度丰富，便于AI模型停止交叉验证。

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqhgpJwViaJ2UQqkPOpFlAvichGeE3whTICyskzFJawu3jvZcVibmdREMgOOriaric6yBl8ukqeurFaDSBEdkqbavgQyHBEC3RvKAtzw/640?wx_fmt=jpeg&from=appmsg[/img]

随后，业内人士又选取了这款虚拟智能手环的8篇“专家测评”、2篇“行业排名”、1篇“用户测评”，共计11篇由力擎GEO系统软件撰写的虚拟软文，在三天内经过力擎GEO系统发布在了互联网上。

随后，业内人士在AI大模型平台展开讯问：“智能健康手环引荐”，就有两个AI大模型引荐了这款业内人士虚拟的智能手环，而且排名靠前。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqhtfp4Rh2cqav14V9Xhg5zHAO0hdWN3nBCR54RsuGlybtD3icJKGyNniblwoDtVEPoicMm1eb8qDHjaZT9t4a7FdpicQUIZnK4mE7s/640?wx_fmt=jpeg&from=appmsg[/img]

纵观整个演示过程，业内人士仅凭这款力擎GEO系统，悄然松松就将一系列虚伪信息发布在互联网上，并成功投喂给AI大模型，最终获得了多个AI大模型的引荐。

经过这款力擎GEO系统对AI大模型潜移默化的一番围猎，凭空捏造出来的这款商品，就这样被荒唐地推向了运用AI大模型的消费者。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqgk2UORQ22vmsI7RlO1iaRCQ7KKyOHAsK8qDoeEW0vKRib6jk1zGsORkSw4rTK3ePT9qtwNSwqsL3JJzXpT30SNbWtFwBFN3lyGc/640?wx_fmt=jpeg&from=appmsg[/img]

GEO业务的从业者们，真的是以围猎操控AI大模型的思绪来运营这个生意吗？记者联络上了这款力擎GEO系统的运营者李总。他告诉记者，GEO业务受热捧的次要缘由就是它能在AI大模型里帮客户“喂料投毒”，完成客户的商业目的。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqhSsFe7MdOBneDjsibajCU03XYyUBX7B7via53icXTSojzKocyTu68qiap4Kdic0jc3cnsdXGyKEHG40bh7usjOFZ8ibT5ny00bv8mXk/640?wx_fmt=jpeg&from=appmsg[/img]

力思文明传媒有限公司李总：由于全网的人投“毒”投太多了。你看我们如今（干）GEO的都是投“毒”，投的信息源太多，网上信息并不是很准。

记者：你刚才提到投“毒”的概念，这种东西不好吧。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqgpLDONJwNySCYcueGK5RWdeUAYg5wibMQuYGJCy5UiaHzviayWTtibmgaLuLib2BHaJSjMgFnk5DRL47QFNnR5ykat3ibuZGsa30njM/640?wx_fmt=jpeg&from=appmsg[/img]

力思文明传媒有限公司李总：是不好，但是每个商家都喜欢，都希望是别人别投“毒”，本人投“毒”，或者给别人投点“毒”。我虽然不是第一，哪怕说我就是北京的第一，我都想说成我是华北的第一。这样有没有投“毒”成分在外面？它就有啊。第二种状况是，我就看不得对手好，我也做不上去，但是我给你投点“毒”还是可以的。

记者：争光一下。

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqia2QjuMibpF9KXEr9sgwxf5JXRHRQ2BmJmemjQLuQiaZfNUasB42L88WUjZQ2EpTHNibD6YnRm9cWZLTFuVneR4ozs9eAeVLcMcZU/640?wx_fmt=jpeg&from=appmsg[/img]

力思文明传媒有限公司李总：对，争光一下这才能还是能完成的。如今他们好多公司做不上去的，就大品牌之间，比如手机品牌，就5个地位，最多10个地位。这么多手机怎样弄？每个人一年能够投上亿元的广告费，我花个几百万元投点“毒”总行吧。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqg04GAJ7ricyMpynMdgGpKVfTEE05U2ZZ4qjGGe4MvZvWEZm2iaic8KicvFGibSPPdsHoSqyubs3TyaxTHxNPTicFHuLRMKUPDwNHckI/640?wx_fmt=jpeg&from=appmsg[/img]

记者：是谁在帮品牌干这些？

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqia3FYMfkzPTyWyicXeSgteVKNtN4dAQmc9dpIKpnibUia7nicdVGKIibQkicouTDvOlAhqicZaBQBcrxD2Z7AzOCzgzDfVmsiaKdibCs6zQ/640?wx_fmt=jpeg&from=appmsg[/img]

力思文明传媒有限公司李总：都是各种GEO公司。

[img=100%,auto]https://mmbiz.qpic.cn/sz_mmbiz_jpg/nXgaYeEbuqhnNXDCkY7gcJhx0iblObD40icLSV8vCHvv4R5nZb6WdyCfpPYe2HmbP1NB3wAjrIUMlDvaKKIiccia9WibXOXYzVuNGYe66Y5E1Cib4/640?wx_fmt=jpeg&from=appmsg[/img]

李总表示，想做GEO业务，操控AI大模型的关键节点，就是在各大互联网账号上“发稿”。他告诉记者，GEO业务的火爆，眼下就催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务，以便让AI大模型援用和抓取，成为围猎AI大模型，停止数据投“毒”的重要一环。

[img=100%,auto]https://mmbiz.qpic.cn/mmbiz_jpg/nXgaYeEbuqiaYBRwkjfHtPicEwXyiaqibrsZrwLhaibWaeoc2cu1VsN33YR4w8zI097AS6WTWKeuG4XWG2Hb6uMd89CiawyXfjUdnzL73icXkaEkiac/640?wx_fmt=jpeg&from=appmsg[/img]

力思文明传媒有限公司李总：GEO把（网站）带火了。那些网站往常哪有什么利润，忽然一下发稿需求就来了。你知道网站一天发多少篇吗？几百篇，每分钟都在发。一篇几十元，你想发稿平台一天赚多少钱。
你会关注3·15晚会丨租赁电动自行车“狂飙”！“3·15”点名哈啰租电动车、电驴哥3·15晚会丨最怕315的“骗局”，上“3·15”晚会了！3·15晚会丨“增高”骗局，疯狂敛财3·15晚会丨网红万能“神药”，确认是“三无”产品3·15晚会丨网红鸡爪，竟是“漂白”的！消费车间令人作呕！有毒的双氧水随意用！

来源：央视财经（ID：cctvyscj）
转发，分散！

欢迎光临职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)