职贝云数AI新零售门户

标题: AI大模型遭“投毒”黑幕曝光!花几百万就能让AI“说谎”,你的搜索结果还可信吗? [打印本页]

作者: gPEJ 时间: 4 小时前
标题: AI大模型遭“投毒”黑幕曝光!花几百万就能让AI“说谎”,你的搜索结果还可信吗?

“一年能够上亿的广告费，花个几百万投点毒，总行吧！”——力擎GEO系统运营者李总

AI“投毒”产业链浮出水面

往年的315晚会曝光了一个令人震惊的行业黑幕：AI大模型正在被系统性“投毒”。记者调查发现，一家名为“力擎GEO”的公司，公然提供一项特殊服务——只需支付相应费用，就能在各大主流AI大模型里，让客户的产品“榜上有名”，让客户的商品广告成为AI模型给出的“标准答案”。

AI大模型数据投毒概念图黑客向人工智能系统注入虚伪信息

“发稿”成操控AI的关键节点

记者联络上力擎GEO系统的运营者李总，他毫不粉饰地揭示了这项业务的运作逻辑。李总表示，操控AI大模型的关键在于“发稿”——经过在各大互联网账号上发布特定内容，让AI模型在训练和学习过程中“误食”这些经过精心设计的信息。

“比如说手机品牌，就5个地位，最多10个地位，这么多手机怎样弄。一年能够上亿的广告费，花个几百万投点毒，总行吧！”李总的这番话，光秃秃地暴露了AI“投毒”背后的商业逻辑。

(, 下载次数: 0)

网络水军发稿公司工作场景大量账号同时发布内容

催生灰色产业链

GEO业务的火爆，催生出了一条残缺的灰色产业链：

你的搜索结果还可信吗？

这起事情引发了公众对AI可信度的深度担忧。当AI大模型可以被金钱操控，当“标准答案”可以被商业利益改写，我们还能置信AI给出的信息吗？

更令人担忧的是，这种“投毒”行为具有隐蔽性。普通用户很难分辨哪些是AI基于真实数据得出的结论，哪些是经过“投毒”处理的商业推行。

消费者面对虚伪AI引荐困惑表情手机屏幕显示不可信搜索结果

监管与反思

这起事情暴露了AI行业发展中的监管空白。业内人士呼吁：

AI技术的疾速发展给我们带来了便利，但也带来了新的应战。当技术可以被滥用，当信任可以被买卖，我们需求愈加警觉地对待这个被算法定义的世界。

你的每一次搜索，能够都在为某个商家的“投毒”计划买单。这，就是我们正在面对的理想。

欢迎光临职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)