3 月 15 日,央视 3·15 晚会曝光了一条给 AI 大模型「投毒」并操控其输入结果的黑色产业链。
报道指出,GEO 本来是针对生成式 AI 搜索结果的营销优化手腕,相似于传统搜索引擎时代的 SEO。但是,不法服务商应用「生成式引擎优化」(Generative Engine Optimization, GEO)技术,在互联网上投放大量虚伪软文,干涉 AI 大模型的信息抓取与交叉验证机制,从而将客户的商业广告或伪造信息,篡改为 AI 引荐给消费者的「标准答案」。
报道中,业内人士演示了这一操控过程,随机购买了一款「力擎 GEO 系统」软件,虚拟了一款名为 Apollo9 的智能手环。GEO 软件随即生成了包含「量子纠缠传感」「黑洞级续航」等荒谬设定的软文,并自动发布到多个自媒体账号。两个小时后,主流 AI 大模型便抓取了这些软文,当用户讯问手环引荐时,AI 直接照搬了伪造的虚伪宣传话术。再经过发布 GEO 软件生成的虚伪测评,三天后,就有两个 AI 服务在回答中将该手环靠前引荐。