界面新闻记者 | 程璐
界面新闻编辑 | 文姝琪
3月15日晚上，央视315晚会的曝光，撕开了“AI投毒”这个隐秘产业的口子。记者通过暗访发现，原来用户在AI对话框里敲下一个问题，得到的那个看似公允的答案，可能早就被人在后台精心设计过了。
这场曝光揭开了GEO产业链，界面新闻也曾报道过其背后的乱象与本质。有人专门向AI大模型“投毒”，批量制造虚假的测评、虚构的排行榜，甚至凭空捏造出一款根本不存在的智能手环，然后通过自动化软件把内容铺满互联网的角落。
只需要半天时间，一款虚构的“Apollo-9”的智能手环产品就能出现在主流AI的推荐列表里，带着那些夸张的“量子纠缠传感”功能，一本正经地欺骗消费者。
杭州万悉科技创始人毛慧娜和不少从业者的反应一样，刚刚看到315的曝光新闻时，不是惊讶，而是欣慰。
万悉科技主要服务中国品牌出海，一直专注在GEO领域，三个月前A股还炒起过一轮GEO的概念，当时她就对外表达过担忧，觉得这个赛道有点过火了。今天315批评“AI投毒”，她觉得这是行业发展的必然，终于有人把行业的遮羞布掀开了。
一位AI行业研究机构负责人也表达了类似的观点，他告诉界面新闻，本质上，这是AI行业野蛮生长过程中阶段性问题的集中暴露。由于AI正在成为用户的消费决策入口，因此它天然会成为黑灰产盯上的对象，其他领域也是一样。
多数从业者认为，接下来短期内低质、靠投毒为生的服务公司将会迎来一轮洗牌，相关治理和监管会逐步跟上，行业也会越来越重视真实、可靠、权威的信息源。长期来看这是一件好事。
截至当前，有赞、小裂变、河南恒辉、AB客等多家机构都已经发布声明称不会使用这类投毒行为，但各家的表态都停留在普通承诺的层面，具体在执行操作以及规范的程序还待观望。
央视新闻
央视曝光后，界面新闻联系了几家主流大模型公司，但各家均暂无回应。这其实引出了一个更本质的问题。既然投毒污染的是网络环境，那模型公司在其中到底应该扮演什么角色？他们能做什么？又愿意做什么？
从产业环境分工来看，模型公司更多是在提供“大脑”，核心是让模型越来越聪明，而后延伸出应用层，以及中间的工具层等等。
一位技术出身GEO创业者告诉记者，技术的污名化从来不是技术本身的错，更多服务商污染的只是整个网络信息环境，和模型公司关系不大。
但上述AI行业研究机构负责人不完全同意这样的观点，他补充道，大模型并不是在真空中工作的，无论是训练、检索还是应用调用，最终都要依赖外部数据、知识和信息供给。一旦网络环境中的信息被操纵、灌水或者伪造，这种影响最终还是会传导到AI产品上，影响用户体验和用户信任。
GEO服务商索引未来的市场负责人任玉坤同时提到，接下来平台可能需要对内容质量或索引方法进行调整，尽量避免引用低质量文章。
因此，可能会受到信息污染的模型公司不应完全置身事外，而是参与治理。比如在数据筛选、结果校验、来源标注、多源验证、异常识别等方面，模型公司都可以持续投入，提升AI系统对低质量信息和被操纵信息的识别能力。
眼下，GEO这个生态还处在野蛮生长的阶段。在帮助品牌出海的过程中，毛慧娜接触的大模型很多，从ChatGPT到Gemini到Claude，还有国内的豆包、千问和DeepSeek。但她发现，不同模型之间的差异巨大。
比如，某客户曾经询问过AI一项关于品牌未公开数据的问题，结果某些模型就会回答称没有公开信息，但某些大模型就会给出一个具体的答案。最终经过仔细排查发现，该模型在搜索全网后用相似的品牌信息做了“顶替”。
AI问答引擎背后主要有两部分技术。一块是大语言模型本身的参数记忆，模型每隔一段时间预训练一次，把知识存在参数里，不用联网也能回答。另一块是RAG即联网搜索，模型会实时去看外部的信息。
在毛慧娜看来，国内“AI投毒”的突出问题主要出在联网搜索这个环节，相关平台对信息源的筛选能力急需提高，模型对语义理解的严谨度也远远不够。
“模型层不够智能，语义理解不到位，对信息源的筛选也不够中立，甚至会出现偏向自己生态内容的情况，这本身就不够公允，也都是未来模型公司要解决的问题。”毛慧娜表示。
要解决投毒问题，光盯着服务商和模型公司也是不够的，还需要上下游共同解决。
商家需要摆正位置。那些投毒的服务商能活下来，本质上是商家太急于求成。毛慧娜说，她很少接那种承诺几天甚至几个小时就要见效的客户，她也没想到有服务商敢这么承诺，直到看了315报道才知道原来市场上是这么沟通的。
另外，用户层也要学会辨别，不要盲信AI的推荐，要去看AI引用的信息源是什么，是否靠谱。
界面图库
一位从业者向界面新闻分享了当前业内正在探索的治理思路。
第一种是当品牌说真话，比如宣称产品通过了某质量认证，而权威数据库里确实能查到这条记录。这时候AI会采信这个信息，给它正常的权重。
第二种是当品牌说假话，明明没有通过认证却说有。AI在查询数据库后发现信息对不上，就会把这条内容标记为幻觉或虚假信息，权重直接降到接近于零。甚至让整个品牌的信任评分都会下降，竞品的相对位置反而上升。
这种标记行为听起来相对理想，但上述从业者也承认，最终还是要靠平台来落地，是一个长期的构想方向。
上述AI行业研究机构负责人预测，未来AI生态里，工具技能和信息数据会是两个非常典型的方向。这两类能力都有一个共同特点，就是前期投入很大，但一旦形成能力，边际成本会越来越低，规模化价值会越来越明显，服务商和大模型公司不是割裂的，而是共生的，都是生态的一部分。
接下来，品牌怎么做，平台怎么治理，监管怎么管，生态如何演进，才是真正考验的开始。