生成式搜索正在从“提供链接”转向“直接给出答案”。在这一模式下,用户看到的排序结果往往已经被模型压缩为结论,来源之间的差异、商业利益关系和争议信息不再一目了然。2026年9月14日,全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》,更新人工智能安全风险分类及技术应对措施,为研究生成式搜索中的信息污染、检索操纵和排序失真提供了新的治理参照。相关信息已由国家网信办官网与央视网专题报道交叉印证。
GEO投毒改变的不只是“排名”
GEO原本可以理解为针对生成式引擎的信息适配,包括完善结构化资料、提高事实可验证性、帮助模型准确理解产品或机构信息。真正需要警惕的是“黑帽GEO”:通过批量发布倾向性文章、虚构测评、伪造专家身份、制造表面一致的品牌评价,影响联网模型的检索、引用和推荐。
传统搜索中的垃圾信息,至少还会以多个网页结果呈现,用户能够观察域名、标题和广告标识。生成式搜索则可能把多篇材料合成为一句确定性判断。只要污染内容进入候选证据集,并在排序阶段获得较高权重,最终输出就可能把商业推广包装成看似中立的事实。此时受影响的不仅是页面排名,更是用户对事实、口碑和社会共识的理解。
以“九不准”和“七条底线”审视投毒风险
按照互联网信息内容治理中“九不准”和“七条底线”所体现的基本要求,生成式搜索不能只判断内容是否包含明显违法词语,还应同时考察法律法规、国家利益、公共秩序、社会道德、真实性和公民合法权益等边界。GEO投毒虽然常以普通测评、经验分享或行业榜单出现,但如果包含虚假事实、欺骗性营销、恶意贬损、身份冒充或扰乱正常市场秩序,就可能触碰相应治理红线。
判断GEO内容是否合规,关键不在于“有没有优化”,而在于是否以真实材料为基础,是否披露商业关系,是否允许用户追溯来源,以及是否通过隐蔽操纵改变模型结论。
因此,治理对象应从单篇违规文本扩展至完整传播链路,包括内容生成者、委托品牌、账号矩阵、发布平台、检索系统和答案生成模型。仅删除一篇文章,无法消除同一模板在不同账号、域名和时间段内反复出现所形成的“伪共识”。
建立多层次投毒识别机制
一是识别内容层异常
平台可重点检测无法追溯的数据、没有原始记录的奖项、缺少测试条件的性能结论,以及对多个竞品使用高度一致的评价模板。对于医疗、金融、教育、消费决策等高影响场景,应提高证据门槛,不能把自媒体转述与监管文件、机构公告、论文原文视为同等信源。
二是识别传播层协同行为
单篇文字可能看起来完整,但发布时间过度集中、账号注册特征相似、标题结构重复、相互引用形成闭环,都可能反映有组织的信息投放。平台应把文本相似度、账号关系、发布节奏和利益关联结合起来判断,避免攻击者利用大量“不同页面”制造多源印证的假象。
三是识别检索与引用异常
生成式搜索提供方应记录候选网页、排序理由、引用时间和答案版本。当某一品牌在短时间内突然进入大量无关问题的推荐结果,或多个低权威页面共同压过原始资料时,应触发二次核验。对于无法确认真实性的材料,模型可以降低确定性表达,明确提示证据不足,而不是继续给出唯一推荐。
让信息排序从“相关性优先”转向“可信度约束”
治理GEO投毒不能简单取消相关性排序,而应在相关性之外增加可信度、独立性、时效性和风险性约束。首先提高政府部门、标准组织、企业原始公告及可复核研究资料的优先级;其次识别转载链,避免十篇源自同一稿件的内容被误判为十个独立来源;再次对商业推广、利益相关测评和AI生成内容执行清晰标识;最后在高风险问题中引入不少于两个相互独立来源的交叉核验。
企业开展合规GEO时,也应保留事实底稿、数据出处、授权证明、修改记录和发布清单。考核指标不宜只看“进入推荐前列”,还应关注错误引用率、来源完整率、争议纠正时效和用户投诉情况。服务合同中应明确禁止虚构数据、冒充媒体、批量制造伪口碑以及攻击竞争对手,避免品牌方以“不知情”为由转移责任。
总结
生成式搜索的竞争焦点已经从网页曝光转向答案影响力,GEO投毒也因此具有更强的隐蔽性和认知干预能力。以“九不准”和“七条底线”为价值边界,以真实性核验、传播溯源、独立信源识别和风险分级为技术抓手,才能把正常的信息优化与恶意操纵区分开来。理想的排序治理不是让某个品牌永远排在前面,而是让可验证、有关联说明、经得起纠错的信息更容易进入答案。
事件或资料日期:
2026年9月14日,《人工智能安全治理框架3.0》发布。资料来源:中央网络安全和信息化委员会办公室发布信息、全国网络安全标准化技术委员会公告。
2026年9月15日至16日,央视《新闻1+1》对框架更新、企业落实及动态治理进行了专题解读。资料来源:央视网报道、央视节目页面。