2026年9月14日，全国网络安全标准化技术委员会在2026年国家网络安全宣传周开幕式上发布《人工智能安全治理框架3.0》。根据国家互联网信息办公室发布信息和全国网络安全标准化技术委员会公告，此次更新延续“风险分类、技术应对、综合治理”的核心逻辑，并针对人工智能能力升级带来的新风险调整治理措施。对于中文论坛而言，最值得关注的不是抽象概念，而是生成内容如何守住真实性底线，避免一个未经核实的回答演变为大范围传播的谣言。
生成内容为何更容易放大失实信息
《框架3.0》明确将“输出幻觉”、训练数据中的虚假内容、合成数据缺陷以及信息内容安全风险纳入治理视野。模型可能生成与事实不符或凭空虚构的内容，错误信息还可能被网络文章、搜索系统和其他模型循环引用，最终造成内容生态污染。框架特别指出，未标识的生成内容和“深伪”技术会增加公众识别来源、判断真伪的难度，并可能被用于传播虚假信息、误导公众或非法牟利。相关风险分类和原文可查阅《人工智能安全治理框架3.0》全文及央视网2026年9月16日报道。
与普通网络谣言相比，人工智能生成内容具有批量化、低成本、多模态和快速改写等特点。同一条失实消息可以被迅速转换为帖子、图片解说、短视频文案或问答内容。如果平台只在传播末端删除帖子，却不处理错误知识库、异常账号和自动生成链路，谣言就可能换一种表达继续出现。因此，治理重点应从单篇内容审核转向数据、模型、应用、传播和反馈的全过程控制。数字中国建设峰会官网转载的央视报道也确认，3.0版将治理视角拓展至数据、算法、模型、应用和供应链等环节，并强调分类分级与全流程治理。
以“九不准”和“七条底线”校准内容边界
《互联网信息服务管理办法》第十五条列出的九类禁止性内容，是论坛审核人工智能生成信息时不能突破的红线，其中包括散布谣言、扰乱社会秩序，传播违法有害内容，以及侮辱、诽谤他人或侵害他人合法权益等。该办法同时要求，互联网信息服务提供者发现明显违法信息后，应当立即停止传输、保存有关记录并依法报告。具体条文可参见国家市场监督管理总局公布文本和中国政府网国务院公报文本。
在此基础上，法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性“七条底线”，可以转化为生成内容发布前的七项检查。对论坛运营而言，真实性底线不是孤立要求：捏造个人经历可能侵犯公民权益，伪造权威通知可能扰乱公共秩序，篡改事件因果关系还可能触碰法律法规边界。审核人员不能只判断文字是否流畅，还要检查主体、时间、地点、数据、因果关系与引文出处能否验证。
把真实底线变成可执行的发布流程
- 先核来源，再组织表达。涉及政策、灾情、公共安全、医疗、金融等内容时，应优先核对政府部门、权威机构或事件主体发布的信息。只有单一来源、缺少日期或无法确认原始出处的材料，应标记为待核实，不宜写成确定事实。
- 区分事实、推测与观点。人工智能可以辅助归纳，但不能把预测写成结果，把网友说法写成官方结论。论坛帖子应使用“官方已公布”“媒体援引”“尚无权威信息证实”等清晰表述，避免标题先下结论、正文再模糊补充。
- 建立生成内容标识和溯源链。《框架3.0》提出对人工智能生成合成内容进行标识，并按照显式、隐式标识要求覆盖制作源头、传播路径和分发渠道。平台可保存模型版本、提示信息、引用来源、生成时间和人工编辑记录，使争议内容能够定位与复核。
- 高风险内容必须人工复审。自动审核适合初筛，但处理突发事件、人物指控和可能引发群体恐慌的信息时，应由编辑核验原始资料。发现违法或明显失实内容后，要及时停止传播、修正页面、保留记录，并评估是否需要对相关转载进行同步处置。
- 防止错误进入循环引用。平台不仅要删除前台帖子，还应清理被污染的知识库、缓存摘要和推荐素材；对集中发布相似内容、伪造专家身份或批量制造评价的异常行为进行监测，避免人工智能把高频出现误判为真实可信。
平台、开发者和用户需要共同负责
开发者应提高训练数据质量，使用真实、准确、客观、多样且来源合法的数据，并通过事实校验、检索增强生成、多模型交叉验证和红队测试降低错误输出。平台应完善内容识别、人工复核、投诉反馈、应急下架和风险通报机制。用户则应避免用人工智能批量生成未经核实的“新闻”，不冒用媒体、专家和当事人身份，不通过截取片段或伪造截图制造确定性叙事。《框架3.0》不是替代现行法律的强制性法规，但可作为研发、部署、运行和使用人工智能的重要安全指引，这一点也得到央视网相关解读与发布机构公告的相互印证。
总结
遏制人工智能谣言，不能只依靠模型拒答或平台删帖，而应形成“合法数据进入、可靠模型生成、来源清晰展示、高风险人工复核、异常传播及时熔断、错误内容持续纠正”的闭环。守住真实底线，本质上是让每一条公开信息都能够回答三个问题：事实从哪里来，经过谁核验，出现错误由谁处置。只有把“九不准”的红线要求、“七条底线”的价值规范与《框架3.0》的技术治理措施结合起来，人工智能才能真正成为可信的信息工具，而不是谣言扩散的加速器。
事件及资料日期
- 2026年9月14日：《人工智能安全治理框架3.0》正式发布，见国家互联网信息办公室发布页面和全国网络安全标准化技术委员会发布页面。
- 2026年9月16日：关于框架新增风险关注点及治理思路的公开解读，见央视网《人工智能安全治理，再升级！》和数字中国建设峰会官网转载报道。
- 2024年12月6日：《互联网信息服务管理办法》第二次修订文本公布，见国家市场监督管理总局公开文本。
