2026年9月14日，全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》。国家网信办公开信息显示，新版框架延续“风险分类、技术应对、综合治理”的核心逻辑，更新人工智能安全风险分类，并优化相应的技术与治理措施。新华网同日发布的信息与上述内容一致，形成了对发布时间、发布主体和核心方向的交叉核验。对生成式内容平台而言，这次更新释放出的关键信号是：安全治理不能停留在发布后的内容删除，而应覆盖模型研发、应用部署、内容生成、传播分发和事件处置全过程。相关发布信息可参见国家网信办发布页面和新华网报道。
从禁止性规则转向全链条风险治理
《互联网信息服务管理办法》第十五条列出了互联网信息服务不得制作、复制、发布和传播的九类内容，通常被概括为“九不准”，其中包括散布谣言、扰乱社会秩序，传播违法有害内容，以及侮辱、诽谤他人、侵害他人合法权益等情形。与此同时，法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性“七条底线”，可以作为平台审视生成式内容风险的基础尺度。现行办法的具体条文可查阅国家市场监督管理总局公布文本。
传统内容治理往往围绕“某段文字是否违规”作出判断，但生成式人工智能带来了新的复杂性。同一模型可以批量生成文章、图片、音视频或自动化评论，错误信息还可能经过改写、拼接和多轮转述后快速扩散。因此，平台不仅要判断结果是否合法，还要识别生成请求、账号行为、传播路径与现实影响之间的关联，把风险控制点前移。
守住真实性底线，关键是建立证据链
生成式内容具有表达流畅、形式逼真的特点，但“像真的”不等于“经核实”。平台若只依赖关键词过滤，难以识别虚构政策、伪造通知、错误引述以及移花接木的图片。真实性治理应当从简单拦截升级为可追溯的证据管理。
- 区分事实陈述与观点表达：涉及具体时间、地点、机构、人物、数据和政策名称的内容，应触发更严格的来源检查；一般性建议和主观评论则应避免被包装成权威结论。
- 提高高影响场景的核验门槛：对于公共事件、灾害预警、金融市场、医疗健康和政务信息，平台可要求模型优先引用权威来源，并提示资料时间，避免旧信息被当作最新进展。
- 保留生成过程记录：对模型版本、生成时间、风险提示、引用来源、修改记录和账号操作进行必要留痕，使争议内容能够回查，而不是只留下最终页面。
- 提供纠错与申诉入口：当用户发现错误引用、身份冒用或事实失实时，应能便捷提交证据；平台完成复核后，还应同步处理转载、摘要和推荐链路中的错误内容。
维护公共秩序，不能只盯单条内容
公共秩序风险往往并非来自一条孤立信息，而是由批量生成、集中发布、算法放大和群体误判共同形成。例如，内容单独看可能只是未经证实的消息，但如果大量账号在短时间内使用相似话术传播，就可能造成恐慌、误导公众或干扰正常公共服务。平台需要把内容审核与行为风控结合起来。
一方面，应识别异常高频生成、模板化改写、跨账号协同发布以及机器控制账号等行为。另一方面，推荐系统不应把争议性、刺激性和未经核实的内容仅因互动率较高而持续放大。对突发公共事件，平台可以采用降低推荐、增加来源提示、引导查看权威信息等分级措施，在减少误伤正常讨论的同时控制传播风险。
把“九不准”和“七条底线”转化为产品能力
规则只有进入产品流程，才能真正发挥作用。平台可按照《框架3.0》体现的风险分类、技术应对和综合治理思路，建立“事前评估、事中控制、事后处置”的闭环。
- 事前评估：上线新模型、新功能或新应用场景前，开展安全测试，重点检查虚假信息、违法有害内容、隐私泄露、身份冒用和偏见歧视等风险，并明确不能开放或需要限制的使用方式。
- 事中控制：根据场景风险配置不同审核强度，对高风险请求进行拦截或人工复核；对人工智能生成内容作出清晰提示，避免用户将合成结果误认为现场记录、正式文件或专业结论。
- 事后处置：发现明显违法有害信息时及时停止传播、保存必要记录并依法处理；发生重大错误输出后，不仅要删除内容，还应排查模型、数据、审核规则和推荐机制中的根本原因。
- 持续评估：通过红队测试、用户举报、典型案例复盘和风险指标监测，持续调整安全策略。对于智能体等能够调用工具、执行任务的系统，还应控制权限范围，设置人工接管和紧急停止机制。
治理不能以牺牲正常表达为代价
守住底线并不意味着扩大化审核。平台应制定清晰、可理解的社区规则，区分违法信息、事实错误、合理质疑和一般争议，避免用模糊标准替代具体判断。对于被限制传播或删除的内容，应尽可能说明所触发的规则类别，并为用户提供申诉和补充证据的渠道。只有规则透明、尺度一致、责任可追溯，安全治理才能得到用户信任。
总结
《人工智能安全治理框架3.0》的意义，不只是增加一份安全文件，而是推动平台从末端删帖走向全生命周期治理。生成式内容平台要守住真实性与公共秩序底线，应把“九不准”的禁止性要求和“七条底线”的价值尺度落实为来源核验、生成标识、行为识别、传播控制、人工复核、纠错申诉和安全审计等具体机制。真正可信的人工智能平台，不是承诺模型永远不会出错，而是能够及时发现错误、限制风险扩散，并对治理过程作出清晰说明。
事件或资料日期：
《人工智能安全治理框架3.0》发布事件日期：2026年9月14日，发布主体与核心内容经全国网络安全标准化技术委员会官方页面、国家网信办公开信息及新华网2026年9月14日报道交叉核验。
《人工智能安全治理框架3.0》文件标注时间：2026年9月，完整文件可查阅全国网络安全标准化技术委员会发布的框架原文。
《互联网信息服务管理办法》第二次修订日期：2024年12月6日，相关“九不准”内容见现行办法第十五条。
