生成式人工智能显著降低了图文、音频和视频的制作门槛，也让虚假灾害现场、仿冒人物发言、伪造公告和虚假宣传更容易批量生成。2026年9月2日，中央网信办公布“清朗·整治AI应用乱象”专项行动第二阶段进展，明确将AI制作发布虚假不实信息列为重点治理对象，并披露了利用AI合成虚假灾害及救援画面、编造社会热点等典型情形。该消息随后得到新华网、央视网等媒体转载核验。[1][2] citeturn1search1turn1search21
治理对象不应局限于“AI造假”
判断一条AI内容是否需要治理，不能只看它是不是机器生成，更要看其内容性质、传播方式和实际影响。真实资料经过AI辅助整理，和把虚构画面包装成现场新闻，风险完全不同；明确标注的艺术创作，和冒充本人发布言论，也不能采用同一处置标准。平台真正需要识别的是欺骗性表达、身份仿冒、恶意传播和由此造成的公共利益损害。
以《互联网信息服务管理办法》有关禁止性内容要求及网络空间“七条底线”为基础，AI内容审核至少要守住法律法规、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性等边界。对于危害国家安全、破坏社会稳定、散布谣言、侮辱或者诽谤他人、侵害合法权益等内容，不能因其由算法自动生成就减轻发布者和服务提供者应承担的责任。
平台事实核验应建立分层机制
第一层：识别内容来源与生成痕迹
平台可以结合显式标识、文件元数据、数字水印、账号行为和多模态检测，判断内容是否经过生成或深度合成。中央网信办2026年9月2日通报称，多家平台正在优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，并通过相关功能提高检测与拦截效率。央视网报道 citeturn1search18
但技术识别结果只能作为风险信号，不能直接等同于事实结论。压缩、剪辑、翻拍和二次上传可能破坏标识，真实影像也可能被错误判为合成内容。因此，高风险内容必须进入证据核验环节，避免出现“检测工具说是假的，所以一定是假的”这种新的技术依赖。
第二层：围绕可核验主张寻找证据
事实核验应先提取内容中的人物、时间、地点、机构、数据和事件结果，再优先比对政府部门、当事机构、权威媒体及可追溯原始资料。涉及灾害、公共政策、医疗、司法、金融等领域时，平台不宜根据单一网页或模型回答作出结论，而应要求至少两个相互独立的可靠来源，并检查其发布时间是否早于被核验内容。
证据不足时，平台可以标记为“暂无法证实”“来源存疑”或“缺少权威信息”，而不是轻率认定为虚假。事实核验的价值在于呈现证据强弱和推理过程，不是把复杂争议压缩成简单的真假按钮。
第三层：依据风险采取差异化措施
- 低风险：对娱乐性、虚构性且已清晰标识的AI内容，原则上允许传播，同时保留生成提示。
- 中风险：对来源不明、证据不足或标题明显误导的内容，降低推荐范围，增加核验提示，并限制商业变现。
- 高风险：对伪造灾情、冒充权威机构、仿冒他人实施欺骗或可能引发公共恐慌的内容，及时阻断传播并转交人工复核。
- 持续违规：对批量生产虚假信息、利用账号矩阵放大传播或通过AI托管制造虚假互动的主体，实施账号、设备、收益和关联网络的综合治理。
不能只删内容，还要解释为什么
平台处置页面应展示被核验的具体主张、采用的证据、来源日期、认定依据和申诉入口。对于仍在发展的突发事件，还应提供结论更新机制。当权威部门纠正信息或出现新的可靠证据时，原有标签应同步调整，避免过时结论继续影响传播。
同时，事实核验团队应与商业推荐、广告销售和内容运营保持必要独立，并定期公开误判纠正情况、申诉处理流程和典型案例。只有让用户看见核验依据，平台的治理行为才不至于变成无法质疑的“黑箱裁决”。
用户与内容创作者也要承担责任
创作者发布AI辅助内容前，应保存原始素材和生成记录，核实关键事实，主动注明生成或合成情况，不删除工具附带的标识。看到带有“现场画面”“紧急通知”“内部消息”等表述的内容时，用户应先检查发布账号、原始出处和事件日期，不能把画面逼真度当作真实性证明。
AI可以帮助发现异常、检索证据和提高核验效率，但事实结论仍应建立在可追溯来源、公开规则和人工责任之上。
总结
治理AI生成虚假信息，需要形成“源头标识、传播检测、证据核验、分级处置、公开解释、申诉纠错”的完整闭环。“九不准”和“七条底线”提供的是不可突破的内容边界，平台事实核验机制则应把这些原则转化为可执行、可审查、可纠正的流程。治理的目标不是限制正常使用AI，而是提高欺骗成本，保护真实信息的传播空间，并让每一次处置都经得起证据检验。
