2026年9月2日，中央网信办公布“清朗·整治AI应用乱象”专项行动第二阶段进展。官方通报显示，整治重点已经从模型和语料安全延伸到内容生产、传播、账号运营及应用分发等环节。截至通报时，相关行动累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。9月3日，《人民日报》对上述进展作了进一步报道，信息与中央网信办通报一致。[1][2]
AI虚假信息为何更难识别
传统谣言往往依靠文字拼接或旧图冒充新事件，而AI虚假信息可以同时伪造画面、声音、人物表情和现场环境。此次通报披露的典型问题包括生成虚假灾害现场和救援画面、编造社会热点、利用AI数字人开展虚假宣传，以及通过“换脸”“换声”假冒他人。这意味着，画面清晰、语气自然、人物形象逼真，都不能单独作为真实性依据。中央网信办通报
判断这类信息，应当把《互联网信息服务管理办法》第十五条所列“九不准”作为内容红线，尤其关注散布谣言、扰乱社会秩序，传播暴力恐怖内容，以及侮辱诽谤、侵害他人合法权益等情形。同时，还应以法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性“七条底线”进行综合审视。AI只是制作工具，不会改变发布者、传播者和平台应承担的责任。《互联网信息服务管理办法》
普通用户可采用四步核验法
- 先查信息源。查看内容是否来自主管部门、权威媒体或涉事机构的正式账号。对于灾害、政策、金融、医疗等高风险信息，不要把聊天截图、自媒体转述或AI回答当作最终依据。
- 再核日期与地点。搜索事件发生时间、首次发布时间和画面拍摄地点，警惕旧视频重新配音、外地画面移花接木，以及把虚构场景包装成“刚刚发生”。
- 检查人物与细节。关注口型和声音是否错位、手部与文字是否异常、光影和倒影是否矛盾，但不能仅凭某个视觉瑕疵下结论。生成技术持续迭代，技术特征只能作为线索。
- 完成交叉核验。至少找到两个相互独立、能够追溯原始出处的可靠来源。若只有大量账号复制同一段文字，却找不到首发机构、文件编号或完整采访，应暂缓转发并标记为待核实。
用户还可以检查平台是否显示“AI生成”“疑似生成合成”等提示。《人工智能生成合成内容标识办法》要求对相关文本、图片、音频、视频和虚拟场景设置显式或隐式标识，并要求传播平台核验文件元数据、提供声明功能。需要注意的是，没有看到标识不代表内容一定真实，因为标识可能缺失或被恶意处理；看到标识也不等于内容违法，关键仍在于是否虚假、侵权以及是否突破内容安全底线。《人工智能生成合成内容标识办法》
平台核验责任不能停留在“贴标签”
平台首先应建立分级核验机制。涉及突发事件、公共政策、医疗健康、金融投资、未成年人和人物身份的信息，应进入高风险审核队列。系统识别到疑似换脸、拟声、虚构灾害画面或异常批量发布时，应降低推荐、暂停扩散并启动人工复核，而不是等到形成热点后才处理。
其次，应把显式标识与隐式标识贯通起来。上传环节既要读取元数据，也要保存传播平台、内容编号和处置记录；发现用户未声明但存在生成合成痕迹时，应增加醒目提示并要求补充说明。对于反复删除标识、裁剪水印或伪造权威机构标志的账号，可以结合历史行为提高风险等级。
再次，平台需要建立可追溯的证据链。《互联网信息服务管理办法》第十六条规定，发现明显属于禁止内容的信息，应立即停止传输、保存有关记录并向有关机关报告。落实到AI治理中，应记录原始文件、上传时间、修改轨迹、账号关系、模型或工具声明、审核结论及申诉处理过程，避免处置依据无法复核。
最后，责任应覆盖内容平台、生成服务、MCN机构和应用商店。此次进展通报提到，相关平台正在优化多模态识别模型，扩充人脸库、声纹库和违规样本库；部分生成式AI平台加强语料审核和内容标识，应用商店则完善开发者准入及抽检复测。这说明核验责任不是单点删除，而是从生成、上传、推荐到应用上架的全链条治理。专项行动进展
论坛和内容社区如何形成共治
- 设置“疑似AI生成”“来源待核实”“官方已辟谣”等统一标签，避免普通提醒与违规结论混淆。
- 举报入口增加原始链接、发布时间、疑似造假类型和权威反证材料等字段，提高核查效率。
- 对更正内容保留可见记录，说明修改时间和原因，减少错误信息在截图、搬运和二次剪辑中继续传播。
- 向创作者提供发布前清单，要求核对人物授权、事实来源、AI标识及标题表述，禁止将虚构内容包装成现场新闻。
总结
识别AI虚假信息，不能只靠“看起来像不像AI”，而要回到来源、日期、证据和交叉验证。落实平台责任，也不能止于事后删帖，而应形成风险分级、标识核验、人工复核、传播限制、记录留存和申诉纠错的闭环。“九不准”明确不可触碰的内容红线，“七条底线”提供真实性、公共秩序和公民权益等判断尺度。只有用户保持审慎、创作者主动标识、平台承担核验责任，AI内容治理才能从被动处置转向常态预防。
事件及资料日期：
2026年9月2日，中央网信办公布“清朗·整治AI应用乱象”专项行动第二阶段工作进展，详见中国网信网官方通报。
2026年9月3日，《人民日报》刊发相关报道，详见人民网转发报道。
《互联网信息服务管理办法》现行公开文本可查阅国家市场监督管理总局页面；《人工智能生成合成内容标识办法》成文日期为2025年3月7日，自2025年9月1日起施行，详见中国政府网文件。
