2026年9月2日，中央网信办发布消息，“清朗·整治AI应用乱象”专项行动进入第二阶段。与第一阶段侧重模型备案、训练语料、安全审核和生成内容标识不同，本阶段将治理重点进一步延伸至内容生产与传播环节，集中整治AI生成虚假信息、“数字泔水”、假冒仿冒、侵害未成年人权益以及利用AI“托管”从事网络水军活动等问题。[1]
第二阶段为何更强调平台责任
中央网信办通报显示，截至2026年9月2日，专项行动累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。新华社和科技日报对相关数据及治理方向进行了交叉报道。新华社报道科技日报报道
这些信息表明，AI治理已不再局限于模型是否完成备案、产品是否设置安全围栏，而是进一步追问三个问题：平台能否识别由文字、图片、音频和视频共同构成的违规内容，能否在内容扩散前及时拦截，能否让用户清楚辨认生成合成信息。对于论坛、短视频、社交和内容社区而言，审核对象正从单一文本升级为复杂的多模态组合。
“九不准”和“七条底线”仍是基本尺度
从《互联网信息服务管理办法》所确立的禁止性规范看，信息服务不得制作、复制、发布或传播危害国家安全、扰乱社会秩序、散布谣言、侮辱他人以及其他违法内容。互联网信息传播还应守住法律法规、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性等底线。技术形态发生变化，并不意味着内容责任随之消失。
把这一框架应用到AI场景，平台不能只判断某段文字是否触发关键词，还要分析画面、声音、标题、字幕和上下文组合后是否形成虚假叙事。例如，普通灾害画面与虚构地点、时间拼接后，可能误导公众；合成人脸与模仿声线结合后，可能构成对他人身份的仿冒；看似独立的大量账号若使用高度相似的AI文案集中评论，也可能形成虚假流量或操纵舆论的风险。
多模态审核成为治理关键点
根据2026年9月2日发布的官方信息，抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台正在优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，并通过相关治理系统提高检测和拦截效率。平台还累计发布各类治理公告46期。中央网信办通报
这一变化意味着平台需要建立贯穿上传、审核、推荐和申诉的治理链条。上传阶段可检查文件元数据和生成标识，审核阶段需联合识别画面、声音与语义，推荐阶段应对争议内容降低传播速度，处置阶段则要保留必要记录，并为误判内容提供申诉和人工复核渠道。仅依赖关键词过滤，难以应对换脸、拟声、画面拼接以及故意规避识别的新型变体。
生成内容标识不能停留在页面提示
2026年4月30日公布的专项行动安排已将“生成合成内容标识落实不到位”列为第一阶段重点整治问题，包括未添加标识、显著提示不规范、跨平台隐式标识互认不足以及提供违规去标识工具等情形。专项行动部署文件
进入第二阶段后，标识责任与内容治理形成衔接。豆包、元宝、千问、文心一言等平台被要求严把原始语料审核关、限制违规内容输出，并推动生成合成内容标识要求落地。新华社核验信息 对平台而言，比较稳妥的做法是同时保留面向用户的显著提示和可供系统识别的技术标记，并防止内容经过下载、剪辑或跨平台转载后完全失去来源线索。
论坛运营者和普通用户需要注意什么
- 建立AI内容发布规则：明确要求用户对生成或深度合成内容进行标注，对新闻事件、公共政策和突发事件类信息增加来源核验。
- 避免只审文字：审核帖子时同步检查封面、配图、字幕、音频与外链，防止单项内容正常、组合后却造成误导。
- 完善举报入口：将“疑似AI生成”“身份仿冒”“虚假事件”和“侵害未成年人权益”等设置为可识别的举报类别。
- 谨慎转发异常内容：面对画面逼真但缺少时间、地点和权威来源的信息，应先查询官方通报或可靠媒体报道。
- 保留核验记录：对于热点内容的修改、标识、限流和删除，应形成必要的内部记录，便于复核与责任追溯。
总结
“清朗·整治AI应用乱象”第二阶段释放出的信号十分明确：AI内容治理正在从模型入口扩展到生成、发布、推荐和跨平台传播的全过程。平台既要以“九不准”和“七条底线”审视内容是否合法、真实并尊重他人权益，也要提升多模态识别、生成标识互认、账号行为分析和人工复核能力。对中文论坛而言，真正有效的治理不是简单禁止AI内容，而是让生成内容可识别、重要事实可核验、违规传播可处置、正常创作有申诉渠道，在安全底线与技术创新之间形成清晰边界。
事件及资料日期
事件日期：2026年9月2日。中央网信办发布第二阶段工作进展及典型治理信息。官方原文
交叉核验日期：2026年9月2日。新华社转载并核验专项行动重点、平台措施及相关数据。新华社报道
背景资料日期：2026年4月30日。中央网信办公布专项行动总体安排、两个阶段及重点整治事项。专项行动部署
