2026年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》。这份首部由国家最高审判机构发布的涉人工智能司法裁判规则文件，直接回应“AI幻觉”侵权，并明确生成式人工智能服务提供者可参照“避风港规则”认定责任。对平台而言，合规重点不再只是上线免责声明，而是能否证明自己建立了与风险、控制能力和获利情况相匹配的注意义务体系。[1] [2]
“AI幻觉”侵权后，平台并非当然免责
所谓“AI幻觉”，通常表现为模型生成不存在的事实、虚构人物经历、错误关联真实主体，甚至捏造负面事件。如果内容能够识别特定自然人，并造成社会评价降低、隐私泄露或其他人格权益损害，就可能进入侵权责任判断范围。最高法在2026年9月7日的新闻发布会上说明，生成式人工智能自动生成的内容侵害人格权益，经权利人通知后，服务提供者未及时采取停止生成侵权内容等必要措施的，应当依法承担相应侵权责任。最高法新闻发布会实录
这意味着平台不能用“内容由模型自动生成”“用户提示词不可预测”作为一概免责的理由。司法规则考虑到了平台无法逐条预审海量生成内容的现实，因此没有要求平台对所有输出承担结果责任；但平台收到有效通知、发现明显风险，或者对高风险场景具有更强控制能力后，注意义务就会提高。如果仍然放任相同侵权内容继续生成、传播，责任风险将随损害扩大而增加。
第一项义务：建立真正可用的侵权通知入口
平台首先应提供清晰、便捷且可追踪的投诉渠道，避免把入口隐藏在多级菜单中。通知机制至少应支持权利人说明被侵害的姓名权、肖像权、名誉权、隐私权或声音权益，提交相关生成内容、提示词线索、页面位置和初步身份证明，并自动生成受理编号。
平台还应区分“材料不完整”和“明显无效通知”。材料不足时，可以一次性告知补正要求；对可能持续扩散、损害难以弥补的内容，则应先采取临时限制措施，再完成后续核查。最高法同时明确，在符合条件时，法院可以责令网络服务提供者、人工智能服务提供者及时采取必要措施，防止人格权益损害进一步扩大。央视新闻报道
第二项义务：不能只删结果，还要阻断重复生成
传统平台处理侵权，常见方式是删除某一帖子或屏蔽某一链接。但生成式AI具有即时重生成能力，仅删除一条对话记录可能无法制止损害。最高法新闻发布会特别提到，必要措施可以包括停止生成侵权内容、屏蔽相关生成指令等。对于用户以侵权提示词恶意诱导模型生成内容的，用户应依法承担责任；平台收到通知后仍未及时阻断的，权利人可以请求用户和平台承担相应民事责任。[3]
因此，平台的处置动作应形成组合：限制涉事回答继续展示，拦截高度相似的恶意提示词，降低相关内容被检索或分享的可能，对反复违规账号采取分级限制，并评估模型是否存在可稳定复现的错误关联。对于真实姓名、身份信息、联系方式、负面违法经历等高风险组合，应设置更严格的验证和输出策略。
第三项义务：按风险等级配置核验和人工复审
在“九不准”和“七条底线”的治理框架下，平台应把守法合规、公共利益、公民合法权益、信息真实性与社会责任落实到产品流程，而不是停留在用户协议中。普通创意问答可以采用较低强度管控，但涉及医疗、法律、金融建议以及真实人物评价、公共事件、个人隐私的信息，应提高事实核验、来源提示和人工复审等级。
模型无法确定事实时，应明确展示不确定性，避免用肯定语气包装猜测。涉及真实人物的负面信息，不宜仅凭模型内部概率直接输出；能够接入可靠资料的，应提示出处和资料日期，不能核实时则应限制具体指控。对于新闻摘要、人物背景和争议事件，平台还应防止把同名人物、过期资料或虚构案例错误拼接。
第四项义务：保存可供举证的治理记录
发生纠纷后，平台是否尽到注意义务，需要记录证明。平台应在符合法律要求和最小必要原则的前提下，保存投诉时间、通知内容、处置节点、复核结论、风险规则版本和必要的生成日志，同时严格控制访问权限与保存期限。
值得注意的是，最高法还提出，人工智能生成内容涉及著作权争议时，责任承担应与控制能力、注意义务相匹配，并综合考虑技术和商业模式、各方在生成过程中的作用、训练数据来源、必要措施以及获利情况。开发者或提供者提出不侵权抗辩时，也可能需要就训练数据来源、训练过程和运行模式等事实举证。[4] 这进一步说明，缺少日志、版本记录和处置证据，本身就可能削弱平台的抗辩能力。
第五项义务：把治理责任落实到组织和产品设计
- 上线前评估：针对人格侵权、隐私泄露、恶意提示词和事实幻觉开展专项测试。
- 上线后监测：持续跟踪高频投诉、重复生成率和同类风险是否跨版本复现。
- 快速响应：对明显侵权或可能造成难以弥补损害的内容设置紧急处置时限。
- 用户约束：明确禁止利用模型实施诽谤、冒充、开盒、人肉搜索和虚假宣传。
- 责任到人：建立法务、安全、算法、客服和产品团队共同参与的升级机制。
总结
最高法明确“AI幻觉”侵权责任，并不意味着平台必须保证模型永远不出错，而是要求平台在风险可识别、措施可实施时采取行动。能否及时受理通知、停止侵权生成、屏蔽恶意指令、防止重复传播并留存处置证据，将成为判断平台是否尽到注意义务的重要因素。对生成式AI平台来说，最稳妥的方向是把“九不准”和“七条底线”转化为具体的风险分级、投诉响应、技术阻断和审计留痕制度，在支持创新的同时守住人格权益与信息安全边界。
事件及资料日期
事件日期：2026年9月7日。最高人民法院于当日发布《关于依法审理涉人工智能纠纷案件的意见》，相关内容经中国法院网新闻发布会实录、央视新闻2026年9月7日报道及光明网2026年9月7日报道交叉核验。
