生成式人工智能可以在几秒内给出看似完整的“人物履历”“案件经过”甚至“司法记录”，但语言流畅不等于事实真实。2026年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，首次以最高审判机关专门规则文件的形式回应“AI幻觉”侵权等问题。对于大模型捏造违法犯罪经历、职业污点或其他足以降低社会评价的事实，责任不能简单推给算法，也不能一概要求平台为所有错误输出承担责任。
“AI说错了”何时会变成名誉侵权
普通知识性错误与名誉侵权并不完全相同。判断一段AI生成内容是否侵害名誉权，通常要关注内容是否指向特定自然人、是否包含不实事实，以及是否已经传播并导致其社会评价降低。例如，模型凭空声称某人曾被判刑、存在学术造假、实施商业欺诈，性质显然比答错一道常识题严重。最高法发布的信息表明，《意见》专门涉及利用人工智能侵害名誉权、肖像权、隐私权和声音权益等场景，并明确涉人工智能侵权责任的认定规则。相关内容可参见最高人民法院发布说明[1]。
从网络内容治理角度看，这类虚假输出还可能触碰互联网信息服务所强调的守法、真实、公共秩序和公民合法权益底线。以“九不准”和“七条底线”为基本审视框架，平台和用户至少不能把AI用于造谣诽谤、侵犯他人合法权益或者扰乱正常信息传播秩序。AI只是生成工具，不能成为规避内容责任的新通道。
第一责任人可能是恶意诱导模型的用户
如果用户通过提示词故意要求模型编造某人的犯罪记录、私生活丑闻或职业劣迹，再将生成结果截图、剪辑并公开传播，用户是侵权行为的直接实施者。按照《意见》披露的规则，网络用户通过输入侵权提示词等方式，恶意诱导生成式人工智能产生侵权内容并造成他人损害的，应当依法承担侵权责任。央视新闻客户端的报道经中国新闻网转载，对这一责任划分作出了明确说明，详见相关权威报道[2]。
这意味着，“内容是AI写的”不能帮助发布者免责。法院仍会考察是谁设定了生成目标、是否明知内容没有事实依据、是否主动扩散，以及相关行为和损害后果之间是否存在关联。尤其是将虚构内容包装成“法院通报”“媒体调查”或“内部材料”，更容易让公众产生错误信赖，也可能放大侵权后果。
平台不是无限担责，但收到通知后必须行动
大模型输出受到训练数据、模型参数和用户提示词等多重因素影响，服务提供者通常难以事先预测并审查每一次生成结果。因此，《意见》并未确立“模型只要出错，平台就自动赔偿”的绝对责任。最高法公开说明强调，应当依据人工智能在不同应用场景中的风险性质和大小依法认定责任，在保护权益与支持创新之间保持平衡。
不过，一旦权利人已经提出有效通知，平台的责任边界就会发生变化。根据此次公开规则，生成式人工智能自动生成的内容侵害人格权益，经权利人通知后，服务提供者未及时采取停止生成侵权内容等必要措施，应当对由此造成的损害依法承担侵权责任；如果侵权内容系用户恶意诱导生成，平台接到通知后仍未停止生成、屏蔽相关指令，也可能与该用户分别承担相应民事责任。法治日报对发布会内容的交叉报道见法治日报报道[3]。
受害者如何投诉、取证和维权
- 固定完整输出。保存问题、提示词、生成答案、生成时间、账号信息和分享页面，不要只截取一句容易产生歧义的话。
- 证明内容指向自己。整理姓名、职业、单位、头像及上下文等识别要素，说明一般读者为何能够确认虚假内容所指对象。
- 提供权威反证。涉及判决、处罚、执业资格或任职经历时，可使用官方查询结果、单位证明等材料证明相关说法失实。
- 向平台发出明确通知。写清侵权内容、生成路径、权利基础及具体请求，要求停止生成、屏蔽相关指令并防止相同内容继续出现，同时保留提交和接收记录。
- 记录传播与损害。保存转发量、群聊记录、客户询问、单位处理通知等材料，以证明社会评价降低及可能产生的实际影响。
如果虚假内容正在快速扩散，并可能造成难以弥补的损害，权利人还可以依法寻求更及时的救济。此次《意见》同时明确了人格权侵害禁令的适用规则，为制止AI换脸、虚假言论等持续性侵害提供了司法路径。
平台和内容运营者应当提前补上的机制
- 对犯罪记录、司法裁判、医疗结论、职业资格等高风险事实设置更严格的核验和风险提示。
- 建立可追踪的投诉入口，记录通知时间、处置措施和复核结果。
- 对反复出现的侵权提示词、同名误识别及特定人物虚假标签采取持续阻断措施。
- 论坛、自媒体和企业账号引用AI内容前，应核对权威来源，不把模型回答直接包装成新闻事实。
总结
最高法此次明确的并不是“所有AI幻觉都由平台赔偿”，而是一套按照行为、过错、通知和损害划分责任的规则：恶意诱导并传播虚假内容的用户不能甩锅给模型；平台无法预审全部输出，并不当然构成侵权；但权利人通知后仍不及时采取必要措施，平台就可能依法承担责任。对于论坛用户而言，最实用的原则仍然是先核验、后发布，发现侵权及时留证并通知平台。技术可以生成文字，却不能替任何人免除守法和尊重他人名誉的义务。
事件或资料日期：《最高人民法院关于依法审理涉人工智能纠纷案件的意见》及新闻发布会信息发布于2026年9月7日；中国新闻网转载央视新闻客户端相关解读发布于2026年9月8日；法治日报相关报道发布于2026年9月7日。资料来源：最高人民法院[1]、中国新闻网、央视新闻客户端[2]、法治日报[3]。
