9月10日,一项关于“智能体洪泛”的研究引发公共服务领域关注。人工智能正在显著降低填写表格、撰写投诉、申请福利和提起司法救济的门槛,但申请数量同步上升,也可能让审核资源有限的政务与司法平台承受压力。相关报道援引研究指出,英国住房申诉、美国消费者金融投诉以及部分国家的司法和议会请愿均出现明显增长。不过,研究者同时强调,现有数据只能证明人工智能普及与申请增长存在时间关联,尚不足以断言两者具有直接因果关系。9月10日报道 研究原文
智能体带来的不只是“垃圾申请”
过去,群众可能因为政策难懂、材料复杂、写作能力有限而放弃合法申请。智能体可以解释条款、整理证据、检查缺项并生成规范文本,使原本难以行使权利的人完成申报。从这个角度看,申请量增加未必意味着恶意行为增多,也可能意味着过去被行政成本挡在门外的真实需求终于被释放。
问题在于,智能体不仅能帮助一个人提交一次申请,也能以极低成本批量生成近似文本、反复补交材料,甚至自动向多个部门同步投诉。当平台仍按“每份材料主要由人工撰写”的假设配置审核力量时,机器规模化提交与人工逐件处理之间就会形成明显的不对称。研究团队收集了11个司法辖区的84个潜在案例,并认为经济利益较明确、规则较复杂的公共服务更容易受到冲击。研究摘要与版本信息
“九不准”和“七条底线”如何落到申请入口
以依法合规、公共利益、社会公德、信息真实、合法权益和社会秩序等要求审视,平台治理不能只做关键词过滤,更要识别智能体是否被用于制造虚假事实、冒用身份、侵犯隐私、扰乱办理秩序或实施欺诈。便利申请本身不应被限制,但突破授权、伪造证据和恶意占用公共资源必须受到约束。
- 身份底线:智能体只能代表经过可靠认证的申请人操作,授权范围、有效期限和可办理事项应清晰可查。
- 真实性底线:对事实陈述、证据材料和引用依据进行结构化校验,发现前后矛盾、批量雷同或来源异常时转入人工复核。
- 隐私底线:按照事项必要性收集信息,不允许智能体跨事项抓取、拼接或推断与申请无关的个人数据。
- 秩序底线:对同一主体短时间内的重复提交、跨账号协同提交和自动化高频调用设置风险阈值,但不能简单以“使用AI”为由拒绝受理。
- 责任底线:申请人应对最终提交内容负责,平台则应保存授权、生成、修改、提交和审核记录,确保争议发生后能够追溯。
政务平台应当分级,而不是一刀切
低风险事项可以继续放宽智能导办、材料整理和表单预填。例如查询办事条件、生成材料清单、检查格式,不直接改变个人权利义务,适合由智能体完成。涉及补贴资格、行政许可、信用记录、执法处罚和司法裁判的事项,则应坚持“机器辅助、人类决定”,把智能体限制在检索、归类、提示和草拟环节。
平台还可以采用“无障碍优先、异常追加验证”的机制。普通申请不额外增加门槛;只有出现批量雷同、异常频率、身份冲突或证据来源不明时,才要求补充实名认证、原始凭证或人工说明。这样既能拦截滥用,也可以避免收费、复杂验证码等措施重新抬高老年人、残障人士和数字技能不足群体的办事成本。
司法平台尤其要防范“幻觉材料”
9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》,明确要求诉讼参与人提交人工智能生成的诉讼文书、案例检索报告等材料前,认真核实法律、司法解释和案例的真实性、准确性;提交时应说明人工智能辅助使用情况,并依法承担责任。意见还对利用人工智能伪造证据、捏造事实以及不当取证作出规制。最高人民法院发布内容
据此,法院在线平台可以增加AI辅助说明、引用自动核验、相似文本提示和原始证据留存功能,但不宜把“机器生成”直接等同于不诚信。真正需要重点审查的是虚构案例、篡改证据、隐瞒关键事实以及通过自动化提交妨碍司法秩序的行为,而不是当事人是否借助工具改善表达。
总结
智能体涌入公共服务申请,是公共数字化进入新阶段的表现。治理目标不应是把申请量压回过去,而应把真实需求与自动化滥用区分开来。政务司法平台可以通过实名授权、风险分级、事实核验、频率控制、人机复核和全程留痕建立闭环:让技术继续降低群众办事门槛,同时让虚假材料、越权操作和规模化干扰承担更高成本。便民与防滥用并非二选一,关键是增加精准责任,而不是普遍增加摩擦。