2026年9月7日,多家权威媒体集中讨论未成年人使用生成式人工智能的安全边界。值得注意的是,现行规则并非笼统地禁止未成年人接触生成式AI,而是针对开放式生成、虚拟亲密关系、无监督使用和直接代写等高风险场景设置限制。对校园智能辅导产品而言,真正的问题不是“能不能进校园”,而是“以什么功能、什么权限和什么责任机制进入校园”。
所谓“禁用”,首先要区分具体场景
校园智能辅导产品不能把“学习教育”当作规避监管的标签。一个产品即使主打答疑,如果同时提供无限制开放对话、拟人化陪伴、情绪依赖诱导或代写作业功能,其实际风险已经超出普通学习工具的范围。2026年9月7日发布的相关报道明确指出,保护未成年人的目的不是让孩子远离AI,而是通过未成年人模式、监护人授权和学校指导,让学生形成驾驭AI的能力。人民网相关报道与央广网相关报道对这一政策取向作出了相互印证。
因此,“禁用政策”应理解为对特定能力和使用方式的限制,而不是对全部智能辅导功能的一刀切封禁。知识点提示、错因分析、分步骤启发和教师备课辅助,通常具有明确教学目的;直接生成整篇作业、替学生完成考试任务、持续扮演虚拟伴侣,则应进入限制或禁止清单。
以“九不准”设置内容准入红线
《互联网信息服务管理办法》第十五条规定,互联网信息服务提供者不得制作、复制、发布和传播九类违法信息,涉及国家安全、国家利益、民族团结、社会稳定、违法犯罪、侮辱诽谤及其他法律法规禁止的内容。市场监管总局公布文本显示,该办法还要求服务提供者保证信息内容合法,发现明显违法信息时立即停止传输、保存记录并依法报告。
映射到校园产品,准入审查不能只测试几个安全问题,而应覆盖学生可能使用的全部入口,包括文字、图片、语音、拍照搜题、文件上传和角色对话。学校尤其要检查产品能否拦截谣言、暴力犯罪诱导、侮辱同学、侵犯隐私以及不适合未成年人的内容,并验证其在多轮对话、错别字变形和图片输入下是否仍然有效。
以“七条底线”审查产品价值取向
在“九不准”的禁止性框架之外,法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性七条底线,可以转化为校园准入的日常评价指标。尤其是信息真实性底线,要求产品把“可能出错”落实为可操作机制,而不能仅在用户协议中放置一句笼统免责声明。
- 真实性:事实性回答应尽量提供出处、更新时间和不确定性提示,涉及重要结论时允许教师复核。
- 权益保护:不得要求学生上传与学习无关的身份信息,不得公开展示个人成绩、对话和心理特征。
- 道德与秩序:不得以排名刺激、连续签到、情绪化话术或虚拟奖励诱导长时间使用。
- 责任可追溯:学校应能查询模型版本、功能变更、安全事件和人工处置记录。
校园准入应当设置四道门槛
第一道是功能分级
建议形成“允许、限制、禁止”三类清单。允许类包括知识检索、启发式提示和教师辅助;限制类包括开放式写作、图片生成、个性化推荐和情绪支持,必须在教师或监护人控制下使用;禁止类包括代写考试答案、虚拟亲密关系、诱导消费以及规避学校管理的功能。
第二道是年龄与权限控制
2026年7月15日起施行的《人工智能拟人化互动服务管理暂行办法》禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;向不满十四周岁未成年人提供其他拟人化互动服务,应取得监护人同意,并建立未成年人模式、时长限制和风险提醒。中国政府网正式文本同时说明,不涉及持续情感互动的学习教育服务不直接适用该办法,但校园产品一旦加入长期人格记忆或情感陪伴,就可能改变其服务性质。
第三道是数据最小化
智能辅导通常会接触作业、成绩、声音乃至学生画像。准入合同应明确数据用途、保存期限、访问人员、删除方式及第三方模型调用范围。默认不开启非必要画像,不把学生对话用于广告推荐,也不能未经适当授权将校园数据用于模型训练。
第四道是教师最终负责
AI可以提出批改建议,却不应成为决定学生成绩、能力标签或纪律处分的唯一依据。学校应保留教师复核、学生申诉和错误纠正通道。产品更新模型或新增生成功能后,还应触发重新评估,避免“采购时合规、升级后越界”。
总结
校园智能辅导产品的准入边界,应当从品牌审查转向能力审查,从一次验收转向持续治理。符合要求的产品应做到内容不越“九不准”、运行不破“七条底线”、功能坚持助学不代学、数据坚持最小必要、评价坚持教师负责。限制高风险生成能力并不等于拒绝人工智能,而是让技术在清晰、可核验、可追责的教育边界内发挥价值。
事件或资料日期:
2026年9月7日:人民网、央广网及其他权威媒体发布“给青少年使用AI划清安全边界”相关报道,属于当前日期2026年9月8日前七天内的公开信息。来源一、来源二。
2026年7月15日:《人工智能拟人化互动服务管理暂行办法》正式施行。官方文件。
2024年12月6日:《互联网信息服务管理办法》完成第二次修订,本文“九不准”框架依据其第十五条。法规文本。