导语:2026年9月11日,工业和信息化部公开《“人工智能+软件”专项行动实施方案》。方案首次明确提出推动建设智能体软件应用商店和技能包资源库,并“规范平台上架审核与运营管理”。这一表述得到政府网站公开文件与中新社报道的交叉印证,但截至资料检索日期,统一的审核细则、测试指标和平台名单尚未公布。因此,当前更适合讨论审核机制应当怎样设计,而不能把行业建议误写成已经实施的强制规则。相关政策原文可参见政府网站公开文件[1]和中新社报道[2]。
智能体上架审核与普通应用有何不同
普通软件的核心功能通常在提交审核时已经确定,审核人员可以围绕安装包、权限、隐私政策和内容进行检查。智能体则会根据用户指令调用模型、知识库、插件和外部工具,其输出内容与实际动作具有动态性。一个智能体即使在首次测试中表现正常,仍可能在复杂提示词、知识库变更或工具权限扩大后产生新的风险。
因此,智能体应用商店不能只做一次性的“安装包检查”,而应当建立覆盖开发者准入、上架测试、运行监测、版本复审和退出处置的完整闭环。工信部方案同时强调提升复杂任务可靠执行能力、完善研发测试与部署运维工具链,并提出工业智能体应当安全可靠、行为可校验。这说明审核对象不应局限于界面和模型名称,还要延伸到任务执行链路。相关内容见方案全文[3]。
第一道关口:主体、能力与责任审核
平台首先应核验开发者身份、服务范围、联系方式、知识产权声明以及必要的许可或备案信息。对于医疗、教育、金融等专业场景,还应检查应用是否超出主体资质和产品声明范围。仅在页面写上“结果仅供参考”,不能替代专业领域所需的责任边界和风险控制。
开发者提交材料时,建议同步提供模型来源、数据处理说明、知识库更新方式、插件清单、外部接口、人工客服入口和应急联系人。若智能体可以发送邮件、修改文件、创建订单或操作业务系统,还应明确每项能力的授权条件、确认步骤和撤销方式。
第二道关口:以“九不准”约束内容风险
《互联网信息服务管理办法》第十五条列出的九类禁止内容,可以转化为智能体内容审核的基础测试集,覆盖危害国家安全和统一、损害国家利益、破坏民族团结、宣扬邪教迷信、散布谣言扰乱秩序、传播淫秽赌博暴力恐怖或教唆犯罪、侮辱诽谤和侵害合法权益,以及其他法律法规禁止的内容。具体条文可查阅国家网信办公布文本[4]。
实际测试不能停留在关键词拦截。审核人员应加入谐音替换、角色扮演、多轮诱导、跨语言转换、图片文字混合输入和提示注入等场景,检查智能体是否会被绕过。对于具有工具调用能力的产品,还要验证其是否会把违规内容写入文件、发布至外部平台,或者通过插件完成原本被模型拒绝的操作。
第三道关口:用“七条底线”检查产品治理
“七条底线”包括法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性底线,相关内容见国家网信办转载说明[5]。将其用于智能体上架审核时,可以形成比敏感内容识别更全面的治理框架。
- 信息真实性:检查智能体能否区分事实、推测和生成内容,是否为重要结论保留来源,是否存在伪造引用或虚构数据。
- 公民合法权益:检查个人信息收集是否必要,是否存在越权读取通讯录、文件、位置或企业内部数据的情况。
- 社会公共秩序:评估批量发布、自动评论、账号操作和消息群发能力,防止智能体被用于制造虚假流量或扩散谣言。
- 道德风尚:关注欺骗性设计、诱导消费、冒充真人以及针对未成年人的不当交互。
- 法律法规和国家利益:核验产品功能、数据来源、网络服务和行业资质是否符合现行规定。
第四道关口:重点审核自主执行权限
智能体的主要新增风险不是“回答错一句话”,而是依据错误判断连续执行多个动作。平台可以依据风险程度设置权限分级:只读查询属于较低风险;生成草稿但必须由用户确认属于中等风险;涉及支付、删除数据、公开发布、控制设备或修改生产系统的能力应进入高风险审核。
高风险动作应坚持最小权限、逐项授权、执行前确认、过程留痕和结果可撤销。测试环境还应与真实业务环境隔离,避免审核期间误发消息或修改用户数据。若技能包能够独立更新,平台应把技能包视为可执行组件单独登记,记录版本、权限、开发者和调用范围,不能因为宿主智能体已经通过审核就自动放行。
上架之后仍需持续复审
工信部方案使用了“上架审核与运营管理”的并列表述,意味着通过审核不等于永久合规。模型版本、系统提示词、知识库、接口和技能包发生实质变化时,平台应判断是否触发重新测试。对于权限扩大、底座模型更换、业务领域变化或新增自动执行功能的版本,宜进行重点复审。
运营阶段还应建立用户举报、风险告警、行为日志、紧急停用和版本回滚机制。平台发现智能体持续生成违法信息、越权调用工具或隐瞒功能变化时,可采取限制能力、暂停分发、下架整改等分级措施,并为开发者提供清晰的申诉和复核通道。
总结
智能体软件应用商店的审核重点,应从“应用是否能运行”升级为“能力是否可识别、权限是否可控制、行为是否可追溯、风险是否可处置”。以“九不准”建立内容红线,以“七条底线”检查真实性、权益保护和社会责任,再叠加主体资质、工具权限、版本变更与持续运营审核,才能形成适应智能体动态特征的上架机制。需要特别注意的是,当前公开政策提出的是建设方向和管理要求,具体审核清单仍应以主管部门及未来平台正式发布的规则为准。
事件及资料日期:
《“人工智能+软件”专项行动实施方案》成文日期为2026年9月2日,公开发布日期为2026年9月11日。
本文检索与核验日期为2026年9月11日。
近期事件交叉核验来源:政府网站公开文件[1]、中新社报道[2]。
基础框架资料:《互联网信息服务管理办法》[4]、“七条底线”公开资料[5]。