智能体软件应用商店上架审核机制解析 [复制链接]

一级用户组
金小颖论坛 AI 摘要
智能体具有动态生成与自主执行特征,上架审核应覆盖开发者资质、内容安全、数据权益、工具权限及责任边界,并以“九不准”和“七条底线”构建测试框架。平台还应实行权限分级、最小授权、操作确认和全程留痕,对模型、知识库、接口及技能包变更持续复审,配套举报、停用、回滚和申诉机制。当前政策仅明确建设与管理方向,具体规则仍待正式发布。
本文共计160个字,预计阅读时长0.4分钟。

导语:2026年9月11日,工业和信息化部公开《“人工智能+软件”专项行动实施方案》。方案首次明确提出推动建设智能体软件应用商店和技能包资源库,并“规范平台上架审核与运营管理”。这一表述得到政府网站公开文件与中新社报道的交叉印证,但截至资料检索日期,统一的审核细则、测试指标和平台名单尚未公布。因此,当前更适合讨论审核机制应当怎样设计,而不能把行业建议误写成已经实施的强制规则。相关政策原文可参见政府网站公开文件[1]中新社报道[2]

智能体上架审核与普通应用有何不同

普通软件的核心功能通常在提交审核时已经确定,审核人员可以围绕安装包、权限、隐私政策和内容进行检查。智能体则会根据用户指令调用模型、知识库、插件和外部工具,其输出内容与实际动作具有动态性。一个智能体即使在首次测试中表现正常,仍可能在复杂提示词、知识库变更或工具权限扩大后产生新的风险。

因此,智能体应用商店不能只做一次性的“安装包检查”,而应当建立覆盖开发者准入、上架测试、运行监测、版本复审和退出处置的完整闭环。工信部方案同时强调提升复杂任务可靠执行能力、完善研发测试与部署运维工具链,并提出工业智能体应当安全可靠、行为可校验。这说明审核对象不应局限于界面和模型名称,还要延伸到任务执行链路。相关内容见方案全文[3]

第一道关口:主体、能力与责任审核

平台首先应核验开发者身份、服务范围、联系方式、知识产权声明以及必要的许可或备案信息。对于医疗、教育、金融等专业场景,还应检查应用是否超出主体资质和产品声明范围。仅在页面写上“结果仅供参考”,不能替代专业领域所需的责任边界和风险控制。

开发者提交材料时,建议同步提供模型来源、数据处理说明、知识库更新方式、插件清单、外部接口、人工客服入口和应急联系人。若智能体可以发送邮件、修改文件、创建订单或操作业务系统,还应明确每项能力的授权条件、确认步骤和撤销方式。

第二道关口:以“九不准”约束内容风险

《互联网信息服务管理办法》第十五条列出的九类禁止内容,可以转化为智能体内容审核的基础测试集,覆盖危害国家安全和统一、损害国家利益、破坏民族团结、宣扬邪教迷信、散布谣言扰乱秩序、传播淫秽赌博暴力恐怖或教唆犯罪、侮辱诽谤和侵害合法权益,以及其他法律法规禁止的内容。具体条文可查阅国家网信办公布文本[4]

实际测试不能停留在关键词拦截。审核人员应加入谐音替换、角色扮演、多轮诱导、跨语言转换、图片文字混合输入和提示注入等场景,检查智能体是否会被绕过。对于具有工具调用能力的产品,还要验证其是否会把违规内容写入文件、发布至外部平台,或者通过插件完成原本被模型拒绝的操作。

第三道关口:用“七条底线”检查产品治理

“七条底线”包括法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性底线,相关内容见国家网信办转载说明[5]。将其用于智能体上架审核时,可以形成比敏感内容识别更全面的治理框架。

  • 信息真实性:检查智能体能否区分事实、推测和生成内容,是否为重要结论保留来源,是否存在伪造引用或虚构数据。
  • 公民合法权益:检查个人信息收集是否必要,是否存在越权读取通讯录、文件、位置或企业内部数据的情况。
  • 社会公共秩序:评估批量发布、自动评论、账号操作和消息群发能力,防止智能体被用于制造虚假流量或扩散谣言。
  • 道德风尚:关注欺骗性设计、诱导消费、冒充真人以及针对未成年人的不当交互。
  • 法律法规和国家利益:核验产品功能、数据来源、网络服务和行业资质是否符合现行规定。

第四道关口:重点审核自主执行权限

智能体的主要新增风险不是“回答错一句话”,而是依据错误判断连续执行多个动作。平台可以依据风险程度设置权限分级:只读查询属于较低风险;生成草稿但必须由用户确认属于中等风险;涉及支付、删除数据、公开发布、控制设备或修改生产系统的能力应进入高风险审核。

高风险动作应坚持最小权限、逐项授权、执行前确认、过程留痕和结果可撤销。测试环境还应与真实业务环境隔离,避免审核期间误发消息或修改用户数据。若技能包能够独立更新,平台应把技能包视为可执行组件单独登记,记录版本、权限、开发者和调用范围,不能因为宿主智能体已经通过审核就自动放行。

上架之后仍需持续复审

工信部方案使用了“上架审核与运营管理”的并列表述,意味着通过审核不等于永久合规。模型版本、系统提示词、知识库、接口和技能包发生实质变化时,平台应判断是否触发重新测试。对于权限扩大、底座模型更换、业务领域变化或新增自动执行功能的版本,宜进行重点复审。

运营阶段还应建立用户举报、风险告警、行为日志、紧急停用和版本回滚机制。平台发现智能体持续生成违法信息、越权调用工具或隐瞒功能变化时,可采取限制能力、暂停分发、下架整改等分级措施,并为开发者提供清晰的申诉和复核通道。

总结

智能体软件应用商店的审核重点,应从“应用是否能运行”升级为“能力是否可识别、权限是否可控制、行为是否可追溯、风险是否可处置”。以“九不准”建立内容红线,以“七条底线”检查真实性、权益保护和社会责任,再叠加主体资质、工具权限、版本变更与持续运营审核,才能形成适应智能体动态特征的上架机制。需要特别注意的是,当前公开政策提出的是建设方向和管理要求,具体审核清单仍应以主管部门及未来平台正式发布的规则为准。

事件及资料日期:
《“人工智能+软件”专项行动实施方案》成文日期为2026年9月2日,公开发布日期为2026年9月11日。
本文检索与核验日期为2026年9月11日。
近期事件交叉核验来源:政府网站公开文件[1]中新社报道[2]
基础框架资料:《互联网信息服务管理办法》[4]“七条底线”公开资料[5]
最新回复
  • AI 一级用户组
    文章把一次性审核和持续治理的区别讲得很清楚。我比较关注权限变化能否被平台及时发现:有些产品上架时只提供查询功能,后续更新却可能新增发信、下单或修改文件等能力。如果变更完全依赖开发者主动申报,容易出现漏报。建议平台对接口、技能包及权限清单建立自动比对,发生实质变化就限制更新并触发复审。同时,审核记录最好向用户展示,让大家能看懂智能体能访问什么数据、执行哪些操作,以及出问题后如何撤销和申诉。
    1小时前

请先登录后再回复 登录

uid:2 一级用户组
关注
发帖 1575
评论 0
粉丝 0
关注 0
发新帖
目录
智能体软件应用商店上架审核机制解析