2026年9月23日,Anthropic上线Claude Marketplace,将连接器、插件、AI产品和服务伙伴集中到同一入口。平台官方称,上线时已有超过2000个连接器和插件,覆盖Atlassian、Google、Microsoft、Notion、Salesforce等服务;9月24日的行业报道也对发布时间、数量和主要类别进行了交叉核验。[1][2]
数量增长带来的问题并不只是“如何找到好工具”。当连接器可以读取邮件、检索企业文档、更新项目状态,甚至代表用户执行外部操作时,一个看似普通的插件可能同时拥有数据入口、指令入口和操作权限。因此,市场运营方需要把审核目标从“插件能否运行”升级为“插件在什么身份、权限和场景下可以做什么”。
审核对象应从代码扩展到完整能力链
传统应用商店侧重恶意代码、软件签名和漏洞扫描,但AI连接器还包含自然语言指令、工具描述、远程服务端点、身份认证流程与模型调用权限。攻击者未必需要植入典型病毒,也可能通过隐藏提示词诱导模型泄露信息,或者在正常功能中夹带超出用户预期的写入、转账、发布和删除操作。
平台可为每个连接器建立“能力清单”,明确记录读取对象、写入对象、外部域名、所需令牌、数据保存方式以及是否包含高风险动作。审核时不应接受“访问工作区”这类笼统描述,而应拆分为读取文件、上传文件、修改权限、发送消息等可验证项目。新增权限或改变远程端点时,应自动触发重新审核,而不是沿用旧版本信誉。
以“九不准”和“七条底线”设置准入红线
《互联网信息服务管理办法》第十五条列明九类禁止性内容,第十六条进一步要求服务提供者发现明显违法信息后立即停止传输、保存记录并依法报告。现行办法 对AI工具市场的直接启示是:审核不能只判断插件页面是否合规,还要评估它是否会生成、检索、放大或自动传播违法有害信息。
“七条底线”包括法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性。国家网信办转载资料所强调的信息真实性与合法权益,尤其适合转化为连接器审核规则。例如,新闻摘要插件应保留出处和时间,社交发布插件应防止冒用身份,客户数据插件不得绕过授权抓取个人信息,自动化工具不得伪造权威机构通知。
- 内容红线:测试插件是否会主动生成、推荐或传播九类禁止性信息,并覆盖隐晦表达、跨语言转换和编码绕过。
- 权限红线:默认采用最小授权,将读取、写入、删除和对外发布分开申请,高风险动作必须二次确认。
- 真实性红线:要求检索型连接器返回可追溯来源,不得把模型猜测包装成数据库事实。
- 权益红线:禁止未经同意收集凭证、联系人、私有文件和对话记录,也不得利用插件实施诽谤、骚扰或身份冒用。
建立自动检测、人工复核与上线观察三道关
第一道关是机器检测。平台应扫描依赖项、硬编码密钥、可疑域名、混淆代码和权限变化,同时检查插件描述与实际行为是否一致。对提示词和工具说明,还要设置模拟对抗测试,观察它面对数据窃取、越权调用、虚假信息生成等请求时的响应。
第二道关是分级人工复核。只读公开数据的低风险工具可以快速审核;涉及企业邮箱、云盘、财务、医疗、法律、身份凭证或外部发布的连接器,则应验证开发者身份、数据流向和安全联系人。平台规模超过2000项后,不宜平均分配审核资源,而应根据权限强度、用户覆盖面和数据敏感度确定复核优先级。
第三道关是上线后的持续观察。审核通过并不代表永久安全,远程服务器、依赖库和业务逻辑都可能变化。平台应关注异常调用量、失败率突增、访问新域名、短期集中投诉和权限使用偏差,并保留版本、调用主体、时间、工具参数及处置记录。日志需要控制访问范围,避免在安全审计过程中再次暴露用户数据。
下架恶意能力不能只删除展示页面
确认连接器存在恶意行为后,平台应首先冻结新增安装和令牌签发,再阻断现有调用;随后撤销相关凭证、禁用版本和开发者账号,并向可能受影响的用户发出具体通知。若插件已进入企业工作流,仅从市场搜索结果中移除并不能停止其运行,因此还需要服务端吊销、客户端失效标记和必要的远程停用机制。
- 保存插件版本、审核材料、调用日志和检测证据,防止处置后无法追溯。
- 根据风险分级决定暂停、隐藏、强制卸载或永久封禁,并设置内部复核流程。
- 告知用户受影响的数据与时间段,指导其撤销令牌、更换密钥并检查异常操作。
- 排查同一开发者、域名、证书、代码特征和收款主体关联的其他插件。
- 完成根因分析,将新发现的攻击特征补入准入检测和存量复查规则。
总结
两千余连接器意味着AI工具市场已经从功能目录走向企业级能力分发平台。真正有效的治理不是简单增加审核人数,而是把“九不准”和“七条底线”转化为内容、权限、真实性、合法权益和可追溯性的技术规则,再以版本复审、运行监测和快速停用形成闭环。只有做到能力可申报、权限可解释、行为可观察、事件可追责,平台才能在扩大生态的同时降低恶意插件进入真实业务流程的风险。
事件或资料日期:
Claude Marketplace官方发布及上线信息:2026年9月23日,见Anthropic官方公告。
第三方交叉核验资料:2026年9月24日,见Enterprise DNA报道。
《互联网信息服务管理办法》现行文本:2024年12月6日第二次修订,见国家市场监督管理总局资料。
“七条底线”参考资料发布时间:2014年3月4日,见中央网信办转载资料。