思科在2026年10月28日发布并开源Project Quarry，定位为面向智能体安全的检测语言及评估引擎。思科官方介绍称，Quarry针对的是这样一类风险：智能体读取内容、调用工具、执行命令和访问外部服务时，单个动作可能都经过授权，但多个动作串联后可能形成提示注入、越权、数据外泄或目标漂移。\n\nQuarry的核心思路不是只检查一条消息或一次工具调用，而是保留并分析完整会话轨迹，包括模型看到的内容、工具名称及参数、工具返回结果和后续行为。规则可以描述动作之间的顺序、时间关系和条件，并在命中后返回触发规则的步骤、匹配字段及摘要证据。思科表示，该项目同时结合机器学习分类器或大模型评判与确定性的规则检查，例如识别提示注入、匹配危险命令、检查文件读取后是否紧接着向外部地址发送请求。\n\n从覆盖范围看，Quarry支持单轮和多轮大语言模型对话、智能体工具调用、模型上下文协议（MCP）交互及多模态输入。思科将其定位为策略和评估层，而不是替代授权、内容分类器或运行时拦截系统。它可以用于模型调用和工具执行前后的运行时防护，也可以对已经保存的轨迹进行事后评估，或把新发现的攻击模式回溯到历史记录中。项目官方说明显示，最终采取告警、阻断、脱敏、隔离或记录等动作，仍取决于接入Quarry的产品。\n\n这一发布反映出智能体安全的关注点正在从“某次输出是否有害”转向“连续行为是否偏离任务和权限边界”。不过，目前公开信息主要来自思科对项目设计目标和示例场景的介绍，不能据此证明Quarry已经在大规模生产环境中验证了检测准确率，也不能把文中引用的安全事件直接视为Quarry的实测结果。项目的实际效果还需要结合公开代码、规则质量、误报率以及不同智能体框架中的部署测试进一步判断。
参考来源：
由 AI 整理，仅供参考；请以原始来源为准。
