据arXiv于2026年10月20日公开的论文，Toshiba Europe剑桥研究实验室研究团队提出CAPSafe基准，用于评估具身智能体在有环境上下文的情况下识别风险、选择安全动作及生成安全长时计划的能力。论文原文
CAPSafe包含两个层级：动作层面判断单个动作在特定环境中是否安全，计划层面则要求智能体在存在多个潜在危险的家庭场景中完成较长任务。其设计强调“情境风险”，即危险并不总是来自明确的危险指令，而可能取决于物体材质、温度、清洁状态、位置或设备开关状态等环境属性。基准还为风险标注相对严重程度，以便区分不同等级的安全问题。
论文摘要称，研究团队评测了9个闭源和开源大语言模型。部分模型在识别不安全动作方面的准确率超过90%，但这种能力并没有稳定转化为长时安全规划能力。论文报告的最高安全成功率为78.19%，其他模型均低于65%。这表明，模型能够识别某一步骤存在风险，并不意味着它能在连续多步执行中持续遵守安全约束。
CAPSafe的场景包含同时出现的多个风险，长时任务还需要处理执行过程中的危险以及任务结束后遗留的安全状态，例如设备未关闭或物品未妥善收纳。研究团队表示，基准目前主要通过结构化环境描述和文本模拟器评估安全推理，因此结果重点反映模型的风险判断与计划能力，尚不能直接等同于真实机器人在开放环境中的安全表现。
这项工作对具身智能评测的启示是，安全测试不能只看模型是否拒绝明显危险指令，也不能只检查最终状态，还需要观察中间动作、风险持续时间、多个风险同时出现时的决策，以及不同风险严重程度下的应对差异。由于该成果目前以arXiv预印本形式发布，评测设置、数据构造方式和模型结果仍应结合后续复现与真实机器人实验进一步核验。
参考来源：
由 AI 整理，仅供参考；请以原始来源为准。
