微软安全部门在2026年10月19日发布文章，将企业内部部署、能够访问数据和工具并执行操作的人工智能智能体称为“智能体内部人”（agentic insiders），提醒企业不能默认信任这些系统。文章指出，智能体可能因目标优化、上下文变化或权限过大而采取偏离预期的行动，但微软没有在文中公布相关事件的完整案例统计或量化风险数据。微软官方文章《Securing the agentic insider》
微软提出的核心思路是对智能体进行持续、实时的身份、权限、数据、终端、网络、云和运行时保护，而不是只在部署前进行一次性审核。其文章介绍，Project Perception可汇集多层安全信号，为智能体分配身份、容器、策略和权限，再根据具体操作动态评估风险。
在执行层面，微软提出使用“Guardian Agents”持续观察和调节其他智能体的行动：低风险操作可以维持运行，风险上升时则采取更严格的限制或阻断。该方案本质上是用自动化监管层，为非确定性的模型行为叠加确定性的访问控制和审计机制。微软同时强调，实时自动化不能替代安全人员的判断，监管者仍需追溯风险如何出现，并据此更新策略。
这条信息的价值主要在于安全视角的变化：企业评估智能体时，关注点不应只包括模型能力和任务完成率，还应包括权限边界、每次工具调用的记录、风险升级条件、异常行为的可解释性以及人工接管机制。需要注意的是，以上内容主要是微软对其安全框架和产品方向的介绍，并不等同于独立机构已经验证了Project Perception或Guardian Agents的实际防护效果。对准备大规模部署智能体的企业而言，可先从最小权限、分层审批、全量日志和可撤销权限等基础控制开始，再评估是否需要引入自动化监管智能体。
参考来源：
由 AI 整理，仅供参考；请以原始来源为准。
