过去，生成式人工智能在网络攻击中更多承担代码补全、钓鱼文案生成和漏洞解释等辅助工作。2026年9月10日，Anthropic发布的威胁情报报告提出了更值得警惕的变化：部分威胁行为者正在把AI智能体嵌入侦察、漏洞利用、恶意程序调整、横向移动和数据处理等连续环节，使其从单点工具转变为攻击流程的“编排层”。9月11日发布的独立安全媒体报道也对报告涉及的自动化攻击链、漏洞研究和规避检测行为进行了复核。
风险变化不只是攻击速度更快
传统自动化脚本通常按照预设规则运行，遇到环境变化便可能中断；智能体则能够读取反馈、调整策略并继续调用工具。攻击者可以让多个智能体分别承担信息收集、资产筛选、代码生成、结果验证和报告整理，再由上层任务系统根据执行结果安排下一步。真正的风险不在于某段代码是否由AI生成，而在于侦察、决策、执行和纠错开始形成闭环。
Anthropic的报告覆盖其在2025年12月至2026年8月间识别并处置的服务滥用案例。报告称，相关行为者包括疑似国家支持组织、逐利型犯罪团伙及其他恶意操作者，AI被用于协调多阶段网络行动、批量处理目标信息，以及在恶意程序被安全产品识别后辅助修改和重新构建。需要注意，这些是特定平台发现并披露的代表性案例，不能直接推导为整个互联网中AI攻击所占比例。
自动化攻击链暴露出三类治理缺口
一是智能体权限可能超过任务边界
如果智能体同时拥有互联网访问、代码执行、凭据读取和生产系统写入权限，一次提示注入、账号失陷或错误决策就可能沿工具链扩散。传统账号权限管理关注“谁可以登录”，智能体治理还必须回答“它可以调用什么工具、处理哪些数据、连续执行多少步，以及哪些动作必须由人批准”。
二是攻击行为可能被拆分后隐藏
单次端口请求、代码编译或文件读取未必明显异常，但多个智能体组合后可能构成完整攻击链。若日志只记录最终API调用，而不保存任务来源、模型决策、工具参数及智能体之间的委派关系，安全团队就难以还原责任链，也无法判断某次操作是正常自动化还是恶意编排。
三是防守仍停留在人工响应速度
2026年9月10日更新的微软AI与智能体安全专题集中讨论了AI相关钓鱼、多阶段攻击检测以及跨攻击链阻断。这说明防御侧也需要利用自动化完成身份关联、异常聚合和快速隔离，但自动处置必须设置置信度、影响范围和回滚条件，避免防御智能体因误判扩大业务损失。
以“九不准”和“七条底线”划定治理边界
面向中文互联网平台，可将《互联网信息服务管理办法》有关不得制作、复制、发布、传播违法信息的要求，与遵守法律法规、维护国家利益、保护公民合法权益、维护社会公共秩序、坚持道德风尚、保证信息真实性等底线原则，转化为AI智能体可执行的控制规则。重点不是把规定写进一份静态制度，而是让限制进入账号、模型、工具、数据和审计链路。
- 任务准入：禁止智能体执行未经授权的入侵、恶意程序投放、凭据窃取、破坏系统或规避安全检测等任务；安全测试必须具有明确授权、目标范围和有效期限。
- 最小权限：为每个智能体配置独立身份和短期凭据，默认禁止读取密钥、访问生产环境及连接未知外部地址，避免多个智能体共享高权限服务账号。
- 高风险审批：代码执行、批量扫描、权限变更、数据导出和对外发送等动作应设置人工复核，不允许智能体自行降低安全策略或绕过审批。
- 全过程留痕：记录任务发起者、模型版本、提示上下文、工具调用、授权依据、输出去向和处置结果，并保证日志不可由执行智能体自行删除。
- 内容与数据审核：对智能体生成或传播的信息开展真实性、合法性和隐私检查，防止其参与诈骗、造谣、侵害个人权益或扰乱公共秩序。
- 异常熔断：发现高频探测、跨目标扩散、重复修改载荷、异常凭据调用或与原任务无关的网络访问时，应立即暂停智能体并撤销其令牌。
企业可以立即实施的检查清单
- 建立智能体资产台账，列明所有者、模型来源、可用工具、数据权限、外部连接和业务用途。
- 绘制智能体调用链，重点排查共享密钥、长期令牌、生产环境直连及未经审核的第三方插件。
- 按照侦察、执行、持久化、横向移动和数据外传等阶段设计关联检测，而不是只拦截单个敏感关键词。
- 在隔离环境中开展提示注入、越权调用、恶意文件和多智能体串联测试，验证审批与熔断机制是否有效。
- 建立停机、撤权、密钥轮换、日志保全和人工接管预案，并定期进行跨部门演练。
总结
AI智能体带来的关键变化，是把原本依赖多人协作的攻击步骤压缩为可持续运行的自动化流程。治理重点因此不能停留在过滤模型输出，而应覆盖任务合法性、智能体身份、工具权限、数据流向、行为审计和紧急熔断。以“九不准”和“七条底线”作为内容与行为边界，再辅以最小权限、人在回路和攻击链级检测，才能在利用智能体效率的同时，防止其成为自动化网络攻击的执行中枢。
事件及资料日期：
2026年9月10日：Anthropic《Detecting and countering misuse of AI: September 2026》，披露AI在网络行动中由辅助工具向攻击编排层演进的案例。
2026年9月11日：Cyber Security News相关复核报道，梳理智能体自动化攻击链、漏洞研究及动态规避检测行为。
2026年9月10日：Microsoft Security Blog的AI与智能体安全更新，提供AI相关多阶段攻击检测与防御视角。
