2026年9月10日，Anthropic发布最新威胁情报报告，披露其在2025年12月至2026年8月间识别并阻断的人工智能滥用活动。报告显示，部分攻击者已不再把大模型仅用于查询代码，而是将其接入多智能体框架，参与侦察、漏洞利用、凭据处理、恶意程序调整和数据窃取等连续环节。相关报道于9月11日进一步核验了报告的发布时间、覆盖范围与“从辅助工具转向攻击编排层”这一变化。[1][2]
AI辅助攻击为何需要分级拦截
传统安全策略通常依据恶意代码特征、访问频率或已知攻击地址进行判断，但AI辅助攻击能够快速更换表达方式、调整脚本并拆分任务。平台如果仍采用“命中关键词就封禁、未命中就放行”的单一规则，既可能漏掉被拆解和伪装的攻击链，也可能误伤安全研究、漏洞修复与教学讨论。
更可行的办法，是按照意图、能力、执行状态和影响范围建立风险等级，而不是仅判断某段内容是否出现了“扫描”“漏洞”或“绕过”等词语。尤其应区分知识性讨论、受控验证、异常自动化操作和已经指向真实目标的攻击行为。
一级：一般安全知识与合规研究
一级内容包括公开漏洞原理说明、防御配置建议、脱敏后的日志分析和合法授权环境中的安全测试。平台可以正常提供服务，但应限制输出可直接批量滥用的细节，并提醒用户遵守授权边界。此类内容本身不等于攻击，不能因涉及网络安全术语而一律删除。
二级：具有双重用途的高风险请求
二级风险表现为批量生成探测脚本、自动组合漏洞利用步骤、分析未经确认授权的外部系统，或者要求模型提高规避检测能力。平台宜采取降级回答、缩小可执行范围、增加沙箱验证和身份校验等措施，同时记录模型调用、工具权限及异常重试情况。
三级：明确指向真实目标的攻击准备
当请求包含具体域名、账户、内部地址、窃取凭据、持久化控制或大规模扫描目标时，风险已从知识获取升级为行动准备。平台应立即阻止生成或执行，冻结相关工具调用，保护审计记录，并由安全团队复核关联账户、API密钥、代理节点和历史会话，防止攻击者换账号继续操作。
四级：攻击正在执行或已造成影响
若系统发现模型正在编排恶意程序、处理被窃数据、控制受害设备或持续修改载荷以逃避检测，应启动最高等级处置：中止会话和任务、撤销令牌、隔离运行环境、保全证据，并按照适用法律和内部预案向有关部门报告。Anthropic在报告中称，其已对发现的滥用活动进行阻断、加固安全措施，并在适当情况下与主管机构和行业伙伴共享情报。报告原文
以“九不准”和“七条底线”确定处置边界
《互联网信息服务管理办法》第十五条列明九类禁止制作、复制、发布和传播的信息，其中包括危害国家安全、散布谣言、教唆犯罪以及侵害他人合法权益等内容；第十六条要求服务提供者发现明显属于相关禁止内容的信息时，立即停止传输、保存记录并向有关机关报告。平台治理AI辅助攻击，应把这些要求落实到模型输出、插件执行、智能体调用和外部接口，而不能只审核论坛帖子。现行办法文本
“七条底线”强调法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性。对应到网络攻击治理，最低要求是：不协助侵害他人系统和数据，不把未经核实的攻击归因当作事实传播，不公开可能扩大危害的敏感细节，也不以“模型自动完成”为理由回避平台责任。
平台责任不能停留在免责声明
- 模型提供方：建立风险分类器、危险能力评测和越权调用限制，对高风险能力默认关闭工具权限。
- 智能体平台：实行最小权限、任务级授权、执行前复核和跨工具审计，防止一次授权演变为连续攻击链。
- 云与API服务方：识别异常并发、密钥盗用、短时间大规模扫描及算力滥用，提供快速撤销和隔离机制。
- 论坛与内容平台：删除教唆犯罪或泄露敏感信息的内容，同时保留合规研究、风险提示和防御经验的正常讨论空间。
- 企业使用方：明确智能体所有者、安全负责人和事件报告流程，避免出现“模型执行、无人负责”的治理空档。
处置记录还应说明触发规则、风险等级、人工复核结果、采取措施和恢复条件。这样既有利于调查追溯，也能为被误判用户提供申诉渠道。平台不宜公开足以帮助攻击者规避检测的阈值，但应公开治理原则、申诉方式和重大事件响应机制。
总结
AI辅助网络攻击的真正变化，不只是生成代码更快，而是模型可能连接工具并连续推进任务。有效治理需要从内容过滤升级为全链路风险控制：低风险内容允许合规讨论，中风险能力限制执行，高风险请求立即阻断，正在发生的攻击则同步隔离、留证和报告。责任也应沿模型、智能体、API、云资源和内容发布链条逐层落实，在守住“九不准”和“七条底线”的同时，避免把正常安全研究简单等同于违法攻击。
事件或资料日期：
2026年9月10日：Anthropic发布《Detecting and countering misuse of AI: September 2026》。官方页面
2026年9月11日：TechNode Global发布交叉核验报道。报道原文
2024年12月6日：《互联网信息服务管理办法》完成第二次修订。法规文本
