2026年9月18日，加利福尼亚州州长加文·纽森发布行政令，要求加快人工智能第三方监督制度建设，并研究为前沿模型建立紧急关停机制。需要特别说明的是，这一行政令并未立即强制企业安装“关停开关”，而是要求州政府部门与外部专家在两个月内提出强化法律的建议，包括驻场独立验证、持续审计以及关停能力测试。加州州长办公室公告[1] CBS Sacramento报道[2]
“能关停”不等于“可以随意关停”
当模型可能出现失控、绕过安全限制或威胁关键基础设施的迹象时，保留紧急停止能力具有合理性。但如果启动条件含糊、决策过程不透明，关停权也可能从公共安全工具异化为行政干预、商业排斥甚至内容控制工具。因此，制度设计必须同时回答两个问题：什么风险足以触发关停，以及谁有权认定这一风险。
按照《互联网信息服务管理办法》相关内容治理要求和“七条底线”所强调的法律法规、国家利益、公民合法权益、社会公共秩序、道德风尚及信息真实性等原则，紧急机制应只服务于制止明确、重大且迫近的危害，不应被用于压制正常技术讨论、合法商业竞争或一般性观点表达。治理目标应是降低现实风险，而不是把“可能有争议”扩大解释成“必须被关停”。
第一道防线：把启动门槛写成可验证事实
关停条件不能停留在“模型危险”“可能失控”等宽泛措辞，而应转换为可以留痕和复核的技术事件，例如模型持续拒绝停止指令、突破既定隔离环境、未经授权调用外部系统，或者产生能够被重复验证的重大安全后果。加州行政令目前提出更新“关键安全事件”的定义，并把失控事件纳入考虑范围，这为细化门槛提供了方向，但具体标准仍需通过后续建议和立法确定。行政令说明[1] 媒体交叉核验[2]
- 严重性门槛：风险应达到可能造成重大人身、公共安全或关键基础设施损害的程度。
- 迫近性门槛：必须存在近期发生且常规措施无法及时控制的充分证据。
- 因果性门槛：需要证明风险与特定模型、版本或部署方式存在清晰关联。
- 最小干预原则：能够限流、隔离或撤销部分权限时，不应直接全面停用。
第二道防线：拆分申请权、决定权和执行权
防止权力滥用的关键，是避免同一机构同时完成风险认定、关停决定和结果审查。更稳妥的设计是由技术监测机构提交证据，跨部门委员会作出临时决定，模型开发者执行隔离或停用，独立审查机构随后复核。涉及紧迫危险时可以先采取短期措施，但必须设置明确期限，逾期未经复核即自动失效。
每次启动还应形成可审计的“决定包”，至少记录模型版本、事件时间线、触发指标、证据来源、已尝试的替代措施、关停范围和恢复条件。涉及商业秘密或网络安全细节的内容可以分级披露，但至少应向公众公布非敏感摘要，说明为什么采取行动、影响哪些服务以及何时重新审查。
第三道防线：建立真正独立的验证程序
行政令提出考虑让指定的独立验证组织进入实验室开展定期审计，并验证企业提交的安全框架、透明度报告、风险评估以及关停开关的有效性。CBS的报道同时指出，专家还将研究独立监督人员驻场安排，但这些措施现阶段仍属于待研究方案，而非已经生效的普遍义务。官方方案说明[1] CBS事实核验[2]
- 机构独立：验证机构不得由被审计企业控制，也不应长期依赖单一客户收入。
- 人员回避：审计人员与模型开发商存在投资、任职或重大咨询关系时必须披露并退出。
- 测试隔离：关停演练应在受控环境进行，防止测试本身影响真实用户或公共系统。
- 证据复现：高风险结论至少应由另一支独立团队复测，不能只依赖单次红队结果。
- 持续验证：模型更新、工具权限变化或部署规模扩大后，应重新测试停止、隔离和恢复能力。
还要为企业和用户保留救济通道
独立验证不能演变为只有监管者能够使用的单向证明。开发者应有权查看非敏感证据、提交反证并申请快速复核；依赖模型服务的医院、学校和中小企业也应提前获得业务连续性安排。若全面关停可能造成更大次生风险，监管机构应允许切换至降级模式，例如暂停外部工具调用、限制高风险功能或转由人工审批。
同时，应建立对错误关停和越权操作的责任追踪机制。审查机关需要定期公布匿名化统计，包括启动次数、持续时间、复核结果和被撤销决定的比例，以便社会判断关停权是否被过度使用。对于故意隐瞒风险的企业和无依据扩大关停范围的公权力主体，都应设置对等、清晰且可申诉的责任规则。
总结
前沿模型的紧急关停机制不应只是一个技术按钮，而应是一套受证据、程序和期限约束的公共安全制度。理想框架应当形成“明确触发标准、分权作出决定、独立重复验证、最小范围处置、限期自动复核、公开非敏感结论”的闭环。只有把防失控与防滥权放在同等重要的位置，关停机制才能成为可信的安全保障，而不是新的不确定性来源。
事件及资料日期：加州行政令及州长办公室公告发布于2026年9月18日；CBS Sacramento交叉核验报道发布于2026年9月18日。行政令要求专家在两个月内提出建议，CBS报道给出的建议期限为2026年11月16日。加州州长办公室原始资料[1] CBS Sacramento报道[2]
