2026年9月14日，Apple开始推出新一代Siri AI英文测试版。新版Siri能够结合个人情境、屏幕内容和App Intents执行更多全系统化应用操作，例如检索信息与邮件、编辑并分享照片、起草邮件，以及在不同应用间衔接任务。Apple官方发布信息与开发者文档相互印证，说明Siri正从“提供答案”转向“代替用户行动”。Apple发布说明[1] App Intents文档[2] citeturn1search11turn1search21
但智能体一旦获得系统级操作入口，风险也会从“回答不准确”升级为“产生实际后果”：选错联系人、误发文件、错误修改日程，或者把未经核验的信息继续传播。由此，产品安全的核心不应只是提高识别准确率，而应建立一套可暂停、可撤回、可追溯、可归责的行动机制。
不能把一次授权理解为永久放权
传统App权限通常围绕相机、通讯录或位置等资源展开，而智能体权限同时包含“读取什么”“理解什么”和“代替用户做什么”。因此，授权界面必须把数据访问权与行动执行权拆开。例如，允许Siri读取邮件以寻找航班信息，不应自动等同于允许其修改日历、转发邮件或支付费用。
更合理的设计是采用对象、动作、范围、期限四维授权：对象限定联系人、相册或账户；动作区分查询、生成、修改、发送与删除；范围限定单次任务或指定App；期限则提供一次性、本次会话和长期三档。开发者还应通过App Intents中的结构化意图明确暴露能力，而不是给予智能体模糊的“全应用控制权”。App Intents框架说明[3] 确认与实体所有权开发者视频[4] citeturn1search17turn1search18
高风险动作必须设置提交闸门
撤回机制不能只藏在系统设置深处。对于发送、公开发布、付款、删除、账号变更等不可忽视的动作，系统应把任务拆成“理解、预览、确认、执行”四步，并在确认页清楚展示收件人、内容、金额、文件和目标应用。用户确认的是具体结果，而不是一句抽象的“允许Siri完成任务”。
- 低风险动作：查询天气、打开页面或生成草稿，可以直接执行，并提供即时撤销入口。
- 中风险动作：新增日程、修改照片或写入备忘录，应先显示变更摘要，并保留版本回滚。
- 高风险动作：发送消息、公开发帖、转账、删除数据及授权第三方服务，必须逐次确认，不应默认连续执行。
用户发出“停止”“撤销刚才操作”或关闭任务窗口后，系统还应终止未完成的后续步骤，撤销尚未提交的令牌，并列出已经完成、正在进行和无法自动恢复的操作。否则，界面上的“停止”可能只是停止对话，而后台任务仍在继续。
责任链要能回答四个问题
发生误操作后，不能简单归因于“用户说错了”或“模型理解错了”。完整责任链至少要回答：谁提出了原始请求，系统如何理解请求，哪个应用接口执行了动作，哪个环节进行了最终确认。建议为每次跨应用任务生成唯一编号，并记录原始指令、解析后的意图、调用接口、权限状态、确认内容、执行结果和撤回结果。
- 系统提供方：负责权限编排、风险分级、确认界面、任务中止和审计能力。
- 模型或智能体提供方：负责意图解析边界、异常识别，以及在信息不足时停止执行。
- 应用开发者：负责准确声明App Intent的作用、输入参数、可逆性和副作用。
- 服务运营者：负责投诉申诉、日志留存、风险处置和必要的信息纠错。
- 用户：仅对其清楚知情并明确确认的最终动作承担相应责任，不宜让一次笼统授权覆盖所有后果。
用“九不准”和“七条底线”约束行动结果
依据《互联网信息服务管理办法》第十五条所体现的“九不准”，智能体不应因为用户授予了应用操作权限，就自动发布谣言、侵害他人合法权益或传播其他违法信息。第十六条还要求服务提供者发现明显违法信息时停止传输、保存记录并依法报告。这意味着智能体的内容安全校验应设置在执行前，而不能等内容已经发送或公开后再补救。现行办法文本[5] 国务院公报文本[6] citeturn1search30turn1search29
“七条底线”强调法律法规、社会主义制度、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性。映射到系统设计中，就是对公开传播任务进行事实来源提示，对涉及他人的通讯和文件设置最小披露规则，对可能影响公共秩序的自动发布实施人工复核，并禁止智能体通过拆分步骤绕过平台审核。
总结
Siri获得更多系统级应用操作能力后，真正决定用户是否信任它的，不是能够连接多少App，而是出现错误时能否立即停止、有效撤回并清楚追责。可行的底线方案是：授权颗粒化、高风险动作逐次确认、全过程状态可见、已执行操作尽量可逆、跨主体日志能够对账。只有把行动权限制在用户可理解、可控制的范围内，系统级智能体才能从“能办事”走向“办错事也可治理”。
事件与资料日期
- 2026年9月14日：Apple宣布Siri AI开始以英文测试版推出，并增加个人情境理解、屏幕感知和更多全系统化App操作。Apple官方发布信息 citeturn1search11
- 2026年9月14日：Apple更新App Intents框架文档，说明应用的动作与数据可被Apple Intelligence、Siri、Spotlight和快捷指令发现与调用。Apple开发者文档 citeturn1search17
- 2026年9月11日：Apple开发者资料说明，App Schemas构成应用与系统之间的结构化契约，并用于匹配用户的自然语言请求。Apple Intelligence与Siri AI文档 citeturn1search21
- 2024年12月6日：现行《互联网信息服务管理办法》完成第二次修订；本文所称“九不准”对应其第十五条所列九类禁止内容。国家市场监督管理总局公开文本 citeturn1search30
