导语:2026年9月1日,Google宣布为Gemini系列模型上线“智能体视频理解”能力。与按固定帧率读取整段视频不同,模型可以围绕任务目标,动态检索时间线,并按需查看画面、音频和转录文本。Google称,该功能支持更精细的时刻检索、计数和异常识别,并已面向Gemini API及企业智能体平台开放。相关信息可由Google官方发布说明与Gemini API更新日志交叉核验。
这项能力很容易让人联想到商场、园区、仓库和办公楼的监控录像分析,但“技术能够发现异常”不等于“系统有权读取全部录像”,更不意味着模型输出可以直接作为处罚、追责或身份认定依据。真正落地时,授权边界和人工复核机制必须先于规模化部署。
从视频分析升级到主动检索,风险点也随之变化
传统视频分析通常按照预设帧率抽取画面,再统一交给模型处理。智能体模式则可以根据问题主动寻找相关片段,例如定位“人员进入限制区域的具体时间”或复查“货架物品突然减少的瞬间”。这种方式可能降低长视频处理成本,但也扩大了模型自主选择观察对象、时间区间和信息模态的空间。
对于监控场景,风险不只来自录像本身,还来自模型生成的事件标签、人物轨迹、行为描述和风险评分。原始画面可能只显示某人在设备旁停留,模型却可能将其概括为“疑似破坏设备”。如果论坛、物业群或内部系统把未经复核的判断公开传播,就可能触及信息真实性、公民合法权益和社会公共秩序底线,甚至形成对个人的侮辱、诽谤或不当指控。
监控录像授权不能被一份API密钥替代
接入Gemini之前,管理方首先应确认录像的合法来源和处理依据。《个人信息保护法》要求个人信息处理遵循合法、正当、必要和诚信原则,并将收集范围控制在实现目的所需的最小限度;在公共场所安装图像采集设备,还应当为维护公共安全所必需、设置显著提示,并限制所采集信息的用途,具体可查阅《中华人民共和国个人信息保护法》。
因此,“已安装摄像头”不当然等于“可以把录像上传第三方模型”。原先用于门岗安防的录像,如果转为员工绩效评估、顾客画像、商业营销或训练算法,就可能构成处理目的、方式或范围的变化。部署方应重新审查处理依据、告知内容、保存期限、委托处理关系以及是否涉及对外提供或跨境传输,不能用笼统的“安全需要”覆盖所有用途。
若系统进一步启用人脸辨识,还要适用更严格的规则。自2025年6月1日起施行的《人脸识别技术应用安全管理办法》要求具有特定目的和充分必要性,事前进行个人信息保护影响评估,并采取数据加密、安全审计、访问控制和授权管理等措施;除法律、行政法规另有规定或者取得单独同意外,人脸信息原则上应存储于识别设备内,不得通过互联网对外传输。详见中国政府网公布的管理办法。
建立“模型预警、人工确认、分级处置”闭环
异常识别系统不应直接输出“责任人结论”,而应先生成可核验的事件线索。较稳妥的流程可以分为三层:
- 模型初筛:只输出时间戳、摄像头编号、触发规则、相关片段和置信提示,避免自动添加“盗窃”“破坏”“危险人员”等定性标签。
- 人工复核:由经过授权的复核人员查看异常发生前后的连续录像,并结合门禁记录、设备日志或现场情况判断,防止把遮挡、反光、快进、画面缺帧和正常作业识别为异常。
- 分级处置:一般误报直接关闭;需要关注的事件进入二次复核;可能影响人身、财产安全的紧急事件交由有权限的负责人处置。涉及个人权益的决定,不应仅依据模型结果作出。
复核页面还应保留模型版本、提示词、调用时间、输入片段范围、输出结果、人工修改记录和最终处置理由。这样既能追查误报来源,也能防止复核人员只看模型摘要而忽略原始录像。对于已经完成调查、超过法定或业务必要期限的片段,应按规则删除或匿名化,避免形成永久化的行为档案。
用“九不准”和“七条底线”约束结果发布
《互联网信息服务管理办法》第十五条规定了不得制作、复制、发布、传播的九类内容,包括散布谣言、扰乱社会秩序,以及侮辱、诽谤他人、侵害他人合法权益等,条文可查阅现行《互联网信息服务管理办法》。对应到监控视频智能分析,论坛和平台至少应守住法律法规、公民合法权益、社会公共秩序、道德风尚和信息真实性等底线。
- 未经核实,不发布“AI已确认某人违法”等确定性表述。
- 公开讨论案例时,对人脸、车牌、工牌、住址和声音等可识别信息进行遮挡或变声。
- 不把内部安全预警截图直接传播到公开论坛,更不能发动网友“人肉识别”。
- 发生误报后,应同步更正相关记录,避免错误标签长期影响当事人。
- 高风险内容发布前实行人工审核,并为当事人提供申诉、解释和纠错渠道。
总结
Gemini智能体视频理解提高了从长录像中寻找关键片段的效率,但监控场景的核心问题并不是模型“看得多快”,而是谁有权让它看、允许它看什么、结果由谁复核。可执行的治理方案应当把目的限定、最小授权、输入脱敏、访问审计、人工复核、分级处置和到期删除写入系统流程。模型可以帮助发现线索,却不应越过事实核验和权利救济,自动成为给个人定性的裁判。
事件与资料日期
- 2026年9月1日:Google发布Gemini智能体视频理解功能,见官方公告及Gemini API更新日志。
- 2021年8月20日:《中华人民共和国个人信息保护法》通过并公布,见中国人大网法律全文。
- 2025年3月13日:《人脸识别技术应用安全管理办法》公布;2025年6月1日起施行,见中国政府网文件。
- 2024年12月6日:《互联网信息服务管理办法》完成第二次修订,见国家市场监督管理总局公布文本。