2026年8月31日，Broadcom在VMware Explore 2026上发布VMware Private AI Cloud，将企业级推理、智能体应用与传统工作负载纳入统一私有云架构，核心思路是“让模型靠近数据，而不是把数据搬向模型”。这一变化使本地推理不再只是算力部署问题，而成为数据主权、敏感信息保护和内容安全治理的系统工程。[1][2]
本地推理不等于天然安全
VMware Private AI Cloud能够让模型、数据和推理服务运行在企业控制的基础设施中，减少敏感数据被发送到外部公共模型的机会，也有利于满足数据驻留和内部审计要求。然而，“数据没有离开机房”并不意味着风险自动消失。提示词可能包含个人信息，检索增强生成可能越权读取文档，智能体可能调用未经授权的工具，模型输出还可能泄露商业秘密或生成违法有害内容。
因此，数据主权应理解为企业对数据存储位置、访问主体、处理目的、流转路径、保留期限和删除方式具有持续控制能力。Broadcom公布的架构将VMware Cloud Foundation、VMware AI Factory、Tanzu、AgentMinder、vDefend及Avi等能力组合起来，试图覆盖基础设施、模型服务、智能体治理和运行时安全，而不是只强调本地GPU资源。[3][4]
以数据分级确定推理边界
部署前应建立面向AI的数据目录，将信息至少划分为公开、内部、敏感和严格受限四级。公开资料可进入通用知识库；内部资料仅允许特定部门检索；涉及个人信息、客户合同、源代码、财务记录或未公开经营信息的内容，应经过脱敏、审批和用途限定；国家秘密及企业明确禁止进入模型的数据，应在入口处直接阻断。
- 输入侧：对提示词、上传文件和API参数执行敏感字段识别，默认遮蔽身份证件、联系方式、账号、密钥及客户标识。
- 检索侧：让向量库继承原始文档权限，检索结果必须同时通过用户身份、部门、项目和数据级别校验。
- 输出侧：检测个人信息、秘密信息、未经证实的结论及违法有害内容，高风险回答转人工复核。
- 留存侧：分别配置提示词、响应、缓存、向量和审计日志的保存期限，避免为了排障而无限期保存原文。
把“九不准”和“七条底线”落到技术控制
《互联网信息服务管理办法》第十五条明确了不得制作、复制、发布、传播的九类信息，第十六条还规定发现明显违法信息后应停止传输、保存记录并依法报告。对于面向员工、客户或公众提供内容的本地推理系统，不能只依赖模型自身拒答，而应建立“规则识别、模型判断、人工复核、处置留痕”的分层机制。现行《互联网信息服务管理办法》
在实践中，可将法律法规、国家利益、公民合法权益、社会公共秩序、道德风尚和信息真实性等底线转化为策略标签。对危害国家安全、泄露秘密、散布谣言、侮辱诽谤及其他违法内容设置阻断规则；对事实存疑、可能侵权或社会影响较大的回答设置降级策略，要求模型标明不确定性、引用可信资料或转交人工。技术规则应由法务、内容安全、数据安全和业务部门共同维护，避免单一关键词过滤造成误判。
围绕身份和智能体实施最小权限
生成式AI进入智能体阶段后，风险从“回答了什么”扩展到“执行了什么”。每个模型服务和智能体都应具备独立身份，只能访问完成任务所必需的数据源、插件和接口。应禁止共享管理员账号，并对下载文件、发送邮件、修改数据库、调用外部API等高风险动作设置二次授权。
VMware方面在2026年9月3日发布的资料中强调，需要对智能体可以访问和修改的对象实施细粒度控制。企业可据此采用默认拒绝、按任务授权和短期凭证机制，同时记录用户、模型版本、检索文档、工具调用、策略命中及最终处置结果。审计日志应与训练语料和业务数据分离保存，日志查看权限也要受到控制。VMware官方说明行业交叉分析
建立可执行的上线检查清单
- 确认模型文件、镜像、插件和依赖包来源，完成漏洞扫描、签名验证及版本备案。
- 绘制提示词、知识库、缓存、日志与外部接口之间的数据流，标明跨区域和跨组织边界。
- 使用红队测试验证提示词注入、越权检索、敏感信息回显、工具滥用及违法内容绕过场景。
- 将模型、策略库和知识库变更纳入审批，保留回滚版本，避免更新后控制规则失效。
- 设置紧急停用、会话隔离和证据保全流程，并定期演练异常输出与数据泄露事件响应。
总结
VMware Private AI Cloud为企业提供了在自有控制域内运行推理和智能体应用的新路径，但真正的数据主权不能只靠“本地部署”四个字。有效实践应以数据分级为起点，以身份和最小权限为核心，以输入、检索、输出和日志的全链路防护为抓手，并把“九不准”和“七条底线”转化为可配置、可审计、可复核的内容治理策略。只有基础设施安全、数据安全和内容安全同步建设，本地推理才能兼顾创新效率与敏感信息保护。
事件及资料日期
- 2026年8月31日：Broadcom发布VMware Private AI Cloud及VMware AI Factory相关信息。Broadcom公告
- 2026年9月1日：行业媒体对其本地AI推理、数据主权和安全定位进行报道。The Next Platform报道
- 2026年9月3日：VMware发布Private AI Cloud、AI Factory及智能体治理能力说明。VMware官方博客
- 现行制度参考：《互联网信息服务管理办法》于2024年12月6日完成第二次修订。法规全文
