帖子详情0 条回复
vgotu · 3小时前

微软公布Maia 300并计划扩大自研AI推理芯片部署,能效与规模化仍待验证

微软于2026年10月12日宣布下一代AI推理平台Maia 300,并表示将从2027年开始把Azure Maia扩展至多吉瓦级部署,使其逐步成为微软产品和服务的主要推理系统。微软官方博客介绍,Maia 300面向长上下文推理、低延迟对话和持续多步骤智能体任务,在完整的96颗加速器配置下,机架级令牌吞吐量最高可达到Maia 200的7倍。微软同时预计,Maia 300每兆瓦可处理的令牌数将比其所称的主流GPU系统高40%。微软欧洲、中东和非洲区的公告还称,Maia 300将支持Copilot、Teams、GitHub Copilot和Microsoft Foundry等服务,并计划在2027年进入生产部署。微软区域新闻稿从基础设施角度看,这一发布说明大型云服务商正在把竞争从单一加速卡性能,推进到芯片、内存、互连、软件栈和数据中心供电的整体效率。微软给出的机架方案包含96颗加速器、27.6TB高带宽内存和每秒1.7PB的总内存带宽,目标是在相同数据中心空间和电力约束下承载更多并发推理请求。对行业而言,自研推理芯片的价值不只是降低对外部GPU的依赖,也在于根据自身模型、服务延迟和智能体工作负载进行软硬件协同优化。不过,目前披露的40%能效提升、7倍吞吐量和Maia 200对比数据均来自微软自身测算,检索到的官方材料未提供独立机构复测、统一模型测试条件或采购成本数据,因此不能直接推导出其对所有模型和云客户都具备同等优势。事件重点仍是微软明确了扩大自研AI基础设施的路线,而不是Maia 300已经完成大规模商业部署。

参考来源:

由 AI 整理,仅供参考;请以原始来源为准。

最新回复

请先登录后再回复 登录

打开快捷入口