导语：随着大模型应用从集中训练走向搜索、推荐、智能体和企业服务，AI 推理集群不仅要提供更高吞吐量，还要控制延迟、功耗与单位请求成本。传统铜互连在高速率、长距离和高端口密度场景下面临信号损耗与布线压力，光互连因此逐渐从机房网络向交换芯片附近乃至计算芯片封装内部推进。🚀 不过，光互连降低了数据搬运的能耗，并不代表机柜自然“变凉”；相反，更高的可用带宽可能让推理芯片运行得更充分，最终把散热压力推向新的高度。
光互连如何释放算力密度
AI 推理常被误解为单卡计算任务。实际上，大模型推理涉及权重读取、缓存访问、请求调度和多芯片协同，互连效率会直接影响芯片利用率。铜链路距离增加后，通常需要更复杂的均衡、重定时和信号补偿；光互连则适合承载高带宽、跨机柜及更大规模的连接，能够减少部分电气路径限制。
共封装光学（CPO）的核心思路，是让光引擎靠近交换 ASIC 或计算芯片，缩短高速电信号传输距离。Broadcom 对 CPO 的说明强调，这种集成方式可降低路径损耗，并提升带宽密度与能效，但具体收益取决于产品架构和对比口径，不能直接套用于所有数据中心。可参考CPO 技术说明。
光互连带来的“算力密度提升”主要体现在三个层面：一是相同网络空间内可以承载更多高速端口；二是降低通信瓶颈后，推理芯片等待数据的时间减少；三是集群可以扩大并行域，使更多芯片以较高利用率工作。NVIDIA 公布的硅光交换机方案也将更高带宽密度、较低网络功耗和减少重定时环节列为主要方向，相关指标应以具体产品和部署条件为准，详见官方产品资料。
网络省电为何仍可能增加散热压力
光互连可以降低单位比特传输能耗，却无法消除推理芯片、内存、电源模块和交换 ASIC 产生的热量。当通信效率提升后，GPU、NPU 或其他加速器更少等待网络，平均负载可能上升。同样数量的设备因此完成更多推理任务，但机柜持续功率和局部热流密度也可能提高。🔥
此外，CPO 将光学器件放到高功耗芯片附近，改变了热源分布。光引擎、激光器、连接器和封装材料对温度的敏感程度并不完全相同，散热设计不能只看机柜总功率，还要检查结温、热点、光路稳定性以及维护操作可能造成的污染和损伤。部分高密度硅光交换设备已经采用液冷设计，说明光互连与液冷并非替代关系，而是可能同步进入机房。
散热改造成本由哪些部分组成
散热改造不应只计算冷板价格。对于既有数据中心，成本通常分为设备侧、机柜侧、设施侧和运维侧四层：
- 设备侧：冷板、内部管路、快接头、漏液检测，以及支持液冷的服务器或交换机配置。
- 机柜侧：机架歧管、冷却液分配单元（CDU）、承重调整、线缆与光纤重新规划。
- 设施侧：供回水管道、泵组、换热器、干冷器或冷水系统扩容，以及电力系统联动改造。
- 运维侧：水质管理、备件储备、人员培训、故障隔离、停机迁移和容量验证。
施耐德电气关于 AI 工作负载液冷架构的资料指出，液冷系统通常需要统筹服务器内热量捕获、CDU 和室外排热方式；CDU 还承担温度、流量、压力、介质处理、换热与回路隔离等功能。由此可见，单纯比较“风冷设备价格”和“液冷设备价格”容易漏掉大量系统性支出，可参考液冷架构白皮书。
改造时最容易低估的隐性费用
第一是停机窗口。推理平台往往承载在线业务，迁移机柜、排空管路和重新验收需要分批进行，业务切换与冗余资源可能比硬件本身更贵。第二是空间机会成本：CDU、歧管及管路会占用机房空间，原有机柜布局未必能够原位升级。第三是混合制冷管理，在新旧设备共存期间，风冷和液冷需要同时运行，系统调优与监控复杂度会明显增加。
第四是可维护性变化。可插拔光模块可以现场快速更换，而高度集成的光电封装可能需要更换整块板卡或由专业人员维修。采购时应同时评估平均修复时间、备件颗粒度、光纤端面维护能力及供应商服务范围，不能只比较端口速率和理论能效。🛠️
建议采用分阶段投资方法
- 先测量：记录机柜峰值与平均功率、芯片利用率、网络拥塞、进出风温差和热点位置。
- 再试点：优先选择通信瓶颈明显、请求量稳定的推理集群，验证光互连能否真正提高有效吞吐。
- 做热仿真：按持续高负载而非设备铭牌简单叠加，评估冷板、CDU、管径、泵压及排热能力。
- 核算全周期成本：同时计入设备采购、设施施工、停机迁移、维护合同、能耗与备件费用。
- 设置扩容边界：明确下一阶段机柜功率、供回液温度、流量余量和故障冗余要求，避免重复施工。
总结
光互连的真正价值，不是简单把铜缆替换成光纤，而是减少数据搬运约束，让更多推理芯片在有限空间内持续输出有效算力。它可能降低网络侧单位传输能耗，却也会提高芯片利用率和局部功率密度，从而推动冷板液冷、CDU 和设施排热系统升级。✅ 对运营方而言，合理路径是以“每单位有效推理吞吐的综合成本”为核心指标，将网络、计算、供电、散热和维护统一评估，再通过小规模试点逐步扩大部署，避免只追求带宽数字而低估机房改造代价。
