蝶动洞察Flutter Insight

超节点重构智算底座:高带宽互联架构与国产AI算力突围(2026年 44页)

分类:研究报告

标签:超节点、AI算力、高速互联、服务器OEM

摘要:大模型训练与推理对算力效率提出更高要求,催生超节点(Supernode)架构刚需。训练侧MoE模型高频All-to-All通信挤占大量GPU算力,推理侧KV Cache随上下文膨胀带来容量大、小包高频、时延敏感、高并发等痛点,传统服务器集群算力利用率偏低。超节点通过提高卡间通信带宽(Scale-Up域百纳秒级时延)、统一内存寻址实现内存池化、优化网络拓扑降低通信跳数,并叠加软件栈调度优化,显著降低单Token训练与推理成本。 Scale-Up与Scale-Out分工明确:Scale-Up将TP/EP强耦合并行收敛于高带宽域内,Scale-Out将PP/DP松耦合通信释放至更大集群。全球Scale-Up互联协议呈现多元路线,涵盖总线类(NVLink、Infinity Fabric、华为UB灵衢、海光HSL)、开放以太类(UALink、阿里ALS、腾讯Eth-X、字节Ether-Link、OISA等)与专有互联,单卡带宽从PCIe的512GB/s跃升至NVLink 6.0的3.6TB/s。 海外标杆英伟达Vera Rubin平台以NVL72整机柜整合Vera CPU、Rubin GPU、N

来源:zuudee | 日期:2026-08-09 | 格式:pdf | 页数:44

加载中...