【AI 集群】英伟达 GB200 集群互联方案

本期播客主要讲解英伟达 GH200 和 GB200 系列 GPU 集群架构。播客首先详细分析了 GH200 的 SuperPOD 架构，包括 ComputeTray、SwitchTray 以及 NVLink 互联方式，并计算了其所需的 NVSwitch 数量。接着，播客深入探讨了 GB200 的 NVL72 架构，介绍了其 ComputeTray 和 SwitchTray 的组成，并比较了 NVL72 和 NVL36 两种形态的优缺点，以及它们在功耗和散热方面的差异。最后，播客对两种架构进行了对比分析，并对未来光模块和铜互联的需求趋势进行了展望，指出多芯片封装和 Tray 板卡概念是未来发展趋势。 一个具体的例子是 GB200 NVL72 架构中，一个机柜包含 18 个 GB200 Compute Tray，拥有 36 个 Grace Hopper CPU 和 72 个 GPU，总显存高达 13.8TB。