04 Jul 2024

研究大模型在 AI 集群的通信，还要了解芯片内互联技术？#大模型 #集合通信

ZOMI酱

本期播客节目深入探讨了 AI 集群互联及代间互联的演变过程，强调了从以太网到多节点无损网络的发展，以及在芯片内部核心间互联的重要性。这些技术演进不仅满足了大模型时代对高带宽和低延迟的需求，也影响了芯片封装形态对大模型训练的关键意义，促使我们要求更高效率的计算和数据传输。

Takeaways

Outlines

Q & A

Preview

How to Get Rich: Every EpisodeNaval