本期牛油果烤面包节目由斯图亚特主持,邀请了嘉宾 David,探讨了 AI 硬件和存储设备的现状。David 分析了大语言模型兴起后对 AI 硬件的需求变化,指出与计算机视觉相比,大语言模型对计算量和内存带宽有极高的要求,推动了 GPU 和 HBM 的发展。讨论了英伟达在 AI 硬件领域的优势地位及其 CUDA 生态系统的重要性,以及其他厂商在推理芯片领域的机遇。此外,还讨论了存储设备的最新进展,包括机械硬盘容量的提升和闪存技术面临的挑战,以及存储级内存的未来发展方向。
Sign in to continue reading, translating and more.
Continue