#248. Tri Dao：英伟达主导地位的终结，推理成本为何下降以及速度的下一个 10 倍

AI 硬件与推理架构的竞争正随工作负载演变而重塑。英伟达凭借软硬件生态占据主导，但专家混合模型（MoE）与状态空间模型（Mamba）的兴起，推动了推理专用芯片市场的多元化。当前性能优化的瓶颈已从算力转向内存带宽与数据移动效率，硬件与算法的协同设计成为关键。AI 编程工具已显著提升了内核开发效率，未来 AI 基础设施将向智能体（Agentic）工作负载及实时视频生成演进。通过构建高效的抽象层，技术栈正向更低成本、更高性能的专家级推理能力迈进，以应对日益多样化的应用场景需求。