#620.Modal CTO：你的 AI 应用不该跑在K8s 上，Agent 时代的云应该长什么样

AI 基础设施正经历从开发者体验向 Agent 体验的深刻演变。Modal 首席技术官 Akshat Bubna 指出，传统云架构难以应对 AI 工作负载的突发性与专门化需求，因此需要构建支持自供应运行室、实时可观测性及弹性扩缩容的底层能力。在推理与训练场景中，通过引入推测解码与 RDMA 网络等技术，能够显著提升算力利用率并降低延迟。随着 Agent 自动化程度的提高，基础设施需提供更强的沙箱隔离与持久化存储，以支持复杂的生产级任务。这种云平台不仅是简单的算力租赁，更是通过软件层面的优化，为 AI 应用提供高性能、低延迟的弹性支撑，从而解决传统云在处理大规模分布式 AI 任务时的瓶颈。