148. 对游凯超3小时访谈：开源Infra、和模型Co-design 、“如果vLLM失败，我们会后悔一辈子”

vLLM 从校园开源项目演变为商业化组织 Infract，核心在于坚持开源精神与解决工程痛点。AI 推理引擎作为 AGI 时代的底座，其发展不仅依赖算法创新，更取决于系统工程的极致优化。模型结构与 Infra 的协同设计（co-design）已成为提升推理效率的关键，尤其在算力紧缺背景下，极致的性能压榨至关重要。开源模型生态的繁荣推动了 AI 基础设施的演进，随着 Coding Agent 等技术普及，开源模型将通过数据飞轮形成竞争优势。推理引擎的标准化与高效部署，正成为 AI 时代不可或缺的底层基础设施，支撑着大模型在各类硬件上的高效运行。