148. 对游凯超3小时访谈：开源Infra、和模型Co-design 、“如果vLLM失败，我们会后悔一辈子”

游凯超作为 Infract 联合创始人兼首席科学家，分享了从算法研究转向机器学习系统工程的历程，探讨了开源项目 vLLM 从伯克利校园研究演变为工业界核心推理引擎的商业化路径。vLLM 通过 PageAttention 等技术解决了大模型推理的效率瓶颈，其成功不仅依赖于技术创新，更在于通过成立商业公司确保了项目的长期维护与专业运营。对话深入剖析了模型结构与基础设施（Infra）的协同设计（co-design）理念，指出在摩尔定律放缓的背景下，算法必须主动适配硬件特性以实现性能突破。此外，游凯超还讨论了开源社区在 AI 时代面临的治理挑战，以及如何通过商业化手段解决算力资源与法律合规等现实难题，为构建大模型时代的底层基础设施提供了深刻洞见。