月球大叔

陈春宇: 清华，辍学，睡地板，精英的傲慢，硅谷，创业，情商，聊天软件，全球翻译，生物，爱自己

陈然：全职奶爸，清华，CMU，AI斩杀线，0人公司，百亿token，财务规划，职业选择，创业收购，主体性，硅谷

AI 时代的职业发展与商业落地策略核心在于将复杂问题标准化，并以商业价值作为衡量贡献的唯一准绳。清华校友、资深 CTO 陈然通过自身从移动互联网开发到 AI 转型的经历，强调了在技术浪潮中保持主体性的重要性。他主张通过 “杠铃策略” 平衡保守资产与激进创新，并利用 AI 工具重构生产关系，实现以极低成本构建 “零人公司” 的商业闭环。面对 AI 带来的职业斩杀线，个人应通过寻找一手信息源、深挖行业痛点并利用 AI 提升生产力，在动荡中构建个人竞争壁垒。此外，育儿与家庭规划应作为人生战略的一部分，通过主动选择而非被动接受，在 AI 时代实现职业与生活的双重掌控。

肖志斌：AI芯片，英伟达，全球供应链，2纳米，中美日韩，Groq，Cerebras，SambaNova，创业，AI原生

AI 性能竞争的主战场已从晶体管设计转向系统级软件优化与异构架构。随着摩尔定律放缓，单芯片算力提升遭遇瓶颈，系统级协同设计成为提升 AI 推理效率的关键。资深芯片架构师肖志斌指出，芯片设计周期漫长且风险极高，AI 辅助设计正逐步介入验证与物理实现环节，但核心架构定义仍需专家把控。此外，芯片制程迭代的核心价值在于功耗降低而非速度提升，这使得数据流架构在处理大模型推理时展现出显著优势。未来，AI 原生的芯片设计公司将通过仿真平台与自动优化工具，打破软硬件壁垒，实现 AI 基础设施的极致经济性，推动大模型推理成本持续下降。

徐天音：系统，UIUC，教授，最佳论文，Agent Infra，云计算，形式化验证，容错，纯粹，好导师

李正韬：YC，明星初创，语音AI，客服，执行力，OpenAI，996

孟子立: 15岁，清华，HKUST，教授，家庭计算中心，云游戏，WiCi，网络系统，创业

孟子立以 15 岁考入清华、23 岁成为香港科技大学最年轻助理教授的学术背景，探讨了科研与创业的底层逻辑。他强调在学术决策中运用经济学思维，通过评估边际成本与收益应对人生选择，并指出科研的核心在于定义问题与讲好故事。在创业领域，他创立 WiCi，旨在通过底层驱动优化实现无线 GPU 算力外包，解决移动设备算力瓶颈。他认为科技发展的本质是不断适应环境，创业者应在保持技术领先的同时，通过寻求资源支持与构建生态来创造社会价值。他坚持长期主义，主张在不断试错中积累智慧，将科研与创业视为一种可持续的生活方式。

江鋆晨: KV Cache，大模型记忆，清华姚班，CMU，教授，开源，视频流媒体

大模型推理效率的核心在于 KV Cache 管理，将其视为模型的 “记忆” 而非临时数据，是降低重复计算成本的关键。江鋆晨提出，AI 基础设施应借鉴互联网发展史，通过解耦推理引擎与存储，构建标准化的 KV Cache 层。从清华姚班到 CMU 再到创立 Tensormesh，这一路径强调了 “做最难的事” 以实现快速成长，并利用开源生态推动技术标准化。通过深入一线工程实践而非仅停留在理论研究，能更敏锐地捕捉行业痛点。这种将学术洞察转化为工业界基础设施的尝试，正试图解决大模型时代算力与存储供需失衡的挑战，为 AI 应用提供更经济高效的底层支撑。

朱邦华: SGLang，强化学习，英伟达收购，二次创业，清华，伯克利，LMSYS，Chatbot Arena，善于放弃

AI 基础设施是当前大模型浪潮的核心，RadixArk 通过开源推理框架 SGLang 和强化学习框架 Max，致力于降低前沿 AI 技术的应用门槛。AI 发展的重心正从单纯的文本生成转向复杂的 Agentic 任务，这要求基础设施不仅要支持大规模训练，更需在推理和强化学习环节实现高效协同。AI 基础设施的竞争本质上是资源与工程品位的较量，高质量的数据清洗与精细化的系统优化是提升模型智能边界的关键。面对技术变革，开发者应保持对前沿方向的敏锐判断，通过跨领域学习与在资源密集型环境中的工程实践，在 AI Agent 时代构建核心竞争力。这种从理论研究向系统工程的转型，不仅是技术演进的必然，更是推动 AI 从实验走向广泛应用的关键路径。

从AI零基础到vLLM贡献者，他只用了1年

与vLLM团队畅聊多模态（上）

与SGLang聊聊DeepSeek V4

河南高考状元，在硅谷做什么

年轻人如何创造财富？

UCSD博士生养10个龙虾，但不焦虑

锐评大龙虾，硅谷创业，机器人

vLLM-Omni最新进展讲解

斯坦佛博后如何打印器官

博士退学，硅谷创业，AI做我90%工作

一口气看懂Anthropic

6分钟速通大模型KV Cache

KV Cache 是提升大模型推理效率的核心技术，其本质是通过空间换时间来解决解码阶段重复计算的问题。大模型推理分为预填充和解码两个阶段，由于解码阶段每次只能生成一个词且需调用全部模型权重，导致计算效率低下；KV Cache 通过存储注意力机制中的中间结果（Key 和 Value），使模型在生成新词时无需重读前文，显著提升了生成速度。该技术不仅能加速单次请求，还能通过前缀缓存实现跨请求的计算复用，在对话历史记录和长文本问答场景中表现优异。然而，KV Cache 的巨量显存占用也带来了新的挑战，促使推理工程师开发出 PagedAttention 分页管理、内存卸载以及量化压缩等技术，以在有限的硬件资源下榨干显存价值，突破物理极限。