#519.普林斯顿Zhuang Liu谈架构、数据与记忆的真相

深度学习架构的性能差异往往源于细节优化而非核心机制的根本性变革，数据规模与质量才是决定模型表现的关键因素。普林斯顿大学助理教授庄溜指出，视觉与语言模型在训练时应针对特定任务进行数据配比，且当前 AI 领域对架构的过度关注掩盖了数据处理的重要性。模型在处理复杂任务时，记忆与上下文管理能力已成为制约性能提升的瓶颈，而非单纯的参数化方式。此外，视觉作为人类感知的核心桥梁，其高通量数据处理能力的缺失限制了多模态模型的进一步演进。未来 AI 的突破在于构建更稳定的记忆机制与持续学习流程，而非仅仅依赖于不断堆叠的智能体脚手架。