硅谷坐标 x 田渊栋: 解析大模型护城河、记忆存储瓶颈与Agent对社会冲击

田渊栋在访谈中深入探讨了 AI 模型的发展趋势和挑战，他强调数据是 AI Lab 可持续发展的核心，并认为当前算法改进多为小修小补，期待颠覆性方案出现。访谈分析了大模型记忆的两种模式：全盘记忆虽效果好但代价高，选择性遗忘则能优化存储和速度。田渊栋还对比了人类与 AI 的学习方式，指出 AI 在从背诵到顿悟的转化上存在困难。此外，他还对 Scaling Law 的局限性、推理效率的提升路径、以及 Agent 技术对组织架构和电商逻辑的潜在颠覆进行了分析，并提醒非 AI 从业者需警惕 AI 技术可能带来的行业变革。最后，他透露自己将加入一家创业公司，但具体方向和团队组成暂未公开。