16 Nov 2024

【人工智能】Scaling Laws要撞墙了么 | 外媒质疑Orion模型提升有限 | AI大佬纷纷激辩 | 测试时训练TTT引发关注 | MIT论文证明能让模型推理性能暴涨 | TTT能拯救大模型么

最佳拍档

本期播客探讨了人工智能领域近期关于 “规模化定律” 面临瓶颈的情况，以及 OpenAI 下一代旗舰模型 Orion 的表现未达预期的传闻。有观点认为，优质文本数据的短缺导致了规模化定律的放缓，甚至停滞；而另一些人则认为，通过测试时计算和测试时训练等新技术，可以突破这一瓶颈，尤其是 TTT 技术被认为能显著提升模型性能，甚至超越人类的平均水平。目前业内对此尚无定论，但这些讨论和新技术的出现无疑为大模型的未来发展带来了新的思路。

Takeaways

Outlines

Q & A

Preview

How to Get Rich: Every EpisodeNaval