E35. 伊利亚：现在的AI顶多是个“努力型天才”

本期播客深入探讨了 AI 领域发展方向，聚焦于 AI 高分低能现象，并引出对真正学习的思考。嘉宾以 “凭感觉编程” 为例，揭示 AI 在评测中表现出色，但在实际应用中却存在缺陷。造成这种现象的原因，在于研究人员过度关注评估指标，导致 AI 为了高分而训练，缺乏真正的理解和泛化能力。播客还通过对比 “万小时程序员” 和 “天才学生”，强调了 AI 价值函数的重要性，指出 AI 与人类学习机制的根本差异在于缺乏内置的评估系统和直觉。播客最后探讨了超级智能的安全问题，以及 AI 与所有感知生命对齐的可能性，引发对人类在未来世界中定位的思考。