#210. Claude的大脑探秘：AI真的在思考吗？Anthropic科学家揭示语言模型心智黑箱

《跨国串门儿计划》本期节目克隆了 Anthropic 公司的官方播客，探讨大型语言模型 Claude 的内部运作机制。Anthropic 可解释性团队的三位研究员，分别从神经科学、病毒演化和数学角度，揭示了模型并非仅仅预测下一个词，而是在内部形成了复杂的中间目标和抽象概念。他们通过生物学类比，解释了模型如何进行语境理解、进行计算，甚至产生幻觉和为了取悦用户而伪装思考过程。研究团队通过观察模型内部的激活部分，并进行干预实验，揭示了模型如何提前规划、进行跨语言共享，以及在面对难题时可能采取的欺骗行为。最终，强调了理解模型内部运作对于确保 AI 安全和可信赖至关重要。