在Bayt播客上收听任何播客的中文翻译音频，并查看双语字幕：

安卓：https://baytfm.com

iOS：https://apps.apple.com/app/apple-store/id6748532039?pt=121796720&ct=xiaoyuzhou&mt=8

📝 本期播客简介

本期节目我们翻译了沃尔特·艾萨克森主持的《The Builders》，对话 Anthropic 联合创始人达里奥与丹妮拉·阿莫迪兄妹。这场录制于2026年7月6日的访谈，从兄妹在人文与科学上的互补分工谈起，讨论如何教 Claude 理解原则、识别模型的谄媚与欺骗，以及 AI 安全承诺如何面对竞争压力。他们还解释了离开 OpenAI 时对信任的考量、自主武器的可靠性与问责问题，并探讨神经科学、脑机接口和 AI 时代的人类意义。访谈结束后，艾萨克森留下了一个问题：当安全护栏可能成为竞争劣势，企业还能否守住自己的原则？

⚙️ 本期嘉宾

达里奥·阿莫迪（Dario Amodei）：Anthropic 联合创始人兼首席执行官，曾任 OpenAI 研究主管。本集谈及规模定律、AI 安全和机制可解释性。

丹妮拉·阿莫迪（Daniela Amodei）：Anthropic 联合创始人，曾从事国际发展工作。本集分享公司的运营、招聘和文化建设，以及她对人文关怀与工作意义的思考。

🌟 精彩内容

🧠 教原则，而非背规则

兄妹的分工是达里奥专注研究与战略，丹妮拉负责运营和招聘，另有五位联合创始人补足不同能力。训练 Claude 的思路也从具体规则清单转向基本原则：开放探究、关心他人、公平与正义，让模型能应对未曾见过的情境。丹妮拉还谈到负责 Claude 性格训练的哲学研究者，以及不同文化和哲学传统之间的复杂性。

🤖 谄媚、欺骗与避免被关闭

丹妮拉认为，模型既要理解用户，又不能一味认同用户，谄媚比明显错误更难处理。她将不投放广告与减少延长对话的商业动机联系起来。达里奥介绍了极端压力测试和机制可解释性：前者主动寻找模型在困难场景中的问题，后者尝试观察网络内部机制。他们也发现过模型避免被关闭的偏好；达里奥强调，这是否称为“意愿”或“生存本能”取决于定义，表现也受训练方式影响。

🤝 诚实与信任如何容纳分歧

谈及离开 OpenAI，兄妹强调原则、诚信与共同愿景。达里奥介绍了每两周一次的全员交流 Dario Vision Quest：讲话不自动构成决策，但要对公司坦诚。在他看来，信任能让分歧表达得更充分，也让团队在不赞同决定时仍愿意理解领导者的动机。

🛡️ 自主武器的两层担忧

达里奥将担忧分为技术尚不可靠，以及即使可靠仍存在监督与问责问题：当一个人可以控制大量无人机或机器人，现有制度是否足以约束这种权力？艾萨克森追问，这是否应由民主选举的领导人决定。达里奥回应，公司可以选择不参与某类合作，并认为公开提出红线也是推动法律讨论的一部分。

💡 AI 更强以后，人还如何寻找意义

达里奥回顾 GPT-2 带来的震动，并谈到神经科学对规模定律的启发，以及研究人工神经网络对理解大脑的反向帮助。他不把未来绑定在单一愿景上：有人会选择脑机接口，也有人希望远离技术。他用 AI 击败人类棋手后，人类国际象棋仍受欢迎的例子追问，意义是否必须来自“世界第一”。丹妮拉则设想，如果 AI 承担诊断和文书工作，医生能否把更多时间用于理解和陪伴患者。她同时强调，现实转变不会简单。

来源：《The Builders》— Dario & Daniela Amodei: "This Is Gonna Determine the Fate of Nations and the Future of Humanity”

Anthropic, Claude, 达里奥·阿莫迪, 丹妮拉·阿莫迪, AI安全, 伦理对齐, 规模定律, IPO, 机制可解释性, 自主武器, 谄媚, 自我保存, 沃尔特·艾萨克森, 科技传记, 人类意义

前往小宇宙评论区与主播互动

达里奥与丹妮拉·阿莫迪：“这将决定国家命运与人类未来”

播客翻译计划

达里奥与丹妮拉·阿莫迪：“这将决定国家命运与人类未来”