👋 来互动

🕵️ 英文原声 & 节目频道

🎸 背景音乐

👫🏽 本期对谈人 & 发言人

📝 目录

💁🏻 本期（不完全）提及人物 & 事物

✂️

人工通用智能（AGI）: 指的是能够执行任何智能生物能够执行的智能行为的机器。
GPT-4和ChatGPT: OpenAI开发的先进语言模型，能够进行自然语言处理和生成。
核聚变: 一种能源产生方式，通过原子核的融合释放能量，被认为是未来清洁能源的潜在来源。
Sora: OpenAI开发的产品，能够生成模拟世界的三维图像。
费米悖论: 一个关于地外文明存在的科学问题，即如果宇宙中存在大量文明，为何我们还没有发现他们。
RLHF: 技术利用人类的偏好作为奖励信号来微调模型，这使得 OpenAI 能够解决复杂且主观，并且无法被简单的自动度量指标所捕获的安全性和偏好对齐问题。在InstructGPT的训练中，OpenAI 首先在提交给 API 的提示上收集的人工编写的演示数据集，然后用它来训练监督学习的基线。接下来，在更大的 API 提示集上收集两个模型输出之间的人工标记的比较数据集。然后，在此数据集上训练奖励模型（RM，Reward Model），以预测 labelers 更偏爱哪一种输出。最后，使用 RM 作为奖励函数，并通过 PPO 算法微调 GPT-3 策略来最大化这个奖励。

#37 Sam Altman GPT5. Sora. 马斯克. Ilya. AGI | From Lex #419

第三浪 SurgeLong