OpenAI近日的人事变动逐渐落下帷幕。这场风波的背后，其实指向了一个问题：当一种新技术被创造出来的时候，相应的责任也随之而来。但历史的教训告诉我们，在新技术造成不可挽回的问题之前，人类世界往往是来不及去全面考虑新技术背后的责任的。

今年4月，真格基金管理合伙人戴雨森与知名AI青年学者符尧就AI安全与对齐（Alignment）的话题展开过一场精彩的讨论，我们认为现在正是重温那场对话的好时机。让我们共同思考：应该如何平衡AI的商业利益与人类的共同福祉？希望这期播客能够引起大家对这个关键问题的理性思考。

在本期播客里，你将听到：什么是 AI alignment？目前主流的研究和进展是什么？大语言模型的能力不断增强，AI 的能力边界在哪里？面对动态变化的价值观，怎么 align AI？针对AI safety的研究有什么大框架？AI 是否具有意识？

【主持人】戴雨森真格基金管理合伙人

【嘉宾】符尧青年AI研究员

【时间轴】

2:302022年一整年，我追踪了GPT所有演化的版本

3:49Alignment就是，希望AI符合人类的预期，符合人类的价值观

5:42Open AI 在alignment上下了很多功夫

9:49公开信真的能防“坏人”吗？

16:49在很多维度上AI会比人类强很多，但也存在一些维度AI还无法拥有人类的能力

21:46人类与人工智能的关系就好比教练与运动员

26:26如何让AI向善：给AI文明

36:10AI就像孩子能够迅速长大，alignment就像家长的管教，困难的同时又需要细水长流

40:22AI是否具有意识？AI是否能够具备意识？

43:36面对AI可能带来隐式的伤害我们应该怎么办？

47:58很看好国内的选手做中国的Open AI和ChatGPT

50:48做大模型的研究，并不需要很强的算力

57:02现在对于AI的预期会不会过于乐观？

1:00:30让更多非专业的人接触AI，是一件很好的事

【相关资料】

Our approach to alignment research

Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

Specializing Smaller Language Models towards Multi-Step Reasoning

【联系我们】

公众号：真格基金（ID: zhenfund）

收听渠道：小宇宙｜Apple Podcast｜喜马拉雅

如对节目有任何的建议与期待，也欢迎大家在留言中互动～

AI技术爆发的背后：安全、伦理与责任

此话当真