Lex Fridman interview with Sam Altman

Lex Fridman interview with Sam Altman #

视频地址：https://www.youtube.com/watch?v=L_Guz73e6fw

内容介绍：最近有一个特别火的视频（实际上是一期播客），虽然里面没有提到任何与技术本身相关的事情（因为Sam的口风太紧了），但很值得一看。Lex Fridman与Sam Altman谈论的话题很广，不过大部分还是关于现有GPT-4与AGI实现路径的讨论，尤其是安全方面 里面有一些内容我觉得挺有趣：

• 如果AI的take-off不可避免，那么那种情形下对社会来说是比较安全的？Sam用一个2*2矩阵来描述他的答案 {长期，短期} x {开始，实现}，Sam更倾向于短期开始，长期实现。
• OpenAI在2019年由非盈利转为盈利公司（成立OpenAI LP），以此来筹集足够多的资金用于研究。Sam在视频里面提到他认为AGI技术有达百倍的回报率，这里在reddit上有一个帖子讨论OpenAI与微软达成的协议，上面显示微软预期从OpenAI的投资上得到10倍左右的回报（13 Billion -> 150 Billion）。
• Sam自己从来认为GPT只是一个系统，然而正在使用GPT的许多人对其称呼为「他」or「她」。
• Sam认为目前GPT能力已经尽最大限度地「开源」了，不想完全开源还是处于对安全的考虑。

注1：Lex Fridman其实早些时候采访过许多OpenAI其他的人，与Ilya对谈的时候是2020年，那个时候还只有GPT-2：

• Ilya Sutskever: https://www.youtube.com/watch?v=13CZPWmke6A
• Greg Brockman: https://www.youtube.com/watch?v=bIrEM2FbOLU
• Wojciech Zaremba: https://www.youtube.com/watch?v=U5OD8MjYnOM

注2：某科技自媒体对此视频解读的标题为：「AI可能会杀死人类」