Sam Altman이 2023년 3월 26일 Lex Fridman의 팟캐스트에 출연하였습니다.
원본 팟캐스트는 2시간 30분 정도 되는데 그 중 43분이나 되는 분량에 한글 자막을 달아주신 분도 계시네요. (https://www.youtube.com/watch?v=oDdXicdY_5Q)
가장 인상 깊었던 부분은 AGI가 초지능을 얻는 시나리오를 나누는 기준이 2가지가 있다는 것입니다. 첫 AGI의 출현 시점이 근 시일 내(1~3년)에 이뤄질 경우 또는 수 십년 뒤에 이뤄질 경우. 그리고 AGI 출현 이후 초지능을 얻기까지 걸리는 시간이 빠를 경우(몇 시간 ~ 몇 일) 또는 오래 걸릴 경우 (몇 년). 이렇게 두가지 기준으로 가능한 4가지 조합이 나오겠죠.
샘 알트만은 AGI의 첫 출현이 늦어질수록 초지능을 얻는 시간이 단축될거고, AGI가 초지능을 급작스럽게 달성하면(fast takeoff) 위험한 AI가 될 가능성이 높다고 생각합니다. 그래서 첫 AGI를 빨리 개발해서 초지능을 얻기까지의 시간을 길게 가져가는 것(slow takeoff)이 목표라고 합니다. 그래야 인간에 우호적인 AI가 만들어질거라 믿는 것이죠.
그 외 OpenAI를 시작한 후로 조롱 받았던 시절, ChatGPT 출시 이야기, "의식"의 의미에 대한 생각, 영리단체 자회사를 설립한 이유 등 재밌는 내용이 정말 많습니다.