📝 OpenAI의 Ilya와 Jan 같은 Alignment팀의 사람들이 떠난 이유에 대한 다른 추측


두 사람이 OpenAI를 떠난 이유가 OpenAI 내부에서 이미 다음 단계의 뛰어난 AI를 봤기 때문이라는 의견이 있었는데요.


반대로, 오히려 그런 AI가 나타나지 않았기 때문에 떠났다는 추측도 있습니다. 기대했던 만큼의 발전이 없었기 때문에 떠났다는(떠날 수 밖에 없었다는) 뜻인데요.


즉, OpenAI와 다른 AI 팀들이 초지능 AI가 통제 불능이 되는 시나리오가 현실적이지 않다는 것을 깨닫기 시작했다는 것입니다.


따라서 이러한 시나리오에 대한 걱정은 시간, 돈, 자원의 낭비라는 인식이 점점 커졌고, 그래서 OpenAI는 더 실용적인 AI 제품의 기능을 개발하는 데 컴퓨팅 자원을 늘렸고, 초지능 정렬 팀에 할당된 컴퓨팅 자원은 줄였다는 것입니다.


메타의 얀 르쿤 슨생님도 이에 대한 의견에 동의를 표하는 반응을 올리셨는데요. (이 슨생님은 원래 근시일내의 초지능의 발현에 약간 부정적이긴 함)


어떤 상황인지 잘 모르겠지만, 그래도 1년 정도 뒤가 되면 알 수 있겠죠? 공개하거나 아니면 그때까지도 공개 안한다면 초지능 달성은 먼 이야기일테니까요. 아무튼 과연 진실은 어드메일지 정말 궁금합니다. 😎🍿🥤

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2024년 5월 18일 오후 6:53

조회 2,214

댓글 0