AI의 정렬(인류에게 유익한 방향으로 학습시키는 것) 문제를 해결하기 위한 팀인 Superalignment팀의 Lead였던 Ilya와 함께 co-lead였던 Jan Leike가 사임하면서, 실질적으로 팀이 (자진)해체 된 것 같습니다.

OpenAI가 Alignment보다 제품화쪽을 더 빠르게 가져가는 쪽으로 우선순위를 높이면서 발생한 구조적인 변화인 것 같습니다. Alignment에 대한 우려가 있긴 하지만, 이로인해 OpenAI의 행보는 더욱 빨라질 것으로 예상됩니다.

그보다, 이러한 변화에서 생각해 볼 수 있는 가설이 다음과 같이 있는데요.

1️⃣ OpenAI는 훨씬 더 나은 모델이 이미 가지고 있음. 그렇지 않다면 ChatGPT로 이미 많은 돈을 벌고 있는 상태에서 GPT-4 수준의 모델을 모든 사람에게 무료로 제공하지 않을 것.

2️⃣ 퇴사하는 팀원(Ilya, Jan등)이 곧 더 큰 능력이 나올 것을 걱정하지 않는다면 정렬에도 신경 쓰지 않을 것. AI가 지금 수준에 머문다면 대부분 문제가 되지 않을 것이기 때문.

Jan Leike가 사임하면서 쓴 글에는 OpenAI가 Alignment(정렬)에 소홀해서 더 이상 함께 할 수 없다고 판단해서 사임했다고 하는데요. 이런 상황들을 보면 아마도 Ilya와 함께 Superalignment와 관련된 회사나 단체를 설립하지 않을까라는 추측이 됩니다.

OpenAI의 이름과 달리 내부의 행보가 Apple만큼이나 비밀리에 진행되고 있는데요. ㅎㅎ 과연 진실은 어디까지일지 사뭇 궁금해집니다.