OpenAI 에서는 AGI, 초지능을 가진 인공지능을 인간에게 안전하고 유익하게 만들기 위한 연구를 하는 Superalignment 팀을 만들었었는데요.

이에 대한 방향성에 대한 글을 OpenAI 블로그에 올렸습니다.

📝 https://openai.com/research/weak-to-strong-generalization

우선 문제부터 보면, 문제는 아주 간단한데요. 초지능이라함은 인간보다 뛰어난 지능을 갖춘 것인데, 그보다

덜 똑똑한 인간이 관리 감독하려고 한다는 것이죠. 이에 따라 덜 똑똑한 인간이 더 똑똑한 AI를 관리하기위한 방법을 찾는 것으로 방향을 잡았습니다. (말만 들으면 참~쉽죠?🤣)

이를 실험하기 위해 작은 모델로 큰 모델을 감독하는 방법을 실험했는데요. 즉, 덜 똑똑한 AI로 더 똑똑한 AI를 감독하는 방법을 고안하고 실험하였습니다.

결과로는 GPT-2 수준의 모델로 GPT-4 를 감독하는 실험을 진행하여 일부 성공하였고, 이 방법을 일반화 할 수 있는 가능성을 확인했다고 합니다.

그야말로 콜럼버스의 달걀과 같은 느낌인데요. 글을 읽으면서 Alignment 를 진심으로 연구하고 있다는 것에 안심이 되기도 하고, 이 사람들은 정말 AGI의 개발과 출현을 진심으로 믿고 있구나라는 생각 등, 참 대단하고 부럽다는 생각이 많이 들었습니다.