Business Intelligence
amazon.jobs
AI의 정렬(인류에게 유익한 방향으로 학습시키는 것) 문제를 해결하기 위한 팀인 Superalignment팀의 Lead였던 Ilya와 함께 co-lead였던 Jan Leike가 사임하면서, 실질적으로 팀이 (자진)해체 된 것 같습니다.
OpenAI가 Alignment보다 제품화쪽을 더 빠르게 가져가는 쪽으로 우선순위를 높이면서 발생한 구조적인 변화인 것 같습니다. Alignment에 대한 우려가 있긴 하지만, 이로인해 OpenAI의 행보는 더욱 빨라질 것으로 예상됩니다.
그보다, 이러한 변화에서 생각해 볼 수 있는 가설이 다음과 같이 있는데요.
1️⃣ OpenAI는 훨씬 더 나은 모델이 이미 가지고 있음. 그렇지 않다면 ChatGPT로 이미 많은 돈을 벌고 있는 상태에서 GPT-4 수준의 모델을 모든 사람에게 무료로 제공하지 않을 것.
2️⃣ 퇴사하는 팀원(Ilya, Jan등)이 곧 더 큰 능력이 나올 것을 걱정하지 않는다면 정렬에도 신경 쓰지 않을 것. AI가 지금 수준에 머문다면 대부분 문제가 되지 않을 것이기 때문.
Jan Leike가 사임하면서 쓴 글에는 OpenAI가 Alignment(정렬)에 소홀해서 더 이상 함께 할 수 없다고 판단해서 사임했다고 하는데요. 이런 상황들을 보면 아마도 Ilya와 함께 Superalignment와 관련된 회사나 단체를 설립하지 않을까라는 추측이 됩니다.
OpenAI의 이름과 달리 내부의 행보가 Apple만큼이나 비밀리에 진행되고 있는데요. ㅎㅎ 과연 진실은 어디까지일지 사뭇 궁금해집니다.
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 5월 18일 오전 7:34
어제 출시된 따끈따끈한 ChatGPT Codex를 실제 프로젝트 레포에 써 보았습니다.
테스트가 있으면 스스로 테스트도 실행하고, 만든거 스스로 실행해보면서 버그도 수정하고 하는게 기특하긴 합니다.
오늘은 투자 완료일이자 아미고 런칭 100일. 별 생각 없었는데, VC 파트너님이 축하한다며 파티 안하냐고 전화주셨길래 편의점에서 맥주 한 캔과 꼬깔콘으로 조촐하게 파티 했습니다. 이제부터가 진짜 시작이겠죠. 잘 부탁드립니다.
... 더 보기좋은 개발자가 되고 싶어서 기술을 열심히 익혔어요.
새로운 프레임워크가 나오면 바로 써보고,
더 효율적인 아키텍처를 고민하며 코드를 다듬기도 했어요.