📰 OpenAI의 Superalignment 팀 해체

AI의 정렬(인류에게 유익한 방향으로 학습시키는 것) 문제를 해결하기 위한 팀인 Superalignment팀의 Lead였던 Ilya와 함께 co-lead였던 Jan Leike가 사임하면서, 실질적으로 팀이 (자진)해체 된 것 같습니다.


OpenAI가 Alignment보다 제품화쪽을 더 빠르게 가져가는 쪽으로 우선순위를 높이면서 발생한 구조적인 변화인 것 같습니다. Alignment에 대한 우려가 있긴 하지만, 이로인해 OpenAI의 행보는 더욱 빨라질 것으로 예상됩니다.


그보다, 이러한 변화에서 생각해 볼 수 있는 가설이 다음과 같이 있는데요.


1️⃣ OpenAI는 훨씬 더 나은 모델이 이미 가지고 있음. 그렇지 않다면 ChatGPT로 이미 많은 돈을 벌고 있는 상태에서 GPT-4 수준의 모델을 모든 사람에게 무료로 제공하지 않을 것.


2️⃣ 퇴사하는 팀원(Ilya, Jan등)이 곧 더 큰 능력이 나올 것을 걱정하지 않는다면 정렬에도 신경 쓰지 않을 것. AI가 지금 수준에 머문다면 대부분 문제가 되지 않을 것이기 때문.


Jan Leike가 사임하면서 쓴 글에는 OpenAI가 Alignment(정렬)에 소홀해서 더 이상 함께 할 수 없다고 판단해서 사임했다고 하는데요. 이런 상황들을 보면 아마도 Ilya와 함께 Superalignment와 관련된 회사나 단체를 설립하지 않을까라는 추측이 됩니다.


OpenAI의 이름과 달리 내부의 행보가 Apple만큼이나 비밀리에 진행되고 있는데요. ㅎㅎ 과연 진실은 어디까지일지 사뭇 궁금해집니다.

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2024년 5월 18일 오전 7:34

댓글 0

    함께 읽은 게시물

    어제 출시된 따끈따끈한 ChatGPT Codex를 실제 프로젝트 레포에 써 보았습니다.


    테스트가 있으면 스스로 테스트도 실행하고, 만든거 스스로 실행해보면서 버그도 수정하고 하는게 기특하긴 합니다.


    ... 더 보기

    [성장하는 데이터 분석가에게 필요한 3가지 마인드셋] 2

    지난 시간에 이어서 데이터 분석가가 성장하기 위해 필요한 3가지 마인드셋(Mindset)에 대해 이야기해보고자 합니다. 여기서 마인드셋(Mindset)은 하나의 가치관 또는 사고 방식이라고 이해하셔도 좋을 것 같습니다. 성장하는 데이터 분석가는 1. 분석적 사고(Analytical mindset) 2. 문제-해결 논리(Problem-solving Approach) 3. 의사소통 (Communicational mindset) 이 3가지를 갖추어야 합니다. 그럼 두번째 문제-해결 논리에 대해 이야기 해볼까요? [... 더 보기

    [분석형 엔지니어의 탄생]

    현재 아마존에서 제가 일하고 있는 BI Engineer는 매우 흥미로운 포지션입니다. 여러분들이 잘 알고 있는 데이터 사이언스(Data Sience)에는 크게 3가지 직종이 있습니다. 데이터 사이언스의 대표적인 직업들은 - 데이터 분석가 - 데이터 엔지니어 - 데이터 과학자 가 있습니다. 이 3가지 직종은 데이터 사이언스 분야에서 주요 역할들을 맡고 있는데요. 데이터 분석가, 엔지니어, 과학자 모두 기업의 데이터 의사결정을 하기 위해 각자의 영역에서 발전하고 있었습니다. 하지만 기업의 크기가 커지고 여러 ... 더 보기

    Business Intelligence

    amazon.jobs

    Business Intelligence

     • 

    저장 6 • 조회 2,516


    🚀 데이터 분석 결과를 액셔너블한 비즈니스 인사이트로 만들기

    데이터 분석을 열심히 하고 결과를 공유하면 "그래서 뭐 어쩔?" 같은 느낌의 표정을 마주하게 됩니다. 데이터 분석의 가장 중요한 부분은 분석 결과를 효과적으로 전달하고, 행동하게 만들어 비즈니스 임팩트를 만드는 것이기에 '데이터 -> 비즈니스 임팩트' 까지 잘 이끌어나가는 것은 데이터 분석가에게 매우 중요한 부분이라고 할 수 있습니다! 오늘 공유하는 아티클에서는 이러한 소프트 스킬의 프로세스를 6가지 스텝으로 잘 정리하였습니다. [🪜 데이터를 비즈니스 인사이트로 바꾸는 6가지 스텝] 1️⃣  비즈니스에 대... 더 보기

    How To Translate Data Into Actionable Business Insights

    Medium

    How To Translate Data Into Actionable Business Insights

    오늘은 투자 완료일이자 아미고 런칭 100일. 별 생각 없었는데, VC 파트너님이 축하한다며 파티 안하냐고 전화주셨길래 편의점에서 맥주 한 캔과 꼬깔콘으로 조촐하게 파티 했습니다. 이제부터가 진짜 시작이겠죠. 잘 부탁드립니다.

    ... 더 보기

    조회 1,356


    좋은 개발자가 되고 싶어서 기술을 열심히 익혔어요.

    새로운 프레임워크가 나오면 바로 써보고,

    더 효율적인 아키텍처를 고민하며 코드를 다듬기도 했어요.


    ... 더 보기