오픈AI 공동창업자(Ilya Sutskever)를 포함 연구원들이 줄줄이 사임하고 있습니다. 특히 핵심 연구원인 Jan Leike는 “오픈AI에서 제품을 보기 좋게, 빛나게 만드는 일이 안전을 중시하는 프로세스를 대체했다”고 주장하며 퇴사했는데요. 그는 오픈AI가 장기적인 위험 해결을 전담하던 팀인 ‘superalignment’를 해체했다는 보도가 나온 뒤 이런 코멘트를 남겼습니다. 해당 팀은 오픈AI가 ‘추론’을 할 수 있는 AI(!)를 개발함에 따라 안전 프로토콜을 구현해야 한다는 ‘핵심 기술 과제’를 해결하기 위해 만들어졌습니다. 그런데 이를 없앴다는 이야기입니다. 어쨌든 Jan Leike의 주장은 AI 시대에 분명히 되새겨야만 하는 말일 것 같습니다.

OpenAI researcher resigns, claiming safety has taken "a backseat to shiny products"

The Verge

OpenAI researcher resigns, claiming safety has taken "a backseat to shiny products"

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2024년 5월 19일 오후 1:14

댓글 1

  • 흠.. open ai는 늘 뜨거운 감자네요. 이슈가 끊이질 않는군요.ㅋㅋ AI 시대의 선한 영향력을 주도하는 기업이 될 수 있길 바래봅니다.🧐