[테크크런치] OpenAI를 신뢰할 수 있을까?

테크크런치의 AI관련 뉴스 중 최근 OpenAI의 논란 관련 몇가지에 관하여 정리해 봅니다.

제목의 OpenAI 보다는 '알트먼을 신뢰할 수 있을까?'가 좀 더 논조에 가까울거 같긴 합니다..

• 스칼렛 요한슨

  • ChatGPT-4o에 사용된 목소리 중 하나가 요한슨의 목소리와 비슷하다는 사용자들의 지적에 따라 이를 삭제

  • 요한슨은 법률 고문을 고용해 해당 음성에 대해 문의하고 개발 과정에 대한 정확한 세부 사항을 파악했으며, ChatGPT에 자신의 목소리를 라이선스해 달라는 OpenAI의 거듭된 요청을 거절했다는 내용의 성명 발표

  • OpenAI는 실제로 요한슨의 목소리를 복제하려 하지 않았으며, 유사성은 우연에 의한 것이라고 주장(워싱턴 포스트 기고)

  • 그렇다면 OpenAI의 CEO인 샘 알트먼은 왜 요한슨에게 연락을 취해 유사 목소리를 사용한 데모를 공개하기 이틀 전에 재고해 달라고 촉구했을까?

• OpenAI의 슈퍼얼라인먼트 팀 해체

  • '초지능' AI 시스템을 관리하고 조정하는 방법을 개발하는 역할 담당하다가 팀해체

  • 회사 컴퓨팅 자원의 20%를 약속받기로 했으나 거의 지원받지 못함

  • 팀의 두 공동 리더였던 얀 라이크와 일리야 수츠케버(전 OpenAI의 수석 과학자)가 사임

  • 지난 1년 동안 거의 12명의 안전 전문가가 OpenAI 퇴사

• 프로젝트 및 운영과 관련된 안전 및 보안 결정을 감독하는 새로운 위원회

  • 외부 관찰자가 아닌 알트먼을 포함한 회사 내부 인사로 구성

  • OpenAI가 비영리 구조를 버리고 전통적인 영리 모델을 채택 고려

• 퇴사직원들에 대한 제한적인 기밀유지 계약 서명 이슈

  • 전직 직원들에 대한 OpenAI의 제한적인 기밀유지 계약에 서명하지 않으면 기득권을 잃게 하거나 지분 매각을 막겠다고 직원들 협박 소식

  • 해당 정책을 제정한 법인 설립 문서에 있는 알트먼의 서명

• 헬렌 토너

  • 작년 말 알트먼을 해임하려 했던 전 OpenAI 이사회 멤버 중 한 명으로 2023년 11월 퇴사

  • 알트먼의 트위터를 통해 ChatGPT의 출시 사실 인지한 이사회

  • 알트먼이 OpenAI의 공식적인 안전 관행에 대해 잘못된 정보 제공 주장

  • 토너가 공동 저술한 학술 논문에 대해 불만을 품은 알트먼이 이사회 멤버들을 조종하여 토너를 이사회에서 몰아내려고 했다고 주장

  
  

• Source: https://techcrunch.com/2024/06/01/this-week-in-ai-can-we-and-could-we-ever-trust-openai/?guccounter=1