이번 샘 올트만 OpenAI 전 CEO의 갑작스런 해고의 배경에 대해서 많은 논란들이 있었지만, '효율적/효과적 이타주의' 사상에 대한 기반한 AI의 안정성과 신뢰성 vs AI 비지니스 측면의 헤게모니 충돌이 그 배경이 되고 있다. '효율적/효과적 이타주의' 사상은 그리 오래되지 않은 개념이지만, 미국의 많은 젊은 CEO들과 투자자들, 그리고 최근 AI의 대두로 AI의 옹호론자와 종말론자의 열띤 토론이 전개되면서 효율적 이타주의에 대한 이해를 필요로 하고 있다.

1. 용어

• 한국에서는 효율적 이타주의 또는 효과적 이타주의라고 명명하는데, 여기에서는 효과적 이타주의로 이야기하고자 한다.

2. 효과적 이타주의 (效果的利他主義, 영어: effective altruism)

• 개념: 타당한 근거와 추론에 기반하여 이타주의를 실현하고자 하는 사회운동 혹은 윤리학적 사조. 어떠한 행동이 가장 효율적으로 타인과 인류에게 영향을 끼치는지를 체계적이고 결과주의적인 방법론으로 분석하려 한다는 점에서 전통적 이타주의 및 자선사업과 접근방식 등의 차이 / 불평등, 동물 복지 및 장기적으로 인간 생존에 대한 위험으로부터 보호, 글로벌 건강 및 개발, 사회적 행동이 포함 됨

• 대표적인 제창자는: 윤리학자 피터 싱어(Peter Singer)- 저서 The Life You Can Save

• 영향 준 철학자들: Peter Singer, Toby Ord, William MacAskill

• 발전: 2000년대 발전, 2011년에 '효과적인 이타주의' 이름 만들어짐 -> 2013년부터 효과적인 이타주의에 관한 글로벌 컨퍼런스 개최

• 실행

  • 가장 많은 생명을 구하고 가장 많은 고통을 완화할 것으로 추정되는 과학 프로젝트, 기업 벤처 및 정책 이니셔티브의 우선 순위 지정에 광범위하게 적용

  • Facebook 공동 창립자 Dustin Moskovitz 수십억 달러를 기부

  • 암호화폐 거래소 FTX의 창립자 Sam Bankman-Fried(~2022년 파산전까지). 단, 파산 이후 이 운동에 대한 논란과 비판의 원천이 되고 있음

  
  

3. OpenAI의 효과적 이타주의 vs 비지니스 성장(생존)

• 효과적 이타주의 관점

  • 오픈AI는 “오픈AI의 수혜자는 투자자가 아닌 인류(The Nonprofit’s principal beneficiary is humanity, not OpenAI investors)”라고 밝히고 있다.

  • 효율적인 이타주의자들(Effective Altruists)’ 운동: 선한 의도를 가진 사람들이 엄청난 부자가 되어 그 돈을 좋은 일에 기부하는 것이 인류의 문제에 대한 해결책이라고 주장하는 사람들의 모임

  • 샘 알트만은 올해 3월 뉴욕타임즈 인터뷰에서 “오픈AI가 세계의 부의 대부분을 확보한 다음 사람들에게 재분배하는 게 목표”라고 밝힌 바 있다.

  • 오픈AI 대변인은 벤처비트와 인터뷰에서 “우리 이사회 구성원 가운데 ‘효율적인 이타주의자들’ 멤버는 없다”고 밝혔다.

• AGI

  • ‘AGI(인공일반지능 출현)에 대비해 인류를 위한 AI 연구’라는 목적으로 2015년 설립된 오픈AI는 비영리단체

  • 초지능에 대한 우려는 제프리 힌턴, 요슈아 벤지오, 앨런 튜링, 일론 머스크 및 OpenAI CEO 샘 올트먼과 같은 주요 컴퓨터 과학자 및 기술 CEO가 표명

  • OpenAI에서는 AGI를 ‘대부분의 지적 작업을 자율적으로 수행할 수 있는 컴퓨터 시스템’으로 정의. 그러나, OpenAI CTO인 Mira Murati는 현재 AGI를 만들기에는 아직 인턴 정도의 수준이며, 는 여전히 신뢰성 문제가 있기 때문에 전적으로 의존할 수는 없다고 평가함.

  • 오픈AI가 지난해 말부터 '아라키스(Arrakis)'라는 모델 개발을 진행했으나 올여름 프로젝트를 폐기한 것으로 보도됨. 또 아라키스는 마이크로소프트(MS)가 올초 오픈AI에 100억달러를 투자하는 데 핵심적인 역할. 참고로, 아라키스는 '듄' 소설에 가상의 사막행성을 의미

  • 최근 소식에 따르면 OpenAI는 일반인공지능(AGI)를 겨냥한 차세대 모델 ‘GPT-5’를 개발 중으로 드러남. 그리고, 이에 대한 투자를 계속 유치하려고 했었던 상황

** 정렬이란?

일반적으로 사용자의 의도와 일치하여 사용자가 원하는 대로 정확하게 작동하는 것을 의미하고, 안전성은 사용자가 의도적으로 모델을 사용하여 유해한 결과를 생성하려는 오용과 같은 다른 사항도 고려하여 안전한 시스템을 구축하는 것을 의미

4. AI 옹호론자와 AI 종말론자

• AI 윤리와 관련해서는 AI가 인간을 멸종시키는 것을 막는 것이 시급하다는 주장

• AI 옹호론자(안정성)

  • AI 안전성: AI 시스템이 프로그래머의 의도에 복종하고 인간을 해치지 않으면서 권력을 추구하지 않도록 막는 새로운 연구 분야

  • AI 시스템이 프로그래머의 의도에 복종하고 인간을 해치지 않으면서 권력을 추구하지 않도록 막는 새로운 연구 분야로 효과적 이타주의와 밀접한 관련

  • 페이스북의 공동 창업자 더스틴 모스코비츠와 전 헤지펀드 매니저 홀든 카노프스키가 설립한 재단 ‘오픈 필란트로피’와 같은 효율적 이타주의 관련 단체들은 최근 몇 년간 AI 안전성에 초점을 맞춘 여러 센터와 연구소, 커뮤니티 건설을 지원

  • 미국의 비영리단체 '삶의 미래 연구소'(FLI)는 일론 머스크 테슬라 최고경영자(CEO) 등이 AI가 인류에 심각한 위험성을 미칠 수 있다며 최첨단 AI시스템의 개발을 일시 중단하자는데 서명한 공개서한

  • AI의 옹호자들은 오픈AI와 구글의 딥마인드로 대표

• AI 종말론자

  • 강력한 AI가 연결되면 인류가 멸망할 것

  • 미국의 작가이자 비영리단체 기계 지능 연구소(MIRI) 엘리저 유드코프스키가 이 진영을 대표

  • 거대 언어모델(LLM)의 폐해를 경고하는 논문의 공동 저자인 팀닛 게브루 전 구글 AI 윤리팀 기술책임자가 진영의 대표적 인물

>> 이러한 AI의 안정성이 우선시되지 않는 비지니스 드리븐 방식의 샘 올트만의 일방적인 리드가 이번의 성공적인 쿠데타의 발단이자 결정적인 계기라고 봄.