일리야 수츠케버 The Guardian 인터뷰 요약

2023년말 OpenAI에서 샘 알트먼의 축출(?)에 큰 역할을 했다는 Open AI 공동창업자 일리야가 어떤 사람인지 궁금해서 뒤져보다가 The Guardian과 했던 인터뷰를 찾았다. iHuman이란 제목으로 The Guardian에서 만든 AI에 관한 다큐멘터리의 일부라는데 이 사람이 갖고 있는 AI(혹은 AGI)에 관한 생각을 엿볼 수 있는데 확실히 OpenAI가 보여주었던 행보와 다름을 느낄 수 있었다. 일부 생각해볼만한 것들을 정리해보았다.

1. 먼저 AI가 여러가지 문제를 해결하겠지만 새로운 문제를 만들어낼 것이란 점을 분명히 했고 예로 가짜 뉴스와 사이버 공격의 범람, 자율 AI 무기와 안정적인 독재정권의 탄생을 든다.

2. ChatGPT가 AGI로 발전할 것이라 믿고 있는 듯한 발언을 한다. 이 인터뷰때 일리야의 바디랭귀지를 보면 걱정을 많이 하고 있음을 느낄 수 있다 (내 감정이 이입된 것인지도 모르겠지만): "자신의 목표를 가진 완전히 자율적인 존재를 만들 수 있다고 확신하지만 이 존재들의 목표가 우리 인간의 목표와 일치하도록 하는 것이 중요하다"

3. "What inspires you"라는 질문에 대해서는 사람이 할 수 있는데 기계가 할 수 없는 것들에 대한 철학적으로 접근해보는 것이라고 하며 "학습", "경험", "사고" 등이 무엇인지 질문해보는 것을 예로 든다.

4. AGI(Artificial General Intelligence)를 '인간이 하는 모든 일이나 작업을 더 잘 할 수 있는 컴퓨터 시스템'로 정의를 하며 AGI가 생각보다 빨리 완성될 가능성이 높다고 믿기에 지금부터 AGI를 인류의 이익과 맞추는 작업이 필요하다고 이야기한다. 일리야는 AGI가 전문가들이 생각하는 것보다 빠르게 분명히 탄생할 것으로 믿는 것 같다.

5. 첫 번째 AGI 시스템은 천 만개 이상의 주택의 에너지를 소모하는 딥러닝 전문 프로세서로 가득찬 거대 데이터 센터의 모양을 띨 것인데 이 첫 시스템의 믿음과 욕망을 인류에게 도움되도록 디자인하는 것이 중요하다고 말한다. 왜냐면 이런 시스템은 자연에서 생명체처럼 자기가 생존할 수 있는 형태로 발전할 것이라 처음 시작이 중요하다는 거다. 현재 사람과 동물간의 관계를 미래 AGI와 사람간의 관계로 설명한 부분도 참 흥미로왔다 (공존하겠지만 한쪽의 이익이 분명히 우선시된다)

6. AGI를 먼저 만들려는 경쟁이 사실 시작된 셈이고 그래서 여러 나라들의 협업을 통해 AGI를 만드는 것이 중요하다는 말을 하며 아래 이야기로 끝을 맺는다.

"The future is going to be good for the AI regardless. It would be nice if it were good for humans as well"

AI를 이미 하나의 존재로 표현하는 부분이 인상적이며 언제 AGI라는 것이 가능해질지 궁금한데 미국 시간으로 2025년 1월 4일 오전 10시에 샘 알트먼이 올린 트윗을 보면 이런 내용이 있다.

i always wanted to write a six-word story. here it is:

___

near the singularity; unclear which side.

Singularity는 이 문맥에서는 인공지능이 인간의 지능을 넘어서는 시점을 이야기하는데 unclear which side라는 부분이 결국 인간에게 도움이 되는지 안되는지를 나타내는 것 같다. 어그로를 끌려는 마케팅인지는 모르겠지만 샘 알트먼의 이런 태도를 일리야가 싫어한 것은 아닌지 모르겠다.

다음 포스팅에서 일리야의 NeurIPS 2024에서 했던 "Sequence to sequence learning with neural networks: What a Decade"라는 톡의 내용을 요약해보고자 한다.