자타공인 OpenAI의 대항마인 Anthropic의 CEO Dario Amodei가 굉장히 긴 에세이를 썼는데요. 매우 흥미롭습니다.

AI가 세상을 어떻게 바꿀 것인가에 관한 내용인데요. 안전을 매우 중시하며 그동안 공개적으로 미래에 얘기를 많이 하지 않았었는데, 글의 내용이 다소 혹은 읽는 분에 따라서는 매우 급진적입니다.

글 전체가 전부 의미 있는 내용이지만, 그 중에서도 인상적인 내용을 발췌했 보았습니다.

—

생물학, 프로그래밍, 수학, 공학, 글쓰기 등 대부분의 관련 분야에서 노벨상 수상자보다 똑똑한 수준의 강력한 AI(AGI라는 말을 싫어함)는 빠르면 2026년에 올 수 있으며, 이후 5~10년 이내에 급격한 변화를 만들 것이다.

그러한 강력한 AI는 분야에 따라 백만개가 생길 수 있으며, 관련 없는 작업에 대해 독립적으로 작동하거나, 필요한 경우 인간이 협력하는 것과 같은 방식으로 함께 작동 할 것이다.

따라서, 앞으로 데이터센터는 천재들의 나라로 부를 수 있을 것이다.

가능한 모든 과학적, 공학적, 운영적 과제를 거의 즉시 해결할 것이기 때문에 세계가 초 또는 며칠 단위의 규모로 즉시 변형될 것이다. 물리적이나 법적인 제약으로 병목 현상이 발생하겠지만, 시간에 따라 해결 될 것이다.

모든 분야에 있어 더 많은 재능 있고 창의적인 연구자들이 있다면 그들의 발견률이 10배 이상 증가할 수 있다고 생각한다. 그 말은 천재들의 나라의 강력한 AI들이 이러한 발견의 속도를 최소 10배로 만들 수 있으며, 5-10년 안에 다음 50-100년의 생물학적 진보를 제공할 수 있다고 추측 할 수 있다.

* 참고로 다리오는 신경과학과 생물학의 연구자이기도 합니다.

AI 기반 생물학과 의학은 인간 생물학자들이 향후 50-100년 동안 달성했을 진보를 5-10년으로 압축할 수 있게 해줄 것이다.

즉, 우리는 우리는 압축된 21세기를 살게 될 것이다.

거의 모든 질병을 치료하고 피임, 불임, 비만 등에서 해방돼 생물학적 자유를 얻을 것이며, 인간의 수명을 두 배, 150세까지 늘어날 수 있을 것이다.

정신 질환의 치료를 크게 개선하거나 심지어 치료할 뿐만 아니라 "인지 및 정신적 자유"와 인간의 인지 및 감정 능력을 크게 확장시킬 가능성이 높다.

AI의 공상과학 묘사에서 자주 나오는, 컴퓨터에 인간의 정신을 올리는 "마인드 업로드"는 원칙적으로 거의 확실하게 가능하다고 생각한다.

작물 수확량을 크게 증가 시키고 기후 변화를 완화하며 국가내 불평등을 낮춰 인간의 삶을 더 낫게 할 수 있을 것이다.

대부분의 경제적 활동은 어딘가의 AI가 원칙적으로 이 작업을 더 잘 수행할 수 있고, 이 작업이 더 이상 세계 경제의 경제적으로 보상되는 요소가 아니게 된다.

일의 의미는 경제적 노동이 아니라 대부분 인간 관계와 연결에서 나온다고 생각한다. 사람들은 성취감, 심지어 경쟁감을 원하며, AI 이후 세계에서는 오늘날 사람들이 연구 프로젝트에 착수하거나, 할리우드 배우가 되려고 하거나, 회사를 찾을 때 하는 것과 유사하게 복잡한 전략으로 매우 어려운 작업을 시도하는 데 몇 년을 보내는 것이 완벽하게 가능할 것이다.

—

이 외에도 다양한 분야에 대한 예상을 내 놓았는데요. 내용이 다소 급진적이지만, 이는 AI를 어떤 면에서 안전하게 만들어야하는지에 대한 단서로써 이야기를 풀어놓은 것이 아닌가 합니다. 아무튼 Anthropic의 CEO도 이제 이렇게 공개적으로 이야기하는 걸 보니, 정말 특이점이 멀지 않은 것 같습니다.

원문: https://darioamodei.com/machines-of-loving-grace