OpenAI 퇴사자가 경고하는 초지능의 도래 - 3편

3편 "더 프로젝트" feat. 샘 올트먼을 축출한 이유 | 데이터센터, 천연가스, 스파이전

아셴브레너의 상황인지 AGI 초지능에 관한 이야기, 그 마지막 편입니다.

지금까지의 내용을 함께 요약 드릴게요!

키워드 : OOM, 전력 문제, 로봇공학, 우주산업, 방위, 국가간 경쟁

🎯 TLDR;

1. 샌프란시스코에서 먼저 보는 미래 - 컴퓨팅 클러스터 규모가 급속도로 커지며, 미국 전력 생산까지도 급증하고 있음. 𝐀𝐆𝐈 개발 경쟁은 이미 시작되었으며, 2027년에 도달할 가능성이 높음

2. AGI로의 도약과 초지능의 출현 - 인공지능 연구의 자동화를 통해 인간 수준을 달성하고 몇 년 이내에, '인간보다 훨씬 더 똑똑하고, 우리가 이해할 수 없는 새롭고 창의적이며 복잡한 행동을 할 수 있는 수준의 지능'을 가진 초지능을 개발 할 수 있을 것

3. 군사적 국제 정세의 급변 - 초지능을 통제하는 자는 아마도 기존의 비초지능 세력으로부터 권력을 빼앗을 수 있을 만큼 강력할 것

4. 초지능 개발을 위한 거대한 투자 - AI 개발 경쟁으로 2027년에는 연간 1조 달러 이상이 AI에 투자될 것으로 예상됨. 이는 현재 엔비디아 매출의 10배에 달하는 규모로, 데이터 센터와 전력 증설에 주로 투입될 예정

5. 전력 수요 증가 - 2028년까지 10GW, 2030년대에는 100GW에 달하는 전력이 필요할 것으로 예상되며 이는 미국 전력 생산의 20% 수준. 그러나 미국은 천연가스 생산을 통해 충분한 전력을 공급할 수 있는 잠재력이 있음

6. 초정렬 문제 - 초지능을 제어하기 위한 새로운 방법이 필요함. 기존 RLHF는 초지능에 적용되기 어려우며, AI 시스템 내부 사고 과정을 이해하기 위한 연구가 필요함

7. 국가 주도의 AGI 개발 프로젝트 - 미국 정부 주도로 국가적 차원의 프로젝트가 시작될 것.  AI 연구소, 클라우드 컴퓨팅 제공업체, 그리고 정부가 협력하여 초지능 AI 개발을 안전하게 관리하고 통제해야 함

👇 뉴스레터 읽으러 가기

https://maily.so/untitled.labs/posts/831793f5?utm_source=careerly&utm_medium=post