최근 Sam Altman이 OpenAI에서 나갔다가 다시 돌아오며 AGI 개발이 한 층 가속화될 것이라고 다들 예상하고 있습니다. 그 이유는 무엇일까요?

한 줄로 정리해보자면 계속 발전 가보자고 VS 제발 이제 고민 좀 하면서 개발하자 양측의 충돌이었습니다.

(AGI에 대한 정보는 제 이전 글에서 확인해주세요 : https://careerly.co.kr/comments/93956?utm_campaign=self-share)

👀 가속 (acceleration) VS 안전 (safetyism) 기본 용어들

가속의 측면에서는 e/acc 라는 단어를 자주 쓰는데요, Effective Accelerationism 이라는 용어의 줄임말입니다. 아직은 철학 또는 사상이라고 부르기엔 상당히 밈스러운 말들의 모음에 머물러있기는 하지만, 기술의 발전이 우리를 풍요의 유토피아 (post-scarcity technological utopia)로 이끌어줄 것이라고 주장합니다.

안전성에 대해 논의할 때 가장 크게 포괄적으로 사용되는 단어들은 AI Ethics, AI Safety, Transparency, Fairness, Responsible AI, Trustworthiness 등이 있습니다. 이 부분은 학계, 산업계, 그리고 정부 기관들에서 모두 연구되고 있으며, 다양한 컨퍼런스와 저널을 통해 각 분야에서 위험성 검증 브레이크를 걸어주는 역할들을 하고 있습니다.

💥 충돌 지점은?

'기술이 과연 인간에게 도움되는 방향으로만 사용될까?'라는 고민을 하면 다들 고개를 저으며 "우리 인공지능.. 그렇게 잘하지 않습니다. AGI가 바로 생길것도 아니고, 아직 한참 남았어요!" 라고 이야기해왔던 것 같아요. 하지만 챗지피티가 등장하고, OpenAI가 리소스를 AGI에 전면 투자하겠다고 선전한 이제는 정말 고민할 때가 된 것 같습니다.

AGI의 능력을 계속해서 브레이크 없이 발전시키는 일련의 과정들 속에서, 우리는 자칫 잘못하면 그 경쟁에 "와와"하며 휩쓸리느라 이것이 앞으로 어떻게 우리의 인생을, 세상을 바꾸게 될지 놓칠 수 있겠죠.

❓ 이런 생각의 시작으로 몇 가지 질문들을 던져볼 수 있겠네요.

1. AGI가 1년 빠르게 등장하는 것과, AGI 개발 원칙을 국제적으로 합의하는 것 중 무엇이 더 인류에게 필요할까요?

2. AGI가 인류에게 도움이 되는 방식으로 개발이 된다면, 그 '인류'가 과연 어디까지를 포괄하게 될까요?

3. AGI를 하나의 패권국가에서만 개발하는 것이 정말 괜찮나요?

4. AGI가 상업적 사용이 가능해지는 것이 정말 괜찮나요?

5. AGI가 학습된 데이터에 아직 발견하지 못했던 사회적 편견/ 차별이 작동에 포함되어 있다면 우리에게 어떤 영향을 끼칠까요?

👉 What's Next?

이번에 OpenAI의 수석과학자 (Chief Scientist) Ilya가 주도적으로 Sam Altman을 몰아낸 것은 AGI alignment 때문일 것이라 추측되는데요, 다시 돌아온 Sam은 Ilya를 OpenAI이사회의 멤버에서 제외했습니다.

다음 편에서는 안전성에 대해 경고하는 Ilya가 한달 전 인공지능의 폭주에 대한 경고장을 던졌던 더 가디언 인터뷰 영상에 대해, 그리고 Safetyism에 대해 조금 더 다뤄보겠습니다.