빌 게이츠와 샘 알트먼 대화 "이게 마지막으로 힘든 일"

빌 게이츠와 샘 알트먼의 대화입니다. 질문이 참 깊다는 생각이 들어요.

https://youtu.be/PkXELH6Y2lM?si=OzMkkbnCPrpYyN7S

1. 부족함에 중점을 둔 사고방식의 변화

• 우리의 생각하는 시스템은 부족함을 기반으로 함. 희소성을 중심으로 구성되어 이것을 해결하는 방벙브로 발전

• 이런 부족함이 없는 세대가 사회를 어떻게 조직하고 무엇을 해야 하는지에 대한 철학적 개념을 찾을 수 있는지 궁금

• 제 생각은 희소성을 중심으로 형성되어 있어서 그런 생각을 하는 것조차 힘들어요 : 오..

• 답변 : 우리는 희소성 이후를 가면 새로운 일을 찾을 것. 문제는 없어지지 않고 계속 해야할 것

2. AGI, AGI+가 개발될 경우의 우려

• 나쁜 사람이 시스템을 통제하면 어쩌지

• 시스템이 통제권을 장악하면 어쩌지

• 기계가 모든 것을 해결하려고 하면 철학적으로 혼란스러움. 사회를 어떻게 조직할 것인가?

• 교육을 개선하면? 극단적으로 가면 무엇을 위한 교육일까?

• 답 : 균형감을 갖는 일이 제일 어려운 일

3. AI가 현대 문제를 해결할까?

• AI가 전쟁을 줄이고 양극화를 줄이는 데에 도움이 될 수 있을까?

4. AI가 적용되어 가장 기대되는 분야

• 답 : 사람들에게 강력한 도구를 제공하면 작업 속도가 빨라지는 것 뿐만 아니라 질적으로 다른 일을 할 수 있다

• 코딩은 우리가 가장 기대하는 생산성 향상 분야일 것

5. 정보 체계를 이해할 수 있을까?

• 해석 가능성은 계속 연구가 있고 앞으로도 있을 것. 100% 가능

6. AI와 로봇이 만드는 노동 시장의 변화

• 답 : 10년 전을 떠올리면 이런 변화는 블루칼라, 화이트칼라, 창의성 순으로 영향을 받는다고 생각

• 하지만 지금은 정반대

• 창의적인 작업, GPT 모델의 환각은 버그가 아니라 기능임. 새로운 것을 발견할 수 있게 해줌

7. AI의 규제 방법

• 답 : 규제를 가하는 것은 매우 쉬움. 이전에 있던 사례를 살펴볼 수 있음

• IAEA 같은 모델. 전 세계에 영향을 미칠 수 있어서 글로벌 기관이 필요함

• 단기적 문제. 이 모델을 무엇을 말하고 말해야 하지 않는가에 대한 문제가 있을 것. 저작권도 국가마다 다르게 생각하겠지만 큰 문제는 아닐 것

8. AI의 차기 마일스톤

• AI의 다음 이정표는?

• 답 : 멀티모달리티 : 음성 입력, 음성 출력. 이미지. 결국 비디오

• 가장 중요한 발전 영역 : 추론 능력. 신뢰성

• 신뢰도를 높여야 함

• 개인화도 매우 중요함. 사람마다 다른 스타일로 사용

• 자신의 데이터를 사용할 수 있는 기능도 제공할 것