OpenAI 수석과학자 Ilya, AGI 개발에 브레이크를

현재는 이사회에서 물러난 OpenAI의 수석과학자 Ilya의 인터뷰를 가져와봤는데요, 언론사 더 가디언에서 기획한 영상입니다.

(지난 글에서 이어지는 내용입니다.)

인터뷰 내용 뿐만 아니라 연출도 멋져서 한번씩 보시는 것을 추천드려요. 특히나, 저는 Ilya의 어딘가 초조해보이고 진지해보이는 모습이 영상을 보고 나서도 머리에 많이 남더라구요.

🧠 영상 내용

• Ilya는 이런 질문들을 던집니다.

  "인공지능의 '지능'이 점점 고도화되면서 우리의 목표와 AGI의 목표가 과연 일치할까요?"

• 더 나아가 앞으로의 AGI와 인간의 관계를 동물과 인간의 관계로 비유합니다.

  "인간이 동물을 꼭 '무시하거나' '싫어해서' 그들의 의사와 별개로 특정 조치들을 취하는 것이 아니라, 우리가 그저 '그렇게 할 수 있기 때문에' 하는 것처럼. AGI 또한 인간들을 그렇게 이용 가능한 변수로 대할 수 있을 것"이라고 합니다.

• 그는 "우리가 AGI의 능력에 그저 생각없이 감탄만 하며, 우리에게 중요한 가치들을 세우지 못하고 계속해서 악셀을 밟을 경우, 지구의 표면이 대부분 태양광발전기와 데이터센터들로 뒤덮이는 날이 멀지 않을 수도 있다"고 이야기합니다.

🧐 오늘의 한 마디

"I think AI has the potential to create infinitely stable dictatorship"

👉 전체 영상은 여기서 확인해주세요

https://www.youtube.com/watch?v=9iqn1HhFJ6c