제프리 힌턴 "구글 사업 걱정 없이 AI 안전 문제를 말하고 싶었다"

(MIT의 제프리 힌턴 인터뷰 기사를 요약했어요) 제프리 힌턴은 "AI가 구글의 사업과 어떻게 상호작용하는지 걱정할 필요 없이 AI의 안전 문제에 대해 말하고 싶다"고 합니다. 그는 지난 40년 동안(그의 연구를 포함해) 인공신경망이 생물학적 신경망을 모방하려는 어설픈 시도를 하고 있다고 여겼는데요. 이제는 그 과정에서 '더 나은 것-예를 들어 언어 모델'을 발견해 버려서 "갑자기 뒤집어졌다"고 말합니다. 힌턴은 특히 ‘퓨샷 러닝(few-shot learning)’를 예로 들었습니다. 구글 번역에 사용되는 모델인데요. 퓨샷 러닝이란 언어모델의 신경망을 사전 훈련하여 소량의 샘플만으로도 새로운 작업을 수행하도록 하는 학습 방법을 의미합니다. 그는 이 방법이 일련의 논리적 단어의 모음을 하나의 전체적으로 말이 되는 언어로 엮을 수 있는 기능이며, 과거에 훈련되어 있지도 않았음에도 이렇게 기계가 해내는 것을 의미한다고 설명했어요. 힌턴은 “생물학에서 항상 사용되는 하위 목표가 있다. 바로 ‘더 많은 에너지 확보하기’다. 따라서 가장 먼저 일어날 수 있는 일은 로봇이 ‘더 많은 전력을 얻어야 해. 모든 전기를 내 칩으로 돌리겠어’라고 생각하는 것이다. 또 다른 하위 목표는 자신의 복제본을 더 많이 만드는 것이다. 과연 이런 것이 좋은 생각일까?”라고 문제를 제기합니다. 사실 아무도 모르는 일입니다. 그 모른다는 얘기 중에는 인류가 심각한 위협에 직면했을 때 사람들이 집단적으로 행동하지 못한다는 주장도 포함됩니다. 힌턴은 그렇게 믿습니다. 그랬을 때 AI가 고용 시장을 암울하게 만들고, 불평등을 고착시키며, 성차별과 인종차별을 악화시키는 등 실질적인 해악을 끼칠 위험이 있는 것도 사실이므로 두려움이 생기기도 합니다. 하지만 여전히 개인적으로는 대형 언어모델에서 로봇의 지배까지 생각을 도약시키기는 무리일 수 있다고 생각합니다. - 힌턴 외의 딥러닝의 대가들 메타의 수석 AI 과학자 얀 르쿤은 힌턴의 주장에는 동의하지만 두려움에는 동의하지 않습니다. 르쿤은 “인간이 현명하게 수행하는 분야에서조차 기계가 인간보다 더 똑똑해질 것이라는 데에는 의심의 여지가 없다”고 말하며 “이는 ‘가능성’의 문제가 아니라 ‘언제’, ‘어떻게’의 문제이다”라고 합니다. 캐나다 몬트리올 대학교 교수이자 몬트리올 학습 알고리즘 연구소(Montreal Institute for Learning Algorithms)의 과학 책임자인 요슈아 벤지오(Yoshua Bengio)의 생각은 좀 더 불가지론적(agnostic)입니다. 벤지오는 “이러한 두려움을 폄하하려는 사람들의 주장을 들었지만, 힌턴이 생각하는 정도의 두려운 일은 없다고 확신할 만한 근거는 아직 보지 못했다”고 말했습니다. 다만 그는 “과도한 두려움은 우리를 마비시킬 수 있다. 따라서 논의를 합리적인 수준으로 유지하도록 노력해야 한다”라며 두려움은 우리를 행동으로 옮기게 할 때만 유용하다고 주장합니다.