◼︎ AI = 딥러닝? 최근 AI는 거의 딥러닝 또는 머신러닝과 동음이의어 수준으로 사용되고 있는 것 같습니다. 그러나 많은 사람들이 지적하듯, GPT-3 는 자신이 무슨 말을 하고 있는지 모릅니다. 마치 알파고가 자신이 바둑을 두는 것을 모르는 것과 마찬가지로요. 이런 논쟁은 흔히 두가지 철학의 대결로 귀결되곤 합니다. "기계가 내놓은 답변에 대해 왜 그런 결과가 나왔는지 설명할 수 없다면, 그 기계는 안다고 말할 수 없다"라는 주장과 "그 기계가 정말 알고 있는지와 무관하게 사람이 보기에 아는 것처럼 보이면 그것으로 충분하다"라는 주장입니다. 즉, '지능이란 무엇인가'에 대한 철학적 논쟁에 가깝습니다. 딥러닝 방식에 대해 매우 비판적인 시각을 가진 과학자 중에 Gary Marcus 가 있습니다. 그는 기계학습은 robust 한 AI가 아니라고 강변합니다. 학습에 의존적인 방식은 데이터 편향에서 자유롭지 못하며 이를 바로잡기 어렵기 때문입니다. 대표적인 예로 차별성 대화를 내뱉다 논란이 된 마이크로소프트 테이가 있죠. 이런 사건의 연장선에서 만일 어떤 기계가 인류에게 해가 되는 추론결과를 내었을 때 사람이 개입하기 어려운 특성을 갖고 있습니다. 이런 점에 대해 게리 마커스는 classical (symbolic) AI와의 결합, 지식 및 인지적 모델과의 결합을 주장합니다. 즉, 인간이 명시적으로 추론 과정에 관여할 수 있는 방식이어야 한다는 것이죠. 반면 딥러닝 지지자들은 이런 하이브리드 방식은 불가능하다고 주장하다는 의견이 대세인 것 같습니다. 이 논쟁의 끝은 결국, 이런 인지구조를 어느 학파에서 먼저 실현해내는지의 문제에 달려 있는 것 같습니다. 게리 마커스는 하이브리드 AI 를 주장하고 있는데 반해, 딥러닝 지지자의 대표주자인 요수아 벤지오 교수는 System 2 라는 개념으로 딥러닝이 인지구조를 학습할 수 있다고 주장하고 있죠. 여러분은 어느 쪽에 배팅하시겠습니까?ㅎㅎ