🧬 ChatGPT의 원리, 쉽게 알려드립니다!

저는 새롭거나 신기한게 나오면 그 원리가 무엇일까를 많이 궁금해합니다. 요즘 가장 핫한 ChatGPT 도 무슨 원리일까 궁금했었는데요, 이에 대해 쉽게 알려주는 유튜브 영상이 있어 공유드립니다. 영상에서 나오는 내용중에 제가 이해한것을 정리해보면 다음과 같습니다. 📌 ChatGPT 란 무엇인가? 언어모델의 한 종류로 언어 모델의 기본적인 기능은 단어를 자동완성 하는것이다. 📌 언어모델에서 모델이란 무엇인가? 모델은 함수이자 프로그램이라고 생각하면 됩니다.(그래서 언어모델을 다른말로 언어 처리 프로그램이라고 부를 수 있습니다.) 우리는 세상에 있는 어떤 규칙을 발견하면 이를 함수나 프로그램으로 만들 수 있습니다. 예를 들어 뉴턴의 법칙인 "힘은 무게 X 가속도" 라는 규칙을 발견했으면 F=ma 라는 함수 혹은 무게와 가속도로 힘이 얼마인지를 알수있는 프로그램을 만들수 있는것 처럼요. 이러한 함수 혹은 프로그램을 모델이라고 생각하면 됩니다. 📌 모델은 어떻게 만들어지는가? 기본적으로 딥러닝을 통해서 만들어집니다. 모델은 프로그램이라고 앞서 설명했는데요, 일반적인 프로그램은 사람이 직접 논리와 절차를 찾아서 코딩을 통해 프로그램을 만듭니다. 하지만 이와 다르게 모델의 경우 딥러닝을 통한 학습으로 컴퓨터가 논리와 절차를 찾아서 만든 프로그램이라고 생각하시면 됩니다. (영상에서는 딥러닝으로 프로그램을 만든다기보단 찾는다라고 표현을 합니다.) 컴퓨터는 숫자(0과 1)로만 인식을 하기 때문에 언어모델의 경우 언어를 특정숫자(예: unicode)로 변환하여 논리와 절차를 탐색하게 됩니다. 영상을 보면서 한가지 흥미로웠던 내용은 모델의 중심이 되는 학습인 딥러닝은 암기를 시키는건데 암기를 시켰더니 이해를 하더라 라는 말이 많은 생각을 갖게 하네요. 어쩌면 사람도 무수히 많은 암기를 통해 자신들만의 모델을 만들고 이를 통해 이해하며 살아가고 있는게 아닐까요. 제가 정리한 내용보다 좀더 상세한 내용들이 영상에 자세히 나와있으니 관심이 있으신 분들께서는 한번 보시면 좋겠습니다.