생성형 AI, ChatGPT와 Project Wisdom

ChatGPT 덕분에(때문에?) 생성형 AI에 대한 관심이 높아졌습니다. 최근 저희 회사 내부에서도 생성형 AI에 대한 발표 요청을 하셔서, ChatGPT와 생성형 AI에 대한 기초적인 발표를 진행했습니다. 관련 내용 공유합니다. 1️⃣ ChatGPT? - GPT-3.5를 기반으로 동작하는 챗봇 - GPT(Generative Pre-trained Transformer) > 딥러닝 기반 자연어 처리 모델(NLP) > GPT(Generative Pre-trained Transformer): ‘미리 학습된 인공신경망(ANN)'으로 문장 생성에 특화된 대표적인 생성형 AI(Generative AI) ❗️자연어 처리 - 통계와 머신러닝 알고리즘을 사용해서 텍스트와 데이터를 처리하고 생성하는 인공지능의 한 분야 - 감정 분석, 기계 번역 및 텍스트 생성/분류/요약 등과 같은 작업들이 포함 - 텍스트 분석과 의미 추출을 바탕으로 대규모 텍스트 corpus를 학습하여 단어와 단어 사이의 패턴과 관계를 학습 - 자연어 분석 4단계: 형태소 분석(morphological analysis), 통사 분석(syntactic analysis), 의미 분석(semantic analysis), 화용(話用) 분석(pragmatic analysis) - 1990년대 이후에는 대량의 corpus 데이터를 활용하는 기계 학습 기반 및 통계적 자연어 처리 기법이 주류가 되었으며, 최근에는 심층 기계 학습(deep learning) 기술이 기계 번역 및 자연어 생성 등에 적용되고 있음 ❗️생성형 AI(Generative AI) - 인공지능이 기존 데이터나 모델을 기반으로 새롭고 독창적인 콘텐츠를 만드는 AI: 텍스트, 이미지, 오디오, 코드, 영상, 시뮬레이션 등 - 단순히 인지(판별)하는 것을 넘어 입력 데이터의 패턴과 관계를 학습한 다음 해당 정보를 기반으로 새롭고 유사한 예제를 생성 > GAN(Generative Adversarial Network): 실제 데이터와 유사하게 새로운 것을 만들어 내는 생성자와 만들어진 것을 평가하는 판별자가 끊임없이 서로 대립하며 성능을 개선해 나가는 방식 - 텍스트 생성 모델은 대규모 텍스트 코퍼스를 학습한 다음 해당 지식을 사용하여 새롭고 일관된 문장이나 스토리를 생성 ❗️트랜스포머(Transformer): NLP에서 컴퓨터 비전까지 영역 확장 - 트랜스포머는 언어처리의 병렬화를 통해 계산 효율성 향상 등 그간 순차적으로 단어를 학습하는 알고리즘의 한계를 극복 > 트랜스포머(구글, 2017)가 등장하기 이전에는 데이터를 순차적으로(단어의 순서) 처리하는 순환신경망(RNN) 방식을 활용 > 트랜스포머의 병렬화로 인해 대규모 데이터셋을 학습할 수 있게 되었음 - 트랜스포머 공개 이후 글로벌 테크 기업들은 모두 트랜스포머 기반의 언어모델을 앞다투어 연구하고 공개하기 시작 > 언어모델의 표준처럼 불리는 구글의 BERT, 오픈AI의 GPT 등은 트랜스포머 기반으로 개발된 언어모델 > 현재는 대부분의 언어모델이 BERT, GPT의 사전학습모델을 활용하여, 각 과제(Task)를 수행하는 모델을 생산하는 형태 2️⃣ GPT 역사: https://zdnet.co.kr/view/?no=20230314155418 3️⃣ Project Wisdom - IT 자동화를 위한 기술 격차를 해소하고 자동화 코드 개발자의 생산성 향상 및 오류 감소 지원를 위한 생성형AI 위즈덤을 개발하는 오픈소스 프로젝트입니다. - Red Hat과 IBM 리서치에서 A100 Nvidia GPU를 1,000대를 기반으로 개발하고 있습니다. - 플레이북 형태의 자동화 콘텐츠의 생성, 검색, 최적화 및 설명을 중심으로 개발이 진행되고 있습니다. ChatGPT가 코드를 잘 작성하는 이유는 GitHub의 데이터들을 학습했기 때문일 것입니다. Project Wisdom은 자동화 최고의 지성이라 할 수 있는 Ansible Galaxy 데이터를 학습하였기 때문에, 자동화 분야에 있어 최고의 성능을 보일 것으로 예측됩니다. ChatGPT의 플레이북 작성 능력 및 한계는 아래 링크를 통해 확인하실 수 있습니다. https://www.ansible.com/blog/ansible-wisdom-and-chatgpt-putting-it-to-the-test https://mmjazz.wordpress.com/2023/04/13/ansible-chatgpt-project-wisdom/ 원본 기사 링크는 아래와 같습니다. 감사합니다. https://raonsaeron.com/2023/04/generative-ai-chatgpt-project-wisdom/