커리어리 친구들, 지난 주 AWSKR USER GROUP 의 데이터 모임 에서 발표한 자료를 공유해 드립니다. 주제는 "AWS Sagemaker를 이용한 MLOps 와 LLMOps" 로 2시간 정도 발표한 자료입니다. 그날 많은 분들이 질문을 주셔서 그것을 반영해서 좀더 추가적인 자료를 넣어서 작성했습니다. 🧚‍♂️ 제 1 부에서는 다음과 같은 내용으로 발표했습니다. • MLOps (AI/ML lifecycle) 및 AI/ML Stack • AWS SageMaker 2022.12 주요 기능 • SageMaker Domain 및 User Profile • SageMaker Projects – Pipeline • SageMaker Notebooks • SageMaker Studio • SageMaker Processing (전처리) • SageMaker Autopilot (AutoML) • SageMaker Training Jobs • SageMaker Experiments 및 Trials • SageMaker Serving and Deployment • SageMaker Endpoints • SageMaker Debugger • SageMaker Monitor • 실습: SageMaker Notebooks 에서 ML 모델을 ECR 배포 및 엔드포인트 🧚‍♂️ 제 2 부에서는 다음과 같은 내용으로 발표했습니다. • 생성 AI과 초거대 언어 모델(LLM) • 생성 AI 생태계 • 생성 AI 사용사례와 분야별 랜드스케이프 • 초거대 언어 모델(LLM) 진영 • 허깅 페이스 오픈 LLM 리더보드 • MS/OpenAI 공동 전략, 구글 BARD(PaLM2) 과 AWS 생성 AI 전략 • LLM 기술 구조 – LLM 정의와 LLM 파운데이션 모델 • 비공개 소스 GPT3 vs. 공개 소스 메타 LLaMA • 오픈 소스 프레임워크: Auto-GPT 와 LangChain • 국내 LLM 히스토리 – 한글 데이터셋 • 생성 AI 애플리케이션 방법론 • 초거대 언어 모델(LLM) 생명주기 • 초거대 언어 모델(LLM) 아키텍처 • LLM 프롬프트 및 태스크 • 추론을 위한 생성형 환경 설정 파라미터 • LLM 프롬프트 및 태스크 • LLMOps 와 LLM 모델 개발 조언 그리고 demo_code 폴더에 관련 예제 소스를 수록했고, 소스에 주석을 달아 놓았습니다. https://www.github.com/synabreu/awskrusergroup