Community

Unsloth 를 활용한 llama3 "파인튜닝"

안녕하세요! 오늘은 Unsloth 를 활용한 llama3 "파인튜닝" 주제로 영상을 업로드 하였습니다. 링크: https://youtu.be/oZY0D8N6bC8 [주요내용] 1. 문서기반 QA 데이터셋 생성(GPT-4) 2. QA 데이터셋을 jsonl 혹은 HuggingFace Hub 업로드 3. Unsloth 를 활용하여 LoRA 파인튜닝 4. 파인튜닝된 모델을 로컬 저장/HuggingFace Repo 업로드 5. GGUF 양자화 (Q8) 모델 저장 6. LM Studio 로 GGUF 모델 로드 후 추론 감사합니다. 즐거운 저녁 되세요! #파인튜닝 #unsloth #langchain

알림

알림이 없습니다