[Python] Llama3를 파인튜닝을 통해 나만의 데이터로 학습 및 Huggingface에 적재해보자. - 미완성의신
unfinishedgod.netlify.app
이번에는 LLM의 꽃이라고 볼 수 있는 파인튜닝에 대한 글.
Llama3를 파인튜닝 하면서 유튜버 HK CODE님의 영상이 많은 참고가 되었다.
그리고 teddylee, beomi님의 llama3 한글 튜닝 모델도 아주 많은 도움이 되었다.
작년에 랭체인을 입문하고 RAG에 관심을 갖게 되면서 판례데이터에 대해 파인튜닝을 진행 해보려고 한다.
당시에는 그렇게 많은 법률데이터를 RAG를 통해 결과를 내보려고 했으나 실패했었는데, 이제는 곧 적용할 수 있지 않을까...?
https://unfinishedgod.netlify.app/2024/05/24/python/
더 많은 콘텐츠를 보고 싶다면?
이미 회원이신가요?
2024년 5월 25일 오후 3:02
나는 종종 생산성을 올리기 위한 각종 개발 툴은 물론, 라이브러리나 소스 코드를 구매하기도 한다.
소스 코드의 경우 실제로 써먹지 못하는 경우도 상당수 되긴 하지만, 그래도 구성이나 코드를 보면서 배우는게 있기 때문에 학습 비용이라고 생각하고 가끔 구매하는 편이다.
앞으로의 코테는 설명을 주고 코드를 짜라고 하는 것이 아니라, 코드를 주고 설명을 하라는 것이 유효할 것이다.
내 경우는 이미 그렇게 하고 있는데, 요구사항을 주고 개발을 요청. 결과물이 요구사항대로 개발이 잘 되었다면, 다음 단계로 제출한 코드를 리뷰하며 설명을 요청한다.