최근에 LLM 파인튜닝을 하면서 여러 테스트를 진행 해보고 있다. 그동안 테스트만 해보느라 정리가 안되고 있다가 이제서야 정리겸 블로그 올리는중. 조금 더 정리도 해야 하고 앞으로 해야할것이 있는데.

• 파인튜닝

• 파인튜닝 모델 huggingface 에 올리기

• 파인튜닝된 모델 gguf로 변환해서 올리기

• gguf 모델을 로컬 ollama 에서 사용하기

• ollama모델, langchain 사용하여 rag 파이프라인 구축 하기

• 로컬에서 ollama 모델 최적화 하기

  • 임베딩 모델 최적화

  • vector DB 적재하고 불러오기 (알아보는중)

  • 파인튜닝 모델 최적화

https://unfinishedgod.netlify.app/2024/05/19/python-huggingface/