[ML/DL] RAG 성능을 높이기 위한 10가지 방법
velog.io
이제 각 LLM 모델 서빙 서비스들도 너무 좋아지고, 프레임워크들도 엄청난 속도로 성장하며 RAG 자체를 구축하는데는 그리 큰 힘이 들지 않는 것 같습니다. 심지어 성능도 꽤나 좋게 나오는데요.
하지만 정말 서비스화를 하기 위해 넘어야 하는 그 기준 살짝! 그걸 올리기 참 어렵더라구요. 조금 더 나은 성능을 찾기 위해 서칭하다가 잘 정리된 글을 발견하여 공유해봅니다.
1. Clean your data
2. Explore different index types
3. Experiment with your chunking approach
4. Play around with your base prompt
5. Try meta-data filtering
6. Use query routing
7. Look into reranking
8. Consider query transformations
9. Fine-tune your embedding model
10. Start using LLM dev tools
https://velog.io/@wkshin89/MLDL-RAG-%EC%84%B1%EB%8A%A5%EC%9D%84-%EB%86%92%EC%9D%B4%EA%B8%B0-%EC%9C%84%ED%95%9C-10%EA%B0%80%EC%A7%80-%EB%B0%A9%EB%B2%95
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 7월 19일 오전 12:52