RAG 성능을 높이기 위한 10가지 방법

이제 각 LLM 모델 서빙 서비스들도 너무 좋아지고, 프레임워크들도 엄청난 속도로 성장하며 RAG 자체를 구축하는데는 그리 큰 힘이 들지 않는 것 같습니다. 심지어 성능도 꽤나 좋게 나오는데요.

하지만 정말 서비스화를 하기 위해 넘어야 하는 그 기준 살짝! 그걸 올리기 참 어렵더라구요. 조금 더 나은 성능을 찾기 위해 서칭하다가 잘 정리된 글을 발견하여 공유해봅니다.

1. Clean your data

2. Explore different index types

3. Experiment with your chunking approach

4. Play around with your base prompt

5. Try meta-data filtering

6. Use query routing

7. Look into reranking

8. Consider query transformations

9. Fine-tune your embedding model

10. Start using LLM dev tools

https://velog.io/@wkshin89/MLDL-RAG-%EC%84%B1%EB%8A%A5%EC%9D%84-%EB%86%92%EC%9D%B4%EA%B8%B0-%EC%9C%84%ED%95%9C-10%EA%B0%80%EC%A7%80-%EB%B0%A9%EB%B2%95