RAG 성능을 높이기 위한 10가지 방법

이제 각 LLM 모델 서빙 서비스들도 너무 좋아지고, 프레임워크들도 엄청난 속도로 성장하며 RAG 자체를 구축하는데는 그리 큰 힘이 들지 않는 것 같습니다. 심지어 성능도 꽤나 좋게 나오는데요.

하지만 정말 서비스화를 하기 위해 넘어야 하는 그 기준 살짝! 그걸 올리기 참 어렵더라구요. 조금 더 나은 성능을 찾기 위해 서칭하다가 잘 정리된 글을 발견하여 공유해봅니다.

1. Clean your data

2. Explore different index types

3. Experiment with your chunking approach

4. Play around with your base prompt

5. Try meta-data filtering

6. Use query routing

7. Look into reranking

8. Consider query transformations

9. Fine-tune your embedding model

10. Start using LLM dev tools


https://velog.io/@wkshin89/MLDL-RAG-%EC%84%B1%EB%8A%A5%EC%9D%84-%EB%86%92%EC%9D%B4%EA%B8%B0-%EC%9C%84%ED%95%9C-10%EA%B0%80%EC%A7%80-%EB%B0%A9%EB%B2%95

[ML/DL] RAG 성능을 높이기 위한 10가지 방법

velog.io

[ML/DL] RAG 성능을 높이기 위한 10가지 방법

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2024년 7월 19일 오전 12:52

댓글 0

    함께 읽은 게시물

    리트코드 261. Graph Valid Tree

    ... 더 보기

    Graph Valid Tree | 알고달레

    알고달레

    Graph Valid Tree | 알고달레

     • 

    저장 4 • 조회 2,304


    Electron에 대해 사람들이 잘못 알고 있는 것들

    ... 더 보기

    (번역) Electron에 대해 사람들이 잘못 알고 있는 것들

    velog.io

    (번역) Electron에 대해 사람들이 잘못 알고 있는 것들

     • 

    저장 24 • 조회 3,364


    router.refresh 와 window.location.reload?

    r

    ... 더 보기

    - YouTube

    youtu.be

     - YouTube

     • 

    저장 17 • 조회 1,906


    결제 서비스 기획해야 하는 분들 있으실까요?

    ... 더 보기

    결제 서비스, 이건 알아야 해요

    팁스터

    결제 서비스, 이건 알아야 해요

    👋 굿바이 Styled Components 🥹

    S

    ... 더 보기

    Thank you - styled-components

    opencollective.com

    Thank you - styled-components

     • 

    댓글 1 • 저장 35 • 조회 3,086


    Crash 제대로 감지하고 다루기

    A

    ... 더 보기

    Crash 감지하고 다루기

    iOYES

    Crash 감지하고 다루기