RAG에서 Retrieve된 Document의 위치 중요합니다.

오늘 Arxiv에 올라온 논문을 읽다가 얻은 인사이트를 공유해봅니다. 저는 RAG를 위한 프롬프트를 다음과 같은 순서로 작성하는데요. ``` ===Instruction=== {Instruction} ===Relevant Document=== {Retrieved Document} ===User Input=== {User Input} ``` 이때 Retrieved Document는 Vector Search해서 Score가 높은 순으로 정렬해서 넣어주게 됩니다. 그러면 가장 User Input과 관련되어 있는 document가 가장 멀리 떨어져 있게 되는데요. 그런데!! 최대한 User Input과 연관이 되어있는 document일수록 User Input과 가까이 있는게 좋다고 합니다. 저와 같은 구조로 프롬프팅을 하시는 분들은 document 정렬을 score 낮은 순으로 해보는건 어떨까요? 논문 링크: https://arxiv.org/abs/2401.14887