한국어 Reranker를 활용한 검색 증강 생성(RAG) 성능 올리기 | Amazon Web Services
Amazon Web Services
한국어 Reranker를 활용한 검색 증강 생성(RAG) 성능 올리기
검색 증강 생성 (Retrieval-Augmented Generation, RAG)은 효율적인 데이터 검색과 대규모 언어 모델 (Large Language Model, LLM) 을 결합하여 정확하고 관련성 높은 응답을 생성하는 AI 기술로 많이 활용되고 있습니다.
특히, RAG 방식은 최신 정보를 반영하여 답변의 부정확성이나 환각을 줄인다는 면에서 많은 사용자들의 관심을 받고 있습니다. 그러나 RAG 시스템이 보다 복잡한 실제 애플리케이션에 적용 됨에 따라, 시멘틱 벡터 검색 및 답변 생성과 같은 기본적인 RAG 파이프라인 구성 만으로는 프로덕션 수준의 요구 사항을 만족 시키기에 어려울 수도 있습니다.
RAG를 개선하기 위한 고급 방법 중 하나는 순위 재정렬 (Reranking) 입니다. 간단히 말해, Reranking은 RAG가 생성한 후보 문서들에 대해 질문에 대한 관련성 및 일관성을 판단하여 문서의 우선 순위를 재 정렬 하는 것입니다. 즉, 질문과 관련성 있는 문서들을 컨텍스트의 상위권에 위치 시킴으로써, 답변의 정확도를 올리는 방법입니다.
https://aws.amazon.com/ko/blogs/tech/korean-reranker-rag/
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 2월 23일 오전 2:28
댓글 0
함께 읽은 게시물
업계에 따르면 팀프레시는 이달 둘째 주 중 700억원 규모의 투자금 납입을 확정했다. 2018년 창업한 팀프레시는 지난해 초 시리즈E 투자 라운드를 진행했지만 행정절차상 문제로 투자금 납입이 지연되면서 운영자금 확보에 어려움을 겪었다. 이에 따라 결국 4월1일부터 새벽배송과 풀필먼트 서비스가 순차적으로 중단된 바 있다.
... 더 보기![[단독] 팀프레시, 700억 투자금 납입 확정…새벽배송 서비스 재개 임박](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
일리미스테라퓨틱스는 2년 만에 진행하는 시리즈 B 라운드에서 900억원의 프리밸류를 책정한 것으로 파악된다. 직전 라운드에서 인정받은 450억원의 프리밸류 대비 두 배로 기업가치가 올랐다. 높은 가격에도 투자하겠다는 VC가 줄을 섰다. 당초 300억원을 조달할 계획이었지만 열기가 뜨거워 600억원까지 룸(room)을 확장했다. 현재 예상투자금은 500억원을 초과한 것으로 알려졌다. 메이플투자파트너스, 에스앤에스인베스트먼트, LB인베스트먼트 등이 신규투자자로 나섰고 멀티클로징으로 진행한다.
... 더 보기< 왜 똑똑한 사람들이 때로 끔찍한 결정을 할까? >
1. 나는 파스칼이 사상의 역사에 길이 남을 만큼 지극히 정확한 말을 했다고 생각합니다.
류중희 대표는 퓨처플레이 창업 13년 만에 대표직에서 사임했다. 퓨처플레이는 스타트업 투자 및 육성을 전문으로 하는 VC이자 액셀러레이터(AC)로, 딥테크를 비롯해 라이프스타일, 콘텐츠 등 다양한 분야의 혁신 스타트업에 투자하고 있다. 리얼월드는 한일 제조업의 강점을 바탕으로, 산업 현장에 바로 적용 가능한 RFM을 개발 중이다.
... 더 보기C라운지 : IR심사 7년 하고 알게 된 사업계획서 완성 노하우
지
... 더 보기
