LLM 서비스의 완성도를 90%에서 100%으로 올려주는 사소한 기능들

LLM 서비스들을 구축하면서 이제는 다음 두 기능들이 없는 아키는 상상을 할 수 없게 되었습니다.

사소하더라도 필요한 기능들이니 한 번 살펴보세요 :)


  1. Semantic router는 필수 중의 필수

  • 사용자 인풋을 semantic하게 "이해"하고 적절한 모듈로 토스

  • https://github.com/aurelio-labs/semantic-router


  1. Pydantic

  • LLM output이 JSON형태를 지원한다 하더라도, 키 값이나 value type까지 강제하기 힘듬

  • Pydantic은 list와 같이 다양한 output format뿐만 아니라 value type까지 지정 가능하다

  • https://www.youtube.com/watch?v=yj-wSRJwrrc


그 이외에도 VectorDB, indexing 방법들 등을 활용하여 실제 작동하는 LLM 기반 검색 엔진 & 유사 상품 추천 시스템 구축을 주제로 강의를 제작하였습니다!


VectorDB를 구축하는데 필요한 parsing, chunking, indexing을 다루고, 사용자의 인풋과 vectorDB간의 상호작용을 담당하는 querying, retrieval, post-processing, response generation까지 폭넓게 커버합니다 :)


LLM 아키텍쳐를 한 눈에 볼 수 있는 cheat sheet도 제공해드리니 LLM 서비스 구축를 위한 스킬업이 필요하신 분들께 도움이 되었으면 좋겠습니다.


더불어 많은 분들이 조금 더 저렴한 금액으로 학습하시길 희망하여, 강사 혜택으로 5만원 할인쿠폰 코드를 첨부합니다


5만원 할인 쿠폰코드: PRDTEA240318_DB (사용기간: ~ 24.03.31 23:59)


강의 : https://bit.ly/48Yt7u5


다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2024년 3월 20일 오후 3:21

댓글 0