LLM 서비스들을 구축하면서 이제는 다음 두 기능들이 없는 아키는 상상을 할 수 없게 되었습니다.
사소하더라도 필요한 기능들이니 한 번 살펴보세요 :)
Semantic router는 필수 중의 필수
사용자 인풋을 semantic하게 "이해"하고 적절한 모듈로 토스
https://github.com/aurelio-labs/semantic-router
Pydantic
LLM output이 JSON형태를 지원한다 하더라도, 키 값이나 value type까지 강제하기 힘듬
Pydantic은 list와 같이 다양한 output format뿐만 아니라 value type까지 지정 가능하다
https://www.youtube.com/watch?v=yj-wSRJwrrc
그 이외에도 VectorDB, indexing 방법들 등을 활용하여 실제 작동하는 LLM 기반 검색 엔진 & 유사 상품 추천 시스템 구축을 주제로 강의를 제작하였습니다!
VectorDB를 구축하는데 필요한 parsing, chunking, indexing을 다루고, 사용자의 인풋과 vectorDB간의 상호작용을 담당하는 querying, retrieval, post-processing, response generation까지 폭넓게 커버합니다 :)
LLM 아키텍쳐를 한 눈에 볼 수 있는 cheat sheet도 제공해드리니 LLM 서비스 구축를 위한 스킬업이 필요하신 분들께 도움이 되었으면 좋겠습니다.
더불어 많은 분들이 조금 더 저렴한 금액으로 학습하시길 희망하여, 강사 혜택으로 5만원 할인쿠폰 코드를 첨부합니다
5만원 할인 쿠폰코드: PRDTEA240318_DB (사용기간: ~ 24.03.31 23:59)
강의 : https://bit.ly/48Yt7u5
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 3월 20일 오후 3:21