MIDAS IT의 DynamoDB ZeroETL과 Bedrock을 이용한 OpenSearch 자동 임베딩 고객 사례 | Amazon Web Services
Amazon Web Services
마이다스아이티(MIDAS IT)는 건설 분야 CAE(Computer-Aided Engineering) 소프트웨어 세계 최대기업입니다. 전문 기술 지원 요청이 글로벌하게 들어오며, 이를 기술 지원 전담 인력이 해결하는데 최소 몇 시간에서 최대 3일 정도가 소요됩니다. 마이다스아이티는 고객에게 더 빠르고 정확한 정보를 전달하고 고객 가치를 높이기 위해 LLM을 활용 전문 기술 지원 챗봇 서비스를 개발해왔습니다.
그러나 기존 LLM 아키텍처에서는 1/ 제품 지식 확장에 따른 문서 관리, 2/ Pinecone의 Hybrid Search 한글 Keyword 검색이 기능 이슈, 3/ 데이터 정합성 이슈 등이 있었습니다.
이를 해결하기 위해 AWS OpenSearch를 선택하여 Hybrid Search와 한글 분석기 "Nori" 지원으로 효율적인 검색이 가능해졌고, DynamoDB의 zero-ETL 통합 기능을 활용하여 새로운 LLM 챗봇 시스템을 구축하였습니다. 시간과 인력이 별로 없었던 상황에서 DynamoDB의 데이터를 사용자 지정 코드나 인프라 없이 데이터를 자동으로 OpenSearch로 복제 및 변환하여 데이터를 검색할 수 있는 기능을 구현할수 있었습니다.
이 모든 과정과 기술적인 가이드를 확인하시고자 하시면 아래 블로그를 참조하세요!
https://aws.amazon.com/ko/blogs/tech/zeroetlopensearch/
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 10월 27일 오전 11:42