의료진을 위한 정확한 AI 비서 구현을 위한 여정..!

인티그레이션은 치과 의료 플랫폼 ‘데니어(DENEER)‘를 운영하는 메디테크 기업입니다. 데니어는 전국 치과의사와 치대생의 53%가 가입한 국내 최대 치과 전문 커뮤니티 ‘모어덴(moreDEN)‘을 통해 의료진 간 네트워킹, 구인/구직, 커머스, 온라인 교육 등 종합적인 디지털 헬스케어 서비스를 제공하고 있습니다. 모어덴 플랫폼에는 현직 치과의사들이 공유한 3만여 개의 임상 Q&A 데이터가 축적되어 있습니다. 이러한 양질의 데이터를 보다 효과적으로 활용하고, 증가하는 의료 정보 문의에 대한 24시간 응대 체계를 구축하여, 의료진의 반복적인 기초 문의 응대 업무 부담을 해소하기 위해 인티그레이션은 AWS 기반의 AI 챗봇 서비스 ‘FRIDAY’를 개발했습니다. 마블 코믹스의 아이언맨에 등장하는 AI 비서 ‘자비스’의 후속 버전에서 착안한 FRIDAY는 의료진들에게 실시간으로 전문적인 의료 정보를 제공하는 AI 비서 역할을 수행합니다. 의료분야이다 보니 RAG 시스템은 효과적인 정보 검색과 정확한 답변 생성이라는 두 가지 핵심 요소를 중심으로 설계되었습니다. 1. 데이터 전처리: 계층적 청킹(hierarchical chunking) 기법을 사용하여 데이터를 분할했습니다. 단순 질의 응답 뿐만 아니라 의료진들이 함께 평가한 상위 우수 답변이 데이터에 포함되도록 전처리 과정을 거쳤습니다. 2. 검색 최적화: 검색할 때에는 작은 크기의 청크를 사용하여 정확한 검색 결과를 얻도록 하였고, 답변을 생성할 때에는 보다 큰 크기의 청크를 사용하여 풍부한 맥락 정보를 제공하였습니다. 3. 프롬프트 전략: 응답의 정확성을 높이기 위하여 적절한 역할을 부여하고, 지시 기반의 프롬프팅 기법과 추가 맥락을 설정함으로써 보다 정확하면서도 상황에 맞는 답변을 유도하였습니다. 4. 질의 재작성: 사용자의 질문을 분석하여 핵심 키워드를 추출하고, 이를 바탕으로 사용자의 의도를 반영한 검색 질의를 작성하였습니다. 이를 통해 Q&A 데이터 뿐만 아니라 관련 논문도 찾아보게 함으로써 답변의 품질을 높였습니다. 5. 세션 비유지 전략: 각 질문을 독립적으로 처리하여 시스템의 복잡도를 낮추고 확장성을 높였습니다. 이를 통해 항상 최신 정보를 바탕으로 일관성 있는 답변을 제공할 수 있게 되었습니다. https://aws.amazon.com/ko/blogs/tech/medical-chatbot-built-with-amazon-bedrock/