LINE 오픈챗 서버가 100배 급증하는 트래픽을 다루는 방법

LINE 오픈챗은 사용자들이 다양한 토픽에 대해 실시간으로 대화를 나눌 수 있는 플랫폼입니다. 오픈챗 서버는 하루에 약 100억 개의 API 요청을 처리하며, 활발한 오픈챗에서는 1분에 20만 개의 API 요청이 발생할 수 있습니다. 이러한 오픈챗은 트래픽이 급증하여 "핫 챗"이라고 불립니다. 핫 챗에서 트래픽이 급증하는 원인은 오픈챗 서버의 이벤트 기반 아키텍처 때문입니다. 이벤트가 생성되면 참여자들에게 푸시 알림을 보내고, 사용자들은 이벤트를 페치(fetch)하는 API를 호출하여 새로운 메시지를 받아갑니다. 핫 챗에서는 이런 페치 이벤트 API 요청이 급증하여 스토리지 부하가 발생할 수 있습니다. 핫 챗의 트래픽을 처리하기 위해 샤드를 추가하거나 샤드의 복제본 수를 늘리는 방법을 고려할 수 있습니다. 이를 통해 하나의 샤드로 집중되는 부하를 줄일 수 있습니다.