비동기 api의 tps관련해서

Question

안녕하세요
현재 spring 프로젝트에서 동기식api가 tps가 낮아서 개선하고자 스케쥴러랑 mq를 사용해서 비동기식으로 변경했습니다.

이것과 관련해서 궁금한점이 내부적으로 아직 처리가 완료되지않았는데, 비동기처리라서 응답이 먼저 가기때문에 tps가 높아졌다는게 단순 눈속임일 수도 있다는 생각이 들어서요. 그래서 처리가 완료되면 sse알람도 구현했는데, 비동기처리를 했다는 것이 tps를 향상 시켰다고 말할 수 있는건지 궁금합니다.

이양일 · Accepted Answer

안녕하세요!

동기식으로 했을 때 처리가 오래 걸리는 작업이면 말씀하신것처럼 비동기로 처리하는게 사용자가 체감하는 속도나 비용면에서 더욱 효율적일 수 있습니다.

다만, 비동기로 처리를 하게 되면 데이터에 대한 상태를 관리할 수 있어야 하고 
비동기 처리를 위한 아키텍쳐와 이에 대한 모니터링을 추가로 고민해야하기 때문에 이러한 trade off 를 잘 고민하여 진행해야 합니다.

비동기 처리를 통해 요청에 대한 tps 가 증가하고,
사용자가 서비스 기능을 사용함에 있어 불편함을 느끼지 않는다면 충분히 좋은 방향으로 개선했다라고 생각할 수 있을것 같습니다.

하지만 tps 는 API 요청 자체에 대한 속도이고,
비동기 방식으로 변경하면서 실제 사용자가 처리 속도가 오래 걸리는걸 체감한다면 이는 잘못된 개선방향이다 라고 말씀드리고 싶습니다.

그래서 실제 비동기 방식으로 처리 될때의 성능도 추가로 모니터링하여 이 부분에 대해 문제가 없는지 추가로 검토를 진행하고 필요시 scale out 이나 개선을 모색해보셔야합니다.

저의 짧은 지식이 조금이나마 도움이 되시길 바라겠습니다.