속도가 매우 느린 외부 API를 호출하는 API는 어떤 구조로 개선해야할까요?

Question

Spring boot 기반의 API를 개발했는데, 이중 특정 API가 내부적으로 외부 API를 호출하고 있습니다.

이 API는 아래의 과정을 거칩니다.
1. 외부 API 호출 - 약 9초 소요
2. 응답받은 데이터와 함께 전처리 후 DB 저장
3. S3 로 이미지 업로드

이때, 1번 항목인 외부 API를 호출하는데에 약 9초정도가 소요됩니다. 
이 API는 사용자가 입력한 데이터를 기반으로 외부 API를 호출하기에 실시간 응답이 필요해서, 정기적으로 외부 API를 끌어오는 방법은 어려워보이는 상황입니다.

이 구조로 계속 방치해둔다면 해당 API 요청이 몰렸을 때, 다른 API 조차 핸들링하지 못하는 상황이 예상되고, 또한 API timeout 설정도 매우 폭이 커져야해서 의미가 없어질 것이라고 생각했습니다.

이 부분을 개선하고 싶은데, 
- Spring Event를 사용하면 비동기적으로 처리할수 있다고 들었는데 적절한 방법일지,
- 현업에서 이러한 이슈를 어떻게 해결하고 있는지
- 추천하는 방법이 있는지
궁금합니다!

황인웅 · Answer

경험이 많지는 않지만 제가 개인 프로젝트를 진행하여 기상청 API를 요청하여 데이터를 받아 UI에 출력하는 기능을 구현 했을 때 방법을 말씀드립니다.

1. 실시간 요청은 시간이 소요되면 기다려야하기 때문에 실시간이 아닌 방법을 찾는게 좋을 것 같습니다.
2. 실시간으로 하지 않는다면 Spring의 스케줄링을 이용하여 정기적인 시간에 해당 API의 데이터를 백그라운드에서 요청하여 처리하고 DB에 적재합니다.
3. 실제 해당 API 기능이 필요한 부분에서는 백그라운드에서 정기적으로 처리된 DB에서 데이터를 불러오면 좋지 않을까 싶습니다.

제대로 이해하고 답변을 드린건지 모르겠습니다만 화이팅하세요.

허형준 · Answer

다른 API 제공자를 찾아보시는 것도 방법입니다. 생각보다 API를 제공하는 업체가 다양하고 유료로 제공하는 업체도 많습니다.

아니면 사용자 로딩화면 개선도 방법이 될 수 있습니다. 제공하는 정보가 사용자에게 도움이 된다면 긴 로딩시간을 감수하는건 별게 아니겠지요. 로딩화면에 애니메이션 효과를 넣거나 정보 처리 과정을 표시하면 사용자가 이탈하는걸 감소시킬 수 있습니다.

hi_김일영_ · Answer

생성형 API를 사용하는 경우는 서버에서 결과에 대한 응답을 주기 전까지 기다리는 상황이 발생합니다. 따라서 즉각적인 반응을 주기는 어렵죠.
제가 컨설팅하고 있는 회사에서는 2가지 방법을 사용합니다.
1. async 방식
생성형 API를 사용하여 만들어지는 이미지를 기다리기 전에 먼저 응답을 주고, 예를 들면 이미지가 만들어지고 있습니다 같은, 다른 일을 하다가 응답이 완료되면 이미지를 보여주는 방식을 사용합니다.
2. 중복된 요청
요청된 내용중에 중복된 요청이 있습니다. 중복된 요청은 저장된 생성형 API를 사용하지 않고 DB로 부터 이미 전에 만들어졌던 이미지를 보여줍니다. 
위에 질문하시는 부분의 API 3가지 순서를 Async로 처리하던가 순서에 대한 처리 방식을 다르게 처리하는 방법을 고민해 보시는것이 어떨까 합니다.