다국어 변역 api사용 저장시 느린 속도 문제

Question

DB에 정보 저장하는데요

ranslationResponse response = restTemplate.postForObject(TRANSLATION_ENDPOINT, request, TranslationResponse.class);
api를 통해 영어 중국어 일본어로 변역해서 변역 내용 같이 DB에 저장 하려고 합니다.

그런데 저장할 때 문장이 길어지면 변역 시간이 느려저서 사용자쪽에서 많이 기다려야 하는 상황입니다.

기본 내용만 저장하고
파이널리문에서 번역해서 다시 저장하는 방법을 생각 해서 적용 해보았는데

브라우저에서 결과 받는 속도는 같았습니다.ㅠ

그렇다고 브라우저에서 ok 결과를 받은 후 번역을 비동기로 호출하는 것도 불필요한 비용 발생일 것 같고요

창을 먼저 꺼버리자니 오류 처리 못할 것 같구요

저장중 이라는 알림으로 처리 해야하는건지 사용자 입장에서 개선 하고 싶은데 방법을 잘 모르겠습니다.

혹시 해결방안 알고 계신분이 계시다면 조언 부탁드립니다.

개발자A · Answer

대부분의 Response는 요청에 대한 결과를 전부 받아온 다음에 result처리 되게 됩니다.
또한 대부분의 클라이언트 서버의 입장에서는 이 결과를 전부 Response 받은 후 DB에 저장하거나 화면에 출력하거나 하는 식의 로직을 제작하게 됩니다.

아마도 서버측에서의 응답속도가 그리 빠르지 않은 것 같거나,
혹은 서버측에서의 연산 후 리턴이 오래 걸린다거나라고 보입니다.

일부 서비스들의 요청 후 응답된 결과가 실시간으로 표시되는 것의 경우는 데이터 스트림을 기반으로 제작합니다. (예를 들면 ChatGPT가 응답할 때 연산이 되는대로 사용자 화면에 출력해주는 것)

하지만 위와 같은 경우는 데이터를 처리해주는 서비스를 지닌 서버측에서 해당 리턴타입을 지원하는 요청을 따로 보유하고 제공해주어야 합니다.

제 개인적인 경험상 해결했던 방법으론, 학습이 오래 걸리는 챗봇 문서가 있고 사용자가 이를 기다리는 시간이 너무 길어질 경우는 단순히 Timeout시간을 늘리는 것은 너무 어색하다 생각되어,
Ajax를 통한 비동기,백그라운드 처리로 작업하였습니다.