개발자들이 말하는 대규모 트래픽 경험은 뭔가요?

안녕하세요! 이미 좋은 답변이 많아서 저는 공부하시면서 참고하면 좋을 것 같은 사이트만 링크 걸겠습니다 :) - http://highscalability.com/start-here/ - https://alexpareto.com/scalability/systems/2020/02/03/scaling-100k.html - https://leonkim.dev/systems/scaling-100k/ (위 링크 번역본) - https://shdkej.com/100k_concurrent_server/

통념적으로 "대규모 트래픽에 대한 경험"이 가르키는 것은 "절대적으로 많은 트래픽"이 기준이긴 합니다. 하지만 실제적으로는 "시스템 가용성의 범위를 넘었을 때의 대응 경험"이 더 올바릅니다. 예를 들어 아래 1,2,3 구성은 예상 트래픽에 맞춰 설계되었고 그에 맞춰 가용성을 가지고 있습니다. 이 가용성을 넘어 섰을 때 각 리소스 별 한계로 인한 장애가 발생이 됩니다. 구성에 따라 TPS와 설계/구현의 방식, 병목/장애 포인트, 모니터링과 배포 전략 등이 다 다릅니다. 1. srv 1 + db 1 2. lb 1 + srv n + db 1 + cache 1 3. lb n + srv n + db n + cache n + queue n + fs 1 + es n ...... 결론적으로 서비스의 가용성 이상의 트래픽에 대한 대응이 가능한 경우가 "대용량 트래픽에 대한 경험"일 것 입니다. * 순간적인 트래픽에 대한 1차적인 대응으로는 Scale Out/Up, Cache, Proxy 전략을 사용하지만 성장을 하고 있는 서비스라면 설계 자체를 변경하여야 합니다.

말씀하신 것처럼 여러명이 사용하는 서비스를 잘 운영하는 부분도 있지만 예상하지 못한만큼 사용자가 증가하는 경우도 포함한다고 생각합니다. MAU가 1000만명이면 월 1000만명이 사용했을 때 문제가 없도록 구현을 잘 해놓았을텐데, 이게 갑자기 동시에 100만명이 리퀘스트를 보내는 것과는 또 다른 개념이라고 생각합니다!

대규모 트래픽을 경험해보고 싶다는 표현은 indeed 사이트에서 IT 업종 취업 공고에서 자주 사용되는 표현 중 하나입니다. 그러나 이는 개발자에게 구체적인 의미가 없는 추상적인 표현이기도 합니다. 따라서, 이를 구체화하여 명확한 의미를 부여하는 것이 중요합니다. 대규모 트래픽이란, 초당 수백, 수천, 수만 개의 요청이 동시에 발생하는 경우를 의미합니다. 이는 서비스의 규모나 종류에 따라 달라질 수 있습니다. 예를 들어, SNS나 온라인 게임과 같은 대규모 서비스의 경우 수억 명의 사용자가 존재하며, 초당 수만 개 이상의 요청이 발생할 수 있습니다. 반면, 작은 규모의 웹 애플리케이션의 경우 몇 백 명에서 몇 천 명의 사용자가 있을 뿐, 초당 요청이 몇 개에서 몇십 개 정도밖에 발생하지 않을 수도 있습니다. 서버가 트래픽 때문에 죽는 경우는 서비스의 규모와 서버의 사양에 따라 다를 수 있습니다. 일반적으로 서버의 부하를 줄이기 위해 로드밸런싱, 캐싱, 데이터베이스 분산, 샤딩 등의 방법이 사용됩니다. 또한, 클라우드 서비스를 이용하면 필요에 따라 자동으로 서버의 개수를 조정할 수 있어 대규모 트래픽에 대한 대응이 수월해집니다. 따라서, "대규모 트래픽을 경험해보고 싶다"는 표현은 구체적으로 어떤 수준의 트래픽을 다루고 싶은지, 어떤 서비스에서 일하고 싶은지에 따라 의미가 달라집니다. 서버 부하 분산, 캐싱, 데이터베이스 최적화 등의 기술적인 문제를 해결하고, 안정적인 서비스를 제공하는 것이 개발자로서의 역량을 키울 수 있는 방향입니다.