Staff + Senior Software Engineer, Inference

Claude를 전 세계 수백만 사용자에게 서빙하는 분산시스템 설계·구축·운영, 실시간 상황에 적응하는 탄력적 시스템 개발, 대규모 액셀러레이터 간 지능형 요청 라우팅/로드밸런싱/트래픽 관리, 생산·연구·실험 워크로드를 아우르는 오토스케일링 및 오케스트레이션, 신모델 출시를 위한 프로덕션급 배포 파이프라인 구축, 연구자들이 차세대 모델을 개발할 수 있도록 고성능 추론 인프라 제공, 신규 AI 가속기 플랫폼 및 새로운 모델 아키텍처 통합 지원, 관측성 데이터 분석을 통한 성능 튜닝, 멀티리전 배포 및 지리적 라우팅 관리.

필수: 분산시스템 중심의 유의미한 소프트웨어 엔지니어링 경험, 유연성과 임팩트를 중시하는 태도, 역할 경계를 넘어선 협업 의지, 머신러닝 시스템과 인프라 학습 의지, 기술적 우수성이 비즈니스·연구 성과로 직결되는 환경에서의 적응력, 사회적 영향에 대한 관심. 우대: 대규모 고성능 분산시스템 경험, 머신러닝 시스템의 대규모 구현·배포 경험, load balancing/request routing/traffic management 경험, LLM inference 최적화·batching·caching 이해, Kubernetes 및 AWS/GCP/Azure 경험, Python 또는 Rust 숙련도.