anthropic
Staff Software Engineer, Cloud Inference신규
개발AI·머신러닝인프라·DevOps
AI 요약
Anthropic의 Cloud Inference 팀에서 대규모 언어 모델(LLM)을 다양한 클라우드 플랫폼에 배포하고 확장할 10년 이상의 경력을 가진 백엔드 소프트웨어 엔지니어를 채용합니다. 분산 시스템 설계, 인프라 최적화, AI 안전 조치 구현이 핵심 업무입니다.
주요 업무
모델 서빙 인프라 확장 및 아키텍처 설계, 가속기(Accelerator) 칩 활용 및 할당 최적화, 주요 클라우드 플랫폼과의 전략적 기술 협업, 인프라 구축 및 운영 효율화(패키징, 테스트, 배포), API 및 인프라 내 신뢰 및 안전(Trust and Safety) 조치 구현.
자격 요건
10년 이상의 미션 크리티컬 백엔드 시스템 구축 및 운영 경력, Python 숙련도 및 복잡한 분산 시스템 경험, 관측 가능한(Observable) 코드 및 시스템 설계 능력, 고객 중심의 API 및 인프라 개발 접근 방식, 빠른 속도의 환경 적응력 및 협업 능력. (우대사항: 대규모 API 플랫폼 설계 및 구현, LLM/AI 구성 요소 포함 제품 빌딩 경험, Rust 개발 경험, Kubernetes, Docker 등 컨테이너 기술, AWS 또는 GCP 숙련도, 성능 및 비용 최적화 경험)
기술 스택
PythonRustKubernetesDockerAWSGCPDistributed SystemsAPIs