Jobs
amazonus 로고

amazonus

Senior Software Development Engineer, AWS Mantle

개발인프라·DevOpsAI·머신러닝

AI 요약

AWS Amazon Bedrock의 분산 추론 엔진(Mantle)을 설계·구현·운영할 시니어 소프트웨어 개발 엔지니어를 채용합니다. 대규모 ML 추론을 전 세계 AWS 리전에서 안정적으로 제공하는 인프라 플랫폼을 담당하며, 모델 라우팅·로드밸런싱·모델 수명주기 관리·SLA/보안 보장을 포함한 핵심 시스템을 다룹니다.

주요 업무

분산 추론 엔진 핵심 컴포넌트 설계 및 구현, request routing/load balancing/model lifecycle management/QoS enforcement 개발, foundation model의 빠른 온보딩과 성능 SLA/ZOA 보장, production 서비스의 모니터링·알람·장애 대응·신뢰성 개선, capacity management 및 model serving 문제 해결, applied scientist 및 ML engineer와 협업해 모델 아키텍처 통합 및 추론 성능 최적화, 코드 리뷰/설계 리뷰/멘토링을 통한 팀 역량 향상, 팀 및 조직 차원의 아키텍처 논의와 기술 방향성 기여

자격 요건

필수: 5년 이상의 비인턴 소프트웨어 개발 경험, 5년 이상의 최소 1개 이상 프로그래밍 언어 사용 경험, 5년 이상의 시스템 설계/아키텍처 경험(패턴, 신뢰성, 확장성), 멘토/테크리드/엔지니어링 팀 리딩 경험, 컴퓨터공학/공학 관련 학사 또는 동등 경험. 우대: 컴퓨터공학/머신러닝/공학 관련 석사, machine learning/data mining/information retrieval/statistics/NLP 경험, 또는 GPU/Neuron/TPU 등 AI 가속 하드웨어에서 LLM을 프로덕션 배포한 경험, 대규모 API 설계 경험(특히 RESTful 또는 streaming API, 낮은 latency/높은 availability 요구).

기술 스택

distributed systemsML inferenceAPIRESTful APIsstreaming APIsGPUNeuronTPULLMfoundation models
AI 점수 95core
지원하기

amazonus의 다른 공고

알림

알림이 없습니다