moreh
LLMOps Engineer
정규직(풀타임)대면혼합근무AI·머신러닝인프라·DevOps개발품질·테스트
AI 요약
분산 LLM 추론 프레임워크(스마트 라우터, 오토스케일러/튜너 등)를 개발하고 성능 측정·모니터링 및 테스트 자동화를 담당하는 LLMOps 엔지니어 채용공고입니다. Kubernetes 기반 서비스 개발·운영 경험과 Go/Python 능숙자를 우대하며 OpenTelemetry 및 LLM 서빙 프레임워크 경험이 있으면 좋습니다.
주요 업무
분산 추론 프레임워크를 구성하는 애플리케이션 개발(smart router, auto-scaler/tuner 등), OpenTelemetry를 활용한 개발 및 모니터링 시스템 구축, 소프트웨어 품질 유지를 위한 unit·e2e 테스트 작성 및 자동화(CI)
자격 요건
컴퓨터공학 또는 관련 전공 학사 졸업 혹은 동등 경력, 2년 이상의 Kubernetes 기반 서비스 개발 및 운영 경험, Go 또는 Python 등 하나 이상의 프로그래밍 언어 숙련, 적극적 소통 및 팀워크 역량. 우대사항: Kubernetes operator 개발/운영 경험, OpenTelemetry 활용 경험, 오픈소스 기여 경험, vLLM/SGLang/llm-d/Dynamo 등 LLM 서빙 프레임워크 사용 경험
기술 스택
GoPythonKubernetesKubernetes OperatorOpenTelemetryvLLMSGLangllm-dDynamoCI/CDunit teste2e test분산 추론 프레임워크