lbox
Machine Learning Engineer
AI·머신러닝개발인프라·DevOps
AI 요약
엘박스에서 LLM·RAG·Agentic AI 기반 법률 AI 제품을 설계·구현·운영할 Machine Learning Engineer를 채용합니다. 모델 성능·비용·품질 지표를 관리하고 Fallback/Circuit Breaker/Retry 등의 견고한 아키텍처, 검색·리랭킹·팩트체크·트레이싱·Observability 및 자동화된 평가(LLM-as-a-judge, A/B 등) 체계를 구축하여 상용 서비스 수준의 신뢰성과 정확도를 확보하는 역할입니다.
주요 업무
LLM·RAG·Agentic AI 기반 시스템의 설계·구현·배포·운영(제품 수명주기 전반 책임), Agent 핵심 컴포넌트 구성 및 스케일링 전략 수립, 검색·생성 파이프라인 프로덕션화, Fallback/Retry/Circuit Breaker/Rate Limit 등 안전장치 설계, 캐싱·배치·모델 라우팅을 통한 지연시간·인퍼런스 비용 최적화, 메트릭·트레이싱 통합 Observability 구축, 환각·근거 누락 등 품질 이슈의 원인 규명 및 모델/인덱스 개선, LLM-as-a-judge·A/B·온오프라인 평가 체계 설계 및 데이터 기반 릴리즈 전략 수립
자격 요건
소프트웨어 엔지니어링 경력 5년 이상(또는 그에 준하는 역량), 의미 있는 테스트 작성 능력, LLM 및 RAG 기반 상용 서비스 End-to-End 경험 1년 이상, 프레임워크 내부 동작 원리에 대한 깊은 이해(성능 한계·사이드 이펙트 예측), AWS/GCP 등 퍼블릭 클라우드 운영 경험 및 백엔드 전반 이해, 실험을 통한 가설 검증 경험, 유지보수성과 확장성을 고려한 설계 역량. (명시된 우대 경험 다수 존재)
기술 스택
LLMRAGAgentic AIFastAPILangChainLangGraphPydanticElasticsearchMilvusQdrantNeo4jPostgreSQLRedisLangfuseOpenTelemetryDatadogAWS (EKS, ECS, Lambda 등)GCPAzureKubernetesDockerArgoCDHelmGitHubJenkins