Jobs
lgairesearch 로고

lgairesearch

ML Platform Engineer

AI·머신러닝인프라·DevOps개발

AI 요약

LG AI연구원의 Platform&Infra팀에서 대규모 언어 모델(LLM)의 추론 성능 최적화와 안정적 서빙을 담당할 ML Platform Engineer를 모집합니다. EXAONE 모델을 다양한 프레임워크 및 NPU/GPU 환경에서 안정적으로 서빙할 수 있는 엔진 개발, 오픈소스 LLM 서빙 프레임워크 기여, 모델 추론 가속화 알고리즘 연구·구현 등이 주요 업무입니다.

주요 업무

LLM 추론 성능 최적화 및 설계 참여, EXAONE 모델의 다양한 프레임워크 대상 서빙 엔진 개발, 오픈소스 LLM 서빙 프레임워크에 대한 기능 개선/버그 수정/성능 최적화 기여, chat_template 활용을 통한 다양한 언어·환경 지원, NPU/GPU 기반 Serving 전략 설계 및 모델 추론 가속화 알고리즘 연구·구현.

자격 요건

모델 추론 가속화 및 Inference Back-end 구현 경험, NPU/GPU 기반 Serving 전략 및 개발 경험, 오픈소스 LLM Serving Framework(vLLM, SGLang, Ollama 등) 기여 경험.

기술 스택

PythonC++TensorFlowPyTorchONNXCUDANPUGPUvLLMSGLangOllamaEXAONEchat_template
AI 점수 95core

lgairesearch의 다른 공고

알림

알림이 없습니다