databricks
Senior Software Engineer, Model Serving
개발AI·머신러닝인프라·DevOps
AI 요약
Databricks에서 AI/ML 모델 서빙 플랫폼의 핵심 인프라를 설계하고 구축할 시니어 엔지니어를 채용합니다. 대규모 분산 시스템과 CPU/GPU 추론 최적화 경험을 바탕으로 고성능·저지연 추론 시스템을 개발하여 고객의 AI 모델 운영을 지원하는 역할을 수행합니다.
주요 업무
Databricks Model Serving의 핵심 시스템 및 API 설계 및 구현, CPU/GPU 서빙 워크로드의 성능·처리량·오토스케일링 최적화, 모델 컨테이너 빌드 및 배포 워크플로우 등 서빙 인프라 기여, 제품·플랫폼·연구 팀과 협업하여 고객 니즈 반영, 지연 시간 및 가용성 개선을 위한 기술적 이니셔티브 주도, 코드 품질 및 테스트 모범 사례 수립.
자격 요건
5년 이상의 대규모 분산 시스템 구축 및 운영 경험, 모델 서빙/추론 시스템 또는 관련 인프라(라우팅, 스케줄링, 오토스케일링, 관측성 등) 경험, 알고리즘·자료구조·시스템 디자인에 대한 탄탄한 기초, 대규모 CPU/GPU 추론 시스템 아키텍처 구축 경험, 뛰어난 커뮤니케이션 및 협업 능력, 엔지니어 멘토링 및 기술적 우수성 추구 열정.
기술 스택
Distributed SystemsModel ServingInference SystemsCPUGPUAPI DesignAutoscalingObservabilityRoutingSchedulingContainerizationMLflowApache SparkDelta Lake
databricks의 다른 공고
Sales Dev AI Program Manager
Director, Regional System Integrator Portfolio
영업Staff Research Engineer, Data Agents
AI·머신러닝, 연구·R&DSr. Specialist Solutions Architect - Data Engineering & Warehousing
영업Solutions Architect (Benelux Hunter Pre-sales)
영업Sr. Technology Partner Director, Business Applications
영업Delivery Solutions Architect
영업, 고객지원Solutions Architect
영업