databricks
Staff Backend Software Engineer- (AI Platform)
개발AI·머신러닝인프라·DevOps
AI 요약
Databricks에서 LLM(대규모 언어 모델) 추론 및 서빙을 위한 API 제품인 'Foundation Model Serving'의 핵심 인프라를 설계하고 구축할 Staff Engineer를 채용합니다. 10년 이상의 대규모 분산 시스템 경험을 바탕으로 GPU 워크로드 최적화와 고성능 API 개발을 주도하는 역할입니다.
주요 업무
Databricks Foundation Model Serving의 핵심 시스템 및 API 설계 및 구현, 기술 로드맵 및 장기 아키텍처 정의, GPU 서빙 워크로드의 성능·처리량·오토스케일링 최적화, vLLM 및 SGLang 등 주요 컴포넌트 기여, 토큰 기반 속도 제한기 및 최적화 도구 개발, 교차 기능 팀(제품, 연구 등)과의 협업, 코드 품질 및 테스트 베스트 프랙티스 수립 및 멘토링.
자격 요건
10년 이상의 대규모 분산 시스템 구축 및 운영 경험, 고부하 및 운영 민감도가 높은 백엔드 시스템 리딩 경험, 알고리즘·자료구조·시스템 디자인에 대한 강력한 기초 역량, 복잡한 기술 프로젝트를 완수하여 비즈니스 가치를 창출한 실적, 뛰어난 커뮤니케이션 및 협업 능력, 엔지니어 멘토링 및 기술적 탁월함에 대한 열정.
기술 스택
vLLMSGLangGPUDistributed SystemsAPILLMInference
databricks의 다른 공고
Sales Dev AI Program Manager
Director, Regional System Integrator Portfolio
영업Staff Research Engineer, Data Agents
AI·머신러닝, 연구·R&DSr. Specialist Solutions Architect - Data Engineering & Warehousing
영업Solutions Architect (Benelux Hunter Pre-sales)
영업Sr. Technology Partner Director, Business Applications
영업Delivery Solutions Architect
영업, 고객지원Solutions Architect
영업