xai
Backend Engineer - API
개발AI·머신러닝인프라·DevOps
AI 요약
xAI에서 전 세계 개발자를 위한 고성능 AI API 및 추론 인프라를 구축할 엔지니어를 채용합니다. Rust 또는 C++ 숙련도를 바탕으로 분당 수십억 개의 토큰을 처리하는 저지연, 고가용성 분산 시스템을 설계하고 운영하는 역할을 수행합니다.
주요 업무
전 세계 개발자 대상 xAI API 구축, 고처리량 추론(High-throughput inference) 시스템 소유 및 관리, 모델 서빙 인프라 및 요청 라우팅 시스템 설계, SDK 개발, 속도 제한(Rate limiting) 및 관측성 도구 구축, 효율적인 시스템 확장성 확보
자격 요건
Rust 또는 C++에 대한 전문가 수준의 지식, 신뢰성 있고 수평 확장 가능한 분산 시스템 설계 및 구현 경험, 서비스 관측성(Observability) 및 신뢰성 모범 사례에 대한 지식, PostgreSQL, Clickhouse, MongoDB 등 데이터베이스 운영 경험, (우대) LLM 추론 엔진 및 서빙 프레임워크(SGLang, TensorRT, vLLM) 경험, (우대) 에이전트 SDK 및 오케스트레이션 프레임워크 구축 경험, (우대) Docker, Kubernetes 및 컨테이너화된 애플리케이션 경험, (우대) gRPC 전문가 수준 지식
기술 스택
RustC++GoPostgreSQLClickhouseMongoDBSGLangTensorRTvLLMDockerKubernetesgRPC
xai의 다른 공고
Human Resources Coordinator
경영지원Fiber Foreman
현장운영Senior Data Engineer - Consumer Subscriptions
데이터Material Handler
현장운영Member of Technical Staff
개발, AI·머신러닝, 데이터, 인프라·DevOpsMember of Technical Staff
AI·머신러닝, 데이터, 인프라·DevOps, 연구·R&D, 개발Member of Technical Staff
AI·머신러닝, 연구·R&D, 인프라·DevOpsSupervisor, Fiber
현장운영