xai
Backend Engineer - API
개발AI·머신러닝인프라·DevOps
AI 요약
xAI는 전 세계 개발자들에게 자사의 AI 모델을 제공하기 위한 API 및 고성능 추론 인프라를 구축할 엔지니어를 채용합니다. Rust와 C++ 전문성을 바탕으로 저지연, 고가용성의 분산 시스템을 설계하며, 분당 수십억 개의 토큰을 처리하는 대규모 모델 서빙 환경을 책임지는 핵심적인 역할입니다.
주요 업무
전 세계 개발자 대상 xAI API 구축, 저지연·고가용성 기반의 고처리량 추론 시스템(Inference) 소유 및 운영, 모델 서빙 인프라 및 요청 라우팅 설계, SDK 개발, 속도 제한(Rate Limiting) 및 관측성 시스템 구축, 효율적인 시스템 스케일링
자격 요건
Rust 또는 C++에 대한 전문가 수준의 지식, 신뢰성 있고 수평 확장 가능한 분산 시스템 설계 및 구현 경험, 서비스 관측성(Observability) 및 신뢰성 모범 사례에 대한 지식, PostgreSQL/Clickhouse/MongoDB 등 데이터베이스 운영 경험, (우대) LLM 추론 엔진 및 서빙 프레임워크(SGLang, TensorRT, vLLM) 경험, 에이전트 SDK 및 오케스트레이션 프레임워크 구축 경험, Docker/Kubernetes 및 컨테이너화 애플리케이션 경험, gRPC 및 REST 매핑 전문가
기술 스택
RustC++GoPostgreSQLClickhouseMongoDBSGLangTensorRTvLLMDockerKubernetesgRPCREST
xai의 다른 공고
Human Resources Coordinator
경영지원Fiber Foreman
현장운영Senior Data Engineer - Consumer Subscriptions
데이터Material Handler
현장운영Member of Technical Staff
개발, AI·머신러닝, 데이터, 인프라·DevOpsMember of Technical Staff
AI·머신러닝, 데이터, 인프라·DevOps, 연구·R&D, 개발Member of Technical Staff
AI·머신러닝, 연구·R&D, 인프라·DevOpsSupervisor, Fiber
현장운영