fiddler
Staff Backend Engineer (Hybrid)
AI 요약
AI 신뢰성 및 투명성 솔루션 기업 Fiddler에서 Staff Backend Engineer를 채용합니다. 본 포지션은 대규모 언어 모델(LLM) 및 에이전트 애플리케이션의 안전성과 ROI에 기여하며, 모니터링, 설명, 개선을 위한 새로운 도구 및 알고리즘 개발을 담당합니다. Python, Postgres, Redis, Kafka, RabbitMQ, Ray 등 백엔드 기술에 대한 깊은 이해와 ML/LLM 모델 프로덕션 경험이 필수적입니다. 분산 시스템 설계 및 최적화 능력, 기술 리더십 및 협업 능력을 갖춘 분을 찾습니다. 석사 또는 학사 학위와 7년 이상의 경력이 요구되며, 연봉은 $190,000 - $300,000입니다.
주요 업무
대규모 언어 모델(LLM) 및 에이전트 애플리케이션의 안전성과 ROI에 기여, 모니터링, 설명, 개선을 위한 새로운 도구 및 알고리즘 설계 및 구축, 클라우드 플랫폼 핵심 서비스 및 컴포넌트 설계 및 구축, 분산 시스템 및 마이크로서비스 설계 및 구현, 엔터프라이즈 규모 워크로드를 지원하는 확장 가능한 데이터 인프라, 서비스 및 API 설계, 새로운 메트릭 및 평가 기능 개발, 핵심 서비스의 운영 성숙도 정의 및 개선, 엔지니어링 팀 빌딩 및 인재 채용 프로세스 참여
자격 요건
석사 또는 학사 학위 (컴퓨터 과학 또는 관련 분야) 및 7년 이상의 업계 경험, Python에 대한 깊은 숙련도, Postgres, Redis, Kafka, RabbitMQ, Ray 등 백엔드 기술에 대한 강력한 이해, ML/LLM 모델 프로덕션 경험, 최신 LLM 프레임워크(Langchain, HuggingFace, vLLM) 및 평가 프레임워크(Ragas, MLFlow) 경험, 분산 시스템 설계 및 최적화 능력, 클라우드 인프라(AWS/GCP, Kubernetes) 및 특수 데이터베이스(Clickhouse/Druid) 경험 (우대), 기술 리더십 및 협업 능력, 코칭 및 멘토링 능력, 주 3일 Palo Alto 사무실 근무 가능
기술 스택
PythonPostgresRedisKafkaRabbitMQRayLangchainHuggingFacevLLMRagasMLFlowAWSGCPKubernetesClickhouseDruid