Jobs
xai 로고

xai

Senior Analyst - Safety Operations (CSE)

AI·머신러닝보안데이터

AI 요약

xAI에서 AI 모델 'Grok'의 안전성을 강화하고 아동 성착취(CSE) 관련 유해 콘텐츠를 차단할 'Safety Operations Senior Analyst'를 채용합니다. LLM의 미세조정(Refining)과 데이터 라벨링을 통해 AI의 윤리적 정렬을 돕고, 안전 프로토콜을 설계하는 역할을 수행합니다.

주요 업무

• Grok의 서비스 약관 준수 및 안전성 강화를 위한 모델 훈련 및 미세조정(Refining) • 유해 콘텐츠 및 행동 모니터링, 조치 및 에스컬레이션 • 안전 프로토콜, 위험 시나리오 및 정책 준수 프로젝트를 위한 라벨링 및 어노테이션 제공 • AI의 방어 기제 개선을 위한 피드백 제공 및 윤리적 정렬(Alignment) 지원 • 데이터 분석을 통한 신규 학대 패턴 식별 및 집행 자동화 설계

자격 요건

• 대규모 언어 모델(LLM) 개선 및 CSE 관련 집행 효율화 전문성 • CSAM/CSE 식별, 완화 및 방지 분야의 입증된 전문 지식 (NCMEC 보고 등 법적 의무 지식 포함) • 온라인 안전 및 유해성 감소를 통한 사용자 보호 경험 • xAI 안전 정책 해석 및 적용 능력 • 윤리적 추론 및 위험 평가를 포함한 복잡한 시나리오 분석 능력 • 데이터 분석을 통한 학대 벡터 식별 및 자동화 설계 역량 • (우대) 소셜 미디어 기업의 Trust & Safety 근무 경험 및 AI/자동화 도구 활용 경험 • (우대) LLM 레드팀(Red-teaming) 및 적대적 테스트를 통한 취약점 식별 경험

기술 스택

LLMGrokRed-teamingData AnalysisAutomationCSAM Detection ToolsAdversarial Testing
AI 점수 92core

xai의 다른 공고

알림

알림이 없습니다