openai
Data Scientist, Integrity Measurement
데이터AI·머신러닝보안
AI 요약
OpenAI의 Applied Foundations 팀에서 플랫폼의 안전과 무결성을 책임질 시니어 데이터 사이언티스트를 채용합니다. 금융 남용, 대규모 공격, 오용 사례를 식별하기 위한 AI 기반 측정 지표를 개발하고, LLM 프롬프트 최적화 및 자동화 도구를 활용하여 안전한 AI 생태계를 구축하는 역할을 수행합니다.
주요 업무
- 심각한 행위자 및 네트워크 기반 유해 분야의 정량적 분석 및 측정 주도
- AI-first 방법론을 활용한 유해성 측정 및 생산형 안전 지표 개발
- 주요 지표 산출이 어려운 경우 A/B 테스트 등을 위한 대체 지표 구축
- 유해 분야 대시보드 운영 및 지표 보고
- 탐지 및 집행 개선을 위한 인사이트 도출 및 로드맵 영향력 행사
- 측정 목적의 LLM 프롬프트 최적화
- 안전 정책 수립을 위한 타 안전 팀과의 협업
- 에이전트 제품을 활용한 업무 자동화 및 확장
자격 요건
- Trust and Safety 분야의 시니어 데이터 사이언티스트 경험
- 고도화된 통계 기술 (샘플링 방법론 및 복잡한 문제 영역의 유해성 추정)
- 아동 안전, 폭력 등 심각하고 민감한 유해 분야 업무 경험
- 데이터 프로그래밍 언어(Python 또는 R, SQL) 숙련도
- 뛰어난 커뮤니케이션 및 교차 기능 협업 능력
- (우대) AI 유해성 관련 경험 또는 측정을 위한 AI 활용 경험
기술 스택
PythonRSQLLLMAgentic products
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원Agent Post-Training, Connectors Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Context Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발Agent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&D