openai
Model Policy
AI·머신러닝연구·R&D제품·기획·디자인
AI 요약
OpenAI의 Safety Systems 팀에서 모델 정책(Model Policy) 전문가를 채용합니다. 이 역할은 AI 모델이 고위험 또는 모호한 상황에서 어떻게 행동해야 하는지 정의하고, 안전 가이드라인을 설계하며, 이를 실제 모델 훈련 및 평가 프로세스에 적용하여 안전한 AGI 구축을 지원하는 핵심적인 직무입니다.
주요 업무
모델 정책 설계 및 유지 관리(이중 용도, 에이전트 등), 리스크 모델을 행동 사양 및 평가 기준으로 변환, 모델 훈련/평가/배포 지원 정책 아티팩트 구축, 레드팀 및 배포 데이터 기반 정책 개선, 인간 데이터 캠페인(골드 세트 구축, 라벨링 가이드) 설계 및 운영, 시스템 카드 및 안전 보고서 작성 기여
자격 요건
고도화된 AI 시스템의 리스크에 대한 강력한 판단력, 복잡한 기술/사회적 시스템의 정책·분류 체계·리스크 프레임워크 구축 경험, 모호한 질문을 구조화된 정책 및 평가 기준으로 전환하는 능력, 실증적 증거(레드팀 결과 등) 활용 능력, 다학제적 팀(연구·엔지니어링·제품)과의 협업 능력, 복잡한 트레이드오프에 대한 명확한 커뮤니케이션 능력
기술 스택
LLMRed-teamingModel EvaluationRisk FrameworksHuman-in-the-loopData LabelingPolicy DesignSafety Taxonomy
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원Agent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, Connectors Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발Agent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&DB2B Marketing Lead, Korea
마케팅