openai
Researcher, Recursive Self-Improvement Safety
AI·머신러닝연구·R&D
AI 요약
OpenAI Preparedness 팀에서 미래의 AI 통제 상실·오용·정렬 실패 위험에 대비하는 기술 실행자를 채용합니다. 사전 위험평가, 모니터링, 자동화 감사, 레드팀, 검증 메커니즘, RSI 안전사례 강화 등 폭넓은 안전 연구·엔지니어링 업무를 수행하며, 빠르게 프로토타입을 만들고 조직 내 제도화까지 이끄는 역할입니다.
주요 업무
미래의 AI 위협과 통제 상실 리스크를 예측·완화하기 위한 준비 작업 수행, 사전 배포 위험평가 및 제어 수단 설계·구현, 스케일 가능한 모니터링/오버사이트 체계 구축, 자동화 감사 및 레드팀 수행, 모델 행동과 안전성 관련 실험·평가 설계, 미래 AI 안전 협약 준수 검증 메커니즘 프로토타이핑, 안전 파이프라인 및 제도화된 기관 관행으로의 전환, 필요 시 타 팀과 협업 및 조율/관리
자격 요건
필수: 뛰어난 기술 실행력, 약한 피드백 루프에서도 우선순위를 잘 정하는 전략적·연구적 감각, 미래 AI 위협과 재귀적 자기개선(RSI) 리스크 완화에 대한 강한 관심, 오픈엔디드 목표를 구체적 기술 과제로 전환하는 능력, 빠르게 프로토타입을 만들고 반복 개선하는 역량, 명확한 커뮤니케이션과 조직 내 설득/협업 능력. 우대: ML research, AI alignment, AI verification 등 관련 도메인 경험.
기술 스택
MLAI alignmentAI verificationLLMPyTorchTransformerRAGMLOps
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원Agent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, Connectors Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발Agent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&DB2B Marketing Lead, Korea
마케팅