openai
Researcher, Misalignment Research
AI·머신러닝연구·R&D보안
AI 요약
OpenAI의 Safety Systems 팀에서 AGI의 오정렬(Misalignment) 위험을 연구하고 방지할 시니어 연구원을 채용합니다. 최악의 시나리오 시연, 적대적 평가, 시스템 스트레스 테스트 등을 통해 AI 안전성을 확보하고 제품 로드맵에 반영하는 핵심적인 역할을 수행합니다.
주요 업무
AGI 정렬 위험 시연 설계 및 구현, 적대적 및 시스템 레벨 평가 체계 개발 및 전사 도입 추진, 자동화된 레드팀 및 스트레스 테스트 도구/인프라 구축, 정렬 기술 실패 모드 연구 및 개선안 제안, 대내외 영향력 있는 논문 발표, 엔지니어링/연구/정책/법률 팀과 협업하여 제품 보호 조치 및 거버넌스 프로세스 통합, 엔지니어 및 연구원 멘토링.
자격 요건
AI 레드팀, 보안 연구, 적대적 머신러닝(Adversarial ML) 또는 관련 안전 분야 4년 이상 경력, 논문/오픈소스 프로젝트/고영향력 사내 업무 등 강력한 연구 실적, 현대적 ML/AI 기술 숙련도, 대규모 코드베이스 및 평가 인프라 활용 능력, 기술적/비기술적 대상과의 명확한 커뮤니케이션 능력, 컴퓨터 과학/머신러닝/보안 또는 관련 분야 석사/박사 학위(우대).
기술 스택
MLAIAdversarial MLRed-teamingLarge-scale codebasesEvaluation infrastructure
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원Agent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&DAgent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발Agent Post-Training, Context Research
AI·머신러닝, 연구·R&D, 개발B2B Marketing Lead, Korea
마케팅