openai
Researcher, Frontier Biological and Chemical Risks
AI·머신러닝연구·R&D보안품질·테스트
AI 요약
OpenAI의 Preparedness 팀에서 프론티어 AI 모델의 잠재적 리스크를 식별하고 평가 체계를 구축할 리서치 엔지니어를 채용합니다. 이 역할은 CBRN(화학, 생물, 방사능, 핵) 및 사이버 보안 등 고위험 영역에 대한 평가 모델을 설계하고, 모델의 안전성을 정밀하게 측정하여 안전한 AI 배포를 지원하는 데 중점을 둡니다.
주요 업무
프론티어 모델의 역량 평가(Capability Evaluation) 설계 및 소유, CBRN 및 사이버 보안 등 고위험 영역의 위협 모델 기반 평가 설계, 데이터셋/채점기/루브릭/임계값 가이드라인 정의, 감사 가능한 평가 결과물(평가 카드, 보고서 등) 생성, 확장 가능한 평가 시스템 및 프로세스 구축, AI 안전 리스크 식별 및 방법론 연구
자격 요건
AI 안전 리스크(단기 및 장기)에 대한 열정과 지식, '레드팀 사고방식(Red-teaming mindset)', ML 연구 엔지니어링/ML 관측성 및 모니터링/LLM 기반 애플리케이션 구축 등 관련 기술 분야 경험, 역동적인 연구 환경에서의 프로젝트 수행 능력, (우대) 레드팀 시스템 직접 경험, AI 배포의 사회적 측면 이해, 우수한 커뮤니케이션 능력, (필수) 미국 수출 관리 규정(EAR/ITAR)에 따른 'U.S. Person' 자격 보유자
기술 스택
MLLLMML Research EngineeringML ObservabilityMonitoringRed-teamingEvaluation Frameworks
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원Agent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, Connectors Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발Agent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&DB2B Marketing Lead, Korea
마케팅