openai
Threat Modeler, Preparedness
AI·머신러닝보안연구·R&D
AI 요약
OpenAI의 Preparedness 팀에서 프론티어 AI 모델의 잠재적 위험을 식별하고 모델링하는 Threat Modeler를 채용합니다. 생물학적, 사이버 보안 및 통제 상실 등 파괴적 위험에 대비한 위협 모델을 구축하고, 기술적 평가와 정책적 관점을 연결하여 안전한 AI 개발을 지원하는 핵심적인 역할을 수행합니다.
주요 업무
모든 오용 분야(생물, 사이버, 공격 계획 등)에 대한 포괄적 위협 모델 개발 및 유지, 통제 상실 및 자기 개선 등 정렬 위험에 대한 위협 모델 구축, 기술적 예측 및 적대적 시뮬레이션을 통한 위험 예측, 기술 파트너와 협력하여 역량 평가 수행 및 안전장치 설계, 위험 완화 노력의 근거와 우선순위에 대한 전략적 설명, 기술/거버넌스/정책 관점을 연결하는 중앙 노드 역할 수행.
자격 요건
프론티어 AI 시스템의 위험 및 AI 정렬(Alignment) 문헌에 대한 깊은 이해, 위협 모델링/위험 분석/적대적 사고(보안, 국가 안보, 안전 등) 분야의 풍부한 경험, AI 평가(Evaluation) 작동 방식 이해 및 결과 분석 능력, 기술 및 정책 도메인을 넘나드는 다학제적 위험 평가 능력, 복잡한 위험에 대한 명확하고 설득력 있는 커뮤니케이션 능력, 시스템적 사고 및 2차/연쇄적 위험 예측 능력.
기술 스택
Frontier AI ModelsAI AlignmentThreat ModelingRisk AnalysisAdversarial SimulationAI EvaluationsCyber SecurityBio-risk Assessment
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원Agent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, Connectors Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발Agent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&DB2B Marketing Lead, Korea
마케팅