openai
Model Policy, Frontier Cyber Risk
AI·머신러닝보안연구·R&D제품·기획·디자인
AI 요약
OpenAI의 Safety Systems 팀에서 AI 모델이 사이버 보안 위협에 악용되지 않도록 안전 정책을 설계하고 관리할 전문가를 채용합니다. 사이버 위협 모델링, 정책 프레임워크 수립, 모델 행동 평가 기준 정의를 통해 안전한 AGI 구축에 기여하는 역할입니다.
주요 업무
사이버 보안 및 프런티어 리스크 도메인을 위한 모델 정책 설계 및 유지 관리, 사이버 위협 모델을 행동 사양 및 평가 기준으로 변환, 정당한 보안 연구와 유해 활동 지원 간의 경계 정의, 훈련·평가·배포 전반의 정책 아티팩트 구축, 레드팀 결과 및 모델 실패 사례 분석을 통한 정책 개선, 신규 사이버 역량 분야의 오용 가능성 식별, 시스템 카드 및 안전 보고서 등 외부 커뮤니케이션 기여
자격 요건
사이버 보안(공격/방어 보안, 취약점 연구, 악성코드 분석, 침해사고 대응 등) 분야의 강력한 기술적 전문성, AI 시스템이 사이버 위협 지형에 미치는 영향(이중 용도, 자율 에이전트 리스크 등)에 대한 뛰어난 판단력, 복잡한 기술 시스템에 대한 위협 모델링 경험, 기술적 전문성을 정책 프레임워크 및 운영 지침으로 변환하는 능력, 레드팀 결과 및 실증적 데이터를 활용한 의사결정 능력, 다학제적 팀(연구, 엔지니어링, 제품 등)과의 원활한 협업 및 서면 커뮤니케이션 능력
기술 스택
CybersecurityThreat ModelingRed-teamingVulnerability ResearchMalware AnalysisAI SafetyPolicy DesignEvaluation Science
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원B2B Marketing Lead, Korea
마케팅Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Connectors Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&DAgent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발