openai
Researcher, Frontier Cybersecurity Risks
AI·머신러닝보안연구·R&D
AI 요약
OpenAI의 Preparedness 팀에서 프론티어 AI 모델의 사이버 보안 위험을 식별하고 완화하기 위한 연구원을 채용합니다. 모델 기반의 사이버 오용을 방지하기 위한 엔드투엔드 완화 스택을 설계 및 구현하며, 제품 전반에 안전 장치를 통합하는 역할을 수행합니다. 딥러닝, 트랜스포머 모델, PyTorch 등에 대한 깊은 전문성이 요구됩니다.
주요 업무
모델 기반 사이버 보안 오용에 대한 완화 구성 요소(예방, 모니터링, 탐지, 집행) 설계 및 구현, 제품 및 엔지니어링 팀과 협력하여 제품 표면에 안전 장치 통합, 사이버 보안 위험 영역 내 기술적 트레이드오프(커버리지, 지연 시간, 모델 유용성 등) 평가 및 해결책 제안, 위협 모델링 파트너와 협력하여 공격자 행동 및 고영향 오용 시나리오 분석, 레드팀 워크플로우 실행 및 완화 스택 스트레스 테스트
자격 요건
딥러닝 및 트랜스포머 모델에 대한 입증된 경험, PyTorch 또는 TensorFlow 프레임워크 숙련도, 데이터 구조, 알고리즘 및 소프트웨어 엔지니어링 원칙에 대한 강력한 기초, LLM 학습 및 미세 조정 방법(Distillation, Supervised Fine-Tuning, Policy Optimization 등)에 대한 지식, 대규모 남용 방지/탐지/집행을 위한 기술적 안전 장치 설계 및 배포 경험, (우대) 사이버 보안 또는 관련 분야 배경지식
기술 스택
Deep LearningTransformer modelsPyTorchTensorFlowLarge Language Models (LLM)DistillationSupervised Fine-Tuning (SFT)Policy Optimization
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원Agent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, Connectors Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발Agent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&DB2B Marketing Lead, Korea
마케팅