openai
Researcher, Automated Red Teaming
AI·머신러닝보안연구·R&D개발
AI 요약
OpenAI의 Safety Systems 조직 내 Preparedness 팀에서 자동화된 레드팀(ART) 리드를 채용합니다. 이 역할은 프론티어 AI 모델의 잠재적 파괴적 위험(사이버, 생물학적 위협 등)을 식별하고 완화하기 위해 확장 가능한 연구 기반 자동화 시스템을 구축하고 운영하는 것을 목표로 합니다.
주요 업무
자동화된 레드팀(ART) 연구 및 기술 방향성 주도, 분류기 탈옥 및 생물학적 위협 발견 시스템 구축, 모델 통제 상실 평가, 위험 대응 팀과 협업하여 취약점을 학습 데이터 및 평가 지표로 전환, 운영 가능한 고신호 자동화 파이프라인 구축.
자격 요건
AI 안전 및 위험 감소에 대한 강력한 동기, 시스템 취약점 발견 및 레드팀 활동 선호, LLM 및 에이전트(멀티턴, 도구 사용 등) 실무 경험, 확장 가능한 자동화 시스템 구축 능력, 소프트웨어 엔지니어링 기초(자료구조, 알고리즘, 테스트), (우대) 적대적 ML(Adversarial ML), 보안 연구, 대규모 평가 인프라 경험.
기술 스택
LLMAgentsAdversarial MLData StructuresAlgorithmsTestingScalable Automation Infrastructure
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원Agent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, Connectors Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발Agent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&DB2B Marketing Lead, Korea
마케팅