openai
Abuse Investigator (AI Self-Improvement Risk)
AI·머신러닝보안연구·R&D
AI 요약
OpenAI에서 AI의 자율성 및 에이전트적 위험(Agentic Risk)을 조사하고 분석하는 'Abuse Investigator'를 채용합니다. 모델의 다단계 계획, 도구 사용, 자율적 행동 등에서 발생하는 안전 리스크를 식별하고 가드레일을 개선하는 역할을 수행합니다.
주요 업무
모델 행동 검토 및 에이전트/자율 패턴 식별; 다단계 계획, 기능 체이닝, 도구 사용, 지속성 및 우회 행동 분석; 에이전트 위험 패턴의 선제적 식별을 위한 신호 및 추적 전략 개발; 기존 가드레일, 평가 또는 모니터링 시스템의 격차 식별 및 개선 제안; 조사 결과를 기술, 정책 및 리더십 이해관계자에게 명확하게 전달.
자격 요건
AI 안전, 보안, 사이버 또는 신뢰 및 안전 환경에서의 복잡하고 적대적인 시스템 행동 조사 전문성; SQL, Python 또는 유사 도구를 활용한 기술 조사 숙련도; 다단계 시스템, 자동화 또는 에이전트 워크플로우 분석 및 상호작용 이해 경험; 복잡하고 모호한 도메인에서의 조사, 위협 분석 또는 연구 경력 6년 이상; AI 또는 소프트웨어 시스템의 실패 모드 및 의도치 않은 행동 식별 경험; 자동화되거나 확장 가능한 탐지/조사 접근 방식 개발 경험 2년 이상; 기술, 연구 또는 정책 환경에서의 분석 결과 발표 경험.
기술 스택
SQLPythonLLMAgentic SystemsMLOps
openai의 다른 공고
Workforce Program Manager, Global Affairs
경영지원Agent Post-Training, API & Power Users
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Computer Use Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Personality
AI·머신러닝, 연구·R&DAgent Post-Training, Connectors Research
AI·머신러닝, 연구·R&D, 개발Agent Post-Training, Frontier Evals and Environments Research
연구·R&D, AI·머신러닝, 개발Agent Post-Training, Artifacts Research
AI·머신러닝, 연구·R&DB2B Marketing Lead, Korea
마케팅