Researcher, Safety & Privacy

유해한 모델 행동을 탐지 및 완화하기 위한 프라이버시 우선 아키텍처 설계 및 구현. 고위험 콘텐츠(탈옥, 사이버 위협, 무기화 지침 등)의 감사 가능한 비공개 식별 프레임워크 구축. 유해 신호에 의해서만 트리거되는 엄격하고 감사 가능한 메커니즘 개발. 모든 수준에서 프라이버시를 보존하는 자동화된 안전 시스템 개발 주도. 프라이버시 보존 모니터링, 알고리즘 감사, 보안 엔클레이브 및 적대적 환경에 강한 안전 프로토콜 연구.

컴퓨터 과학, 암호학, 보안, 머신러닝 또는 관련 분야 박사 학위 소지자 또는 그에 준하는 실무 경험. 프라이버시 보존 연산(Secure Enclaves, MPC, Differential Privacy), 보안 및 적대적 시스템, 머신러닝 안전 또는 정렬(Alignment) 중 하나 이상의 분야에 대한 전문성. 모호한 문제를 공식적인 프레임워크 및 실제 배포 가능한 시스템으로 전환하는 능력. 적대적 위협 모델 하에서 견고한 시스템을 설계한 경험. AI 안전, 탈옥(Jailbreak) 탐지 또는 모델 정렬 관련 경험 우대. 프라이버시 보존 머신러닝 기법, 알고리즘 감사 및 보안 시스템 설계에 대한 이해도.