anthropic
Machine Learning Engineer, Safeguards
개발AI·머신러닝연구·R&D
AI 요약
Anthropic에서 AI 시스템의 안전성과 감독 메커니즘을 구축할 Safeguards 머신러닝 엔지니어를 채용합니다. 유해 행동 및 이상 징후를 감지하는 모델을 개발하고 운영 시스템에 통합하여 사용자 안전을 보장하는 역할을 수행하며, 4년 이상의 ML 엔지니어링 경험과 Python, LLM, PyTorch 등의 기술 역량이 요구됩니다.
주요 업무
- 사용자 및 API 파트너의 원치 않는 행동이나 이상 징후를 감지하는 ML 모델 구축 및 프로덕션 통합
- 자동화된 탐지 및 집행 시스템 개선
- 부적절한 계정 보고서 분석 및 유사 사례 선제적 탐지 모델 개발
- 학대 패턴을 연구팀에 전달하여 학습 단계에서의 모델 강화 지원
자격 요건
- 4년 이상의 연구/ML 엔지니어링 또는 응용 연구 과학자 경력 (AI 안전 분야 선호)
- Python, LLM, SQL 및 데이터 분석/마이닝 도구 숙련도
- 행동 분류기 또는 이상 탐지 등 안전한 AI/ML 시스템 구축 능력
- 복잡한 기술 개념을 비기술직 이해관계자에게 설명할 수 있는 커뮤니케이션 능력
- (우대) Scikit-Learn, TensorFlow, PyTorch 등 ML 프레임워크 경험
- (우대) 고성능 대규모 ML 시스템, 트랜스포머 언어 모델링, 강화 학습, 대규모 ETL 경험
- 관련 분야 학사 학위 이상 또는 그에 준하는 경력
기술 스택
PythonLLMsSQLScikit-LearnTensorFlowPyTorchTransformersReinforcement LearningETL