anthropic
Research Engineer / Scientist, Alignment Science
AI·머신러닝연구·R&D개발
AI 요약
Anthropic에서 AI 시스템의 안전성과 정렬(Alignment)을 연구하는 'Alignment Science' 팀의 연구 엔지니어를 채용합니다. 강력한 AI 시스템이 인간에게 유익하고 무해하게 작동하도록 머신러닝 실험을 설계하고 실행하며, 확장 가능한 감독 및 AI 제어 기술을 개발하는 것이 핵심입니다.
주요 업무
AI 안전성 및 정렬을 위한 ML 실험 설계 및 실행, 확장 가능한 감독(Scalable Oversight) 및 AI 제어 기술 개발, 모델 오정렬(Misalignment) 분석을 위한 스트레스 테스트, 자동화된 정렬 연구 시스템 구축, 연구 논문 및 기술 블로그 작성 기여.
자격 요건
소프트웨어, 머신러닝(ML) 또는 연구 엔지니어링 분야의 상당한 경험, 실증적인 AI 연구 프로젝트 기여 경험, 기술적 AI 안전 연구에 대한 이해도, 협업 중심의 업무 방식 선호. (우대사항) ML, NLP 또는 AI 안전 관련 연구 논문 저술 경험, LLM(대규모 언어 모델) 및 강화 학습(RL) 경험, Kubernetes 클러스터 및 복잡한 공유 코드베이스 활용 능력.
기술 스택
Machine LearningLLMReinforcement LearningNLPKubernetesPython