anthropic
Research Scientist/Engineer, Honesty
AI·머신러닝연구·R&D개발
AI 요약
앤스로픽(Anthropic)에서 언어 모델의 환각(Hallucination)을 최소화하고 진실성을 높이기 위한 Research Scientist/Engineer를 채용합니다. LLM 파인튜닝, RAG 시스템 구축, RLHF 등을 통해 모델의 신뢰성과 안전성을 확보하는 연구 및 엔지니어링 업무를 수행합니다.
주요 업무
모델의 지식에 기반한 학습 데이터의 정확성 검증 및 필터링 파이프라인 설계, 환각 및 오보정된 주장을 감지하는 전용 분류기 개발, 진실성 벤치마크 및 평가 프레임워크 유지 관리, RAG(검색 증강 생성) 시스템을 통한 모델 출력의 사실 근거 강화, 진실한 출력을 보상하고 허위 주장을 패널티화하는 RL 환경 설계 및 테스트, 인간 평가자가 모델의 정확성을 효율적으로 평가할 수 있는 도구 개발
자격 요건
컴퓨터 공학, 머신러닝(ML) 또는 관련 분야 석사/박사 학위(또는 학사 및 동등한 경험), Python 프로그래밍 숙련도, 언어 모델 파인튜닝 및 분류기 학습 실무 경험, 실험 설계 및 통계 분석 능력, AI 안전 및 모델의 정직성에 대한 높은 관심, LLM용 데이터셋 구축 및 큐레이션 경험, 모델 출력의 불확실성 및 진실성 지표에 대한 이해. (우대사항: 환각 방지/지식 통합 관련 논문 게재, RAG 및 사실 근거 기술 경험, RLHF 적용 경험, 인간 피드백 수집 시스템 운영 경험 등)
기술 스택
PythonMLLLMFinetuningRAGRLHFReinforcement LearningData ScienceStatistical Analysis