anthropic
Software Engineer, Safeguards Foundations (Internal Tooling)
개발보안AI·머신러닝
AI 요약
Anthropic의 Safeguards Foundations 팀에서 AI 오남용 탐지 및 대응을 위한 내부 도구와 인프라를 구축할 소프트웨어 엔지니어를 채용합니다. 풀스택 역량을 바탕으로 분석가들이 사용하는 케이스 관리 및 조사 시스템을 개발하며, AI 안전 미션의 핵심적인 역할을 수행합니다.
주요 업무
- Safeguards 분석가를 위한 내부 검토 및 집행 도구(케이스 큐, 콘텐츠 검토 화면, 감사 로그 등) 설계 및 구축
- 재사용 가능한 API, 데이터 저장소 및 백엔드 서비스 개발
- 운영 및 정책 팀과 협업하여 사용자 페인포인트 분석 및 제품 개선
- 탐지 시스템과 집행 인프라 간의 도구 통합
- 민감한 도구를 위한 권한 관리, 감사 추적, 데이터 접근 제어 등 가드레일 구축
- 도구 활용 지표(처리량, 결정 품질 등) 모니터링 및 대시보드 구축
자격 요건
- 4년 이상의 소프트웨어 엔지니어링 경험 (내부 도구, 운영 플랫폼 또는 백오피스 제품 구축 경험 선호)
- React, TypeScript, Python 숙련도
- Claude Code와 같은 에이전트 기반 코딩 도구를 워크플로우의 핵심으로 활용할 수 있는 능력
- 제품 중심적 사고 및 비기술직 이해관계자와의 명확한 커뮤니케이션 능력
- (우대) Trust & Safety, 콘텐츠 모더레이션, 부정행위 방지 또는 리스크 운영 환경에서의 도구 구축 경험
- (우대) GCP/AWS, Postgres/BigQuery, CI/CD 환경 경험
- (우대) LLM을 활용한 자동 분류, 요약 등 운영 도구 통합 경험
기술 스택
ReactTypeScriptPythonGCPAWSPostgresBigQueryCI/CDClaude CodeLLM