allenai
Young Investigator, FlexOlmo
AI 요약
Allen AI (Ai2)에서 유연한 데이터 사용을 위한 대규모 언어 모델(LLM) 연구를 수행할 박사 후 연구원(Postdoctoral Young Investigator)을 모집합니다. Mixture-of-Experts (MoE), 장문 맥락 언어 모델(LCLMs), 검색(retrieval) 기술에 중점을 두며, Berkeley, CA에서 원격 근무가 가능합니다. 연구 프로젝트 정의 및 주도, 최신 모델 훈련 및 배포, 오픈소스 소프트웨어 구축, 논문 작성 등의 업무를 수행하며, 박사 학위 소지자 또는 취득 예정자를 대상으로 합니다. 1-3년 계약직이며, 경쟁력 있는 급여와 비자 지원이 제공됩니다.
주요 업무
유연한 데이터 사용을 위한 대규모 언어 모델(LLM) 연구 수행, Mixture-of-Experts (MoE), 장문 맥락 언어 모델(LCLMs), 검색(retrieval) 기술에 중점, 고영향 연구 프로젝트 정의 및 주도, 최신 모델 훈련 및 배포, 오픈소스 소프트웨어 구축, 학술 논문 작성, 박사 과정 학생 및 인턴 멘토링, 연구비 지원 및 교육 관련 학술 활동 멘토링.
자격 요건
컴퓨터 과학 또는 관련 분야 박사 학위 소지자 또는 취득 예정자 (박사 학위 취득 1년 이내), 기계 학습, 자연어 처리, 언어 및 비전 또는 관련 분야 연구 경험, 뛰어난 개인 기여(IC) 기술 (특히 딥러닝 프레임워크 PyTorch), AI 관련 학회 (NeurIPS, ICLR, ICML, COLM, ACL, EMNLP 등)에서의 우수한 논문 발표 실적, 대규모 언어 모델, 훈련 동역학, 스케일링 법칙, 데이터 큐레이션 등 광범위한 연구 경험. Mixture-of-experts, 장문 맥락 언어 모델, 검색 경험 우대. Berkeley, CA 거주 또는 이주 가능자.
기술 스택
PythonPyTorchMachine LearningNatural Language ProcessingLarge Language ModelsMixture-of-ExpertsLong-Context Language ModelsRetrieval