🩵 모두의연구소는 함께 공유하고 성장하는 국내 최대 AI 커뮤니티입니다. 그럼, 오늘의 AI 뉴스 시작해 볼게요! 1️⃣ [대규모 언어 모델의 압축 능력: Chinchilla 70B의 성능 평가 및 응용](https://huggingface.co/papers/2309.10668) 예측 모델을 압축기로 변환하는 것은 확립된 개념이며, 최근 대규모 언어 모델의 훈련이 강조되었습니다. 이러한 모델은 높은 예측 능력을 가지기 때문에 효과적인 압축기로 작용할 수 있습니다. 이 연구에서는 대규모 언어 모델의 압축 능력을 중점으로 평가하였으며, 결과로 Chinchilla 70B는 특정 도메인 압축기보다 더 높은 압축 효율을 보였습니다. 또한, 예측과 압축의 동등성을 통해 gzip과 같은 기존 압축기를 사용하여 조건부 생성 모델을 구축할 수 있음을 제시하였습니다. 2️⃣ [LLM의 RLHF 최적화: 어드밴티지 모델과 선택적 리허설의 도입](https://huggingface.co/papers/2309.10202) 대규모 언어 모델(LLM)은 자연어 처리 분야에 혁신을 가져왔으나, RLHF를 통해 모델을 인간의 가치와 선호도에 맞게 조절하는 것은 큰 도전과제로 남아있습니다. 이 도전과제는 보상 해킹과 치명적인 망각 같은 문제들을 포함하고 있습니다. 이를 해결하기 위해 두 가지 혁신적인 방안을 제안합니다: 1) 어드밴티지 모델은 보상 해킹을 방지하기 위해 예상되는 보상과 추가 보상의 차이를 모델링합니다. 2) 선택적 리허설은 치명적인 망각을 줄이기 위해 특정 데이터를 선택하여 PPO 훈련과 지식을 재구성합니다. 이 방법들은 실험 결과 안정성을 높이고, 더 높은 보상 점수와 승리율을 달성하였습니다. 3️⃣ [언어 에이전트 연구: AGENTS 라이브러리와 프레임워크의 소개](https://huggingface.co/papers/2309.07870) 이 논문은 언어 에이전트(language agents)에 대한 연구를 다룹니다. 큰 언어 모델(Large Language Models, LLMs)은 ChatGPT와 같은 도구를 통해 환경, 인간 또는 다른 에이전트와 상호 작용하며 복잡한 작업을 자동으로 해결할 수 있는 자율 에이전트를 구축하는 데 사용됩니다. 이러한 언어 에이전트는 인공 일반 지능(AGI)로의 약속된 단계이며 고객 서비스, 컨설팅, 프로그래밍, 글쓰기, 교육 등의 역할에서 인간의 노력을 줄일 수 있습니다. 이 논문에서는 AGENTS라는 언어 에이전트를 위한 오픈 소스 라이브러리와 프레임워크를 소개합니다. AGENTS의 주요 목표는 언어 에이전트의 사용자 정의, 조정 및 배포를 비전문가에게도 간단하게 만드는 것입니다. 또한, 이 라이브러리는 언어 에이전트에 대한 다양한 프레임워크로서의 주요 기능을 제공합니다. — 🥇 K-디지털 트레이닝 훈련기관 최초! '대통령 표창' 수상한 모두의연구소의 AI학교 아이펠 입학하기 → https://bit.ly/3YDkLV4