🩵 모두의연구소는 함께 공유하고 성장하는 국내 최대 AI 커뮤니티입니다. 그럼, 오늘의 AI 뉴스 시작해 볼게요! 1️⃣ [대규모 언어 모델 배포를 위한 최신 효율성 향상 기술 소개](https://huggingface.co/blog/optimize-llm) Hugging Face에서 LLM을 손쉽게 사용할 수 있는 방법을 알려주었습니다. 최근의 대규모 언어 모델(GPT3/4, Falcon, LLama 등)은 인간 수준의 텍스트 이해와 생성 능력을 발휘하기 위해 수십억 개의 파라미터를 필요로 하며, 이로 인해 메모리 요구량이 크게 증가하게 됩니다. 이러한 모델은 또한 광범위한 컨텍스트 정보를 처리해야 하기 때문에 긴 입력 시퀀스를 관리하는 기능도 필요로 합니다. 이번 블로그에서는 LLM의 효율적인 배포를 위해 이 문제들을 해결하는 현재의 기술들을 소개하고 있습니다. 그 중에는 낮은 정밀도 연산, 플래시 주의라는 어텐션 알고리즘 변형, 그리고 효율적인 추론을 위한 새로운 모델 아키텍처 등이 포함됩니다. 이러한 기술들은 LLM의 성능을 유지하면서도 효율성을 향상시키는 데 중요한 역할을 합니다. 2️⃣ [MediaPipe FaceStylizer: 모바일 AR에서의 효율적인 얼굴 스타일링 솔루션](https://blog.research.google/2023/09/mediapipe-facestylizer-on-device-real.html) 최근 모바일 애플리케이션에서의 증강 현실(AR) 경험에 대한 관심이 증가하면서 고품질의 얼굴 생성 및 편집 모델, 특히 GAN 기반의 모델에 대한 수요가 높아지고 있습니다. 하지만 이러한 GAN 모델은 복잡하며 대규모의 훈련 데이터가 필요합니다. 이에 MediaPipe FaceStylizer는 위의 문제를 해결하면서 Google의 AI 원칙을 준수하는 얼굴 스타일링 솔루션을 제공합니다. 이는 경량이면서도 고품질의 이미지 생성을 가능하게 하며, 오픈 소스로 제공됩니다. 사용자는 손쉽게 이를 사용하여 개인화된 얼굴 스타일링 애플리케이션을 만들 수 있습니다. 3️⃣ [프롬프트 엔지니어링 꿀팁 대방출 (feat. 앤드류 응)](https://modulabs.co.kr/blog/prompt-engineering/) 프롬프트 엔지니어링에 대한 모두연 블로그 글이 나왔습니다! 프롬프트 엔지니어링이 대두된 이유는 현재 LLM은 지시사항에 맞춰 훈련된 모델이기 때문입니다. 프롬프트 엔지니어링에서 중요한 사항은 크게 2가지로 명확하고 구체적인 지시를 작성하기, AI 모델에게 생각할 시간을 주기로 줄 수 있습니다. 프롬프트 엔지니어링은 같은 모델로 물어본다고 하더라도 어떻게 물어보느냐에 따라 성능 차이가 발생하는 것에 기인하기 때문에 앞으로도 발전가능성이 높은 분야라고 생각합니다. — 🥇 K-디지털 트레이닝 훈련기관 최초! '대통령 표창' 수상한 모두의연구소의 AI학교 아이펠 입학하기 → https://bit.ly/3YDkLV4