[240520] 모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🤵‍♂️ 빠르다 빨라 AI 세상

1. Chameleon: 멀티 모달 작업을 위한 초기 융합 토큰 기반 모델의 개발 및 성능 평가

카멜레온은 이미지와 텍스트를 포함한 임의의 시퀀스를 이해하고 생성할 수 있는 초기 융합 토큰 기반의 혼합 모달 모델 제품군입니다. 이 모델은 안정적인 훈련 접근법과 아키텍처 매개변수화를 채택하여 다양한 혼합 모달 작업에서 최첨단 성능을 달성했습니다. 특히, 이미지 캡션과 긴 형식의 혼합 모달 생성에서 뛰어난 결과를 보였으며, 기존 모델들과 경쟁하면서 텍스트 전용 작업에서는 Llama-2를 능가하는 성능을 보였습니다. 카멜레온은 멀티모달 문서의 통합 모델링 분야에서 중요한 진전을 이루었으며, 사람의 직접 평가에서도 큰 모델들과 동등하거나 그 이상의 성능을 입증했습니다.
Paper page - Chameleon: Mixed-Modal Early-Fusion Foundation Models (huggingface.co)

2. 더 적게 배우고 더 적게 잊어버리는 LoRA에 대한 추가 연구
낮은 순위 적응(LoRA)은 대규모 언어 모델의 매개변수 효율적인 미세 조정 방법으로, 메모리 절감을 위해 선택된 가중치 행렬에 낮은 순위의 섭동만을 훈련합니다. 프로그래밍과 수학 도메인에서의 실험을 통해 LoRA는 전체 미세 조정 방법에 비해 일반적으로 성능이 낮은 것으로 나타났지만, 목표 도메인 외의 작업에서 기본 모델의 성능을 더 잘 유지하는 강력한 정규화 혜택을 제공합니다. 또한, LoRA는 가중치 붕괴와 드롭아웃에 비해 다양한 생성을 더 잘 유지하는 데 도움이 됩니다. 이 연구는 LoRA를 사용한 미세 조정의 모범 사례를 제시하며, 이는 미세 조정에서 격차를 줄이는 데 기여할 수 있습니다.
Paper page - LoRA Learns Less and Forgets Less (huggingface.co)

-

🦸‍♂️ 오늘의 SW 스피드웨건

1. Flutter 3.22의 새로운 기능

Flutter 3.22에서는 WebAssembly의 안정 채널 도입과 함께 Vulkan 백엔드를 완성하여 안드로이드에서 더 부드러운 그래픽과 성능 향상을 제공합니다. 새로운 위젯 상태 속성, 동적 뷰 크기 조정, 향상된 폼 유효성 검사 기능도 추가되었습니다. 다양한 기능들이 포함된 이번 업데이트를 통해 Flutter 개발자들은 더 강력하고 유연한 앱을 제작할 수 있게 되었습니다. 최신 버전으로 업그레이드하여 새로운 기능들을 경험해 보시기 바랍니다.
https://medium.com/flutter/whats-new-in-flutter-3-22-fbde6c164fe3

2. Flutter, React Native, Ionic으로 동일한 앱을 빌드 경험.
Flutter, React Native, Ionic 세 가지 프레임워크를 비교한 결과, Flutter는 빠른 Hot Reload와 네이티브 성능을 제공하지만 코드 중첩이 복잡했습니다. React Native는 간결한 코드와 모듈화가 장점이지만 설정이 까다로웠고, 이미지 표시 문제도 있었습니다. Ionic은 익숙한 웹 기술로 빠르게 개발할 수 있었고, UI 컴포넌트가 풍부하며 문서화도 잘 되어 있었습니다. 앱 크기와 성능 면에서 Flutter가 우세했고, React Native는 설치된 상위 앱에서 높은 비율을 차지했습니다. 각 프레임워크는 장단점이 있어 프로젝트에 맞는 선택이 중요합니다.
https://news.hada.io/topic?id=14893

-

💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej