모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 AI 커뮤니티입니다.

1. VanJS: React/JSX사용하지 않는 Reactive UI Framework

VanJS(Vanilla JavaScript)는 순수 Vanilla JavaScript와 DOM을 기반으로 하는 초경량, 제로 종속성, 무소속성 반응형 UI 프레임워크입니다. VanJS로 프로그래밍하면 JSX 없이 스크립트 언어로 React 앱을 빌드하는 것과 같은 느낌이 듭니다.

https://vanjs.org/

2. 구글, 플레이스토어 반독점 혐의로 미국 주와 소비자에게 7억 달러 지급 예정

구글이 안드로이드 앱 스토어에서의 경쟁 저해 혐의와 관련하여 7억 달러를 지불하고 여러 조치를 취하기로 합의했습니다. 이번 합의는 미국 소비자에게 6억 3천만 달러를 보상하는 것을 포함하며, 구글은 앱 내에서 디지털 거래 비용을 상승시킨 것으로 주장됩니다. 구글은 앱 내 구매에 대해 15%에서 30%의 수수료를 부과하는데, 이것이 가격을 인위적으로 높였다고 주 검찰총장이 주장했습니다.

https://news.hada.io/topic?id=12456

3. 플래시 메모리 기반 대규모 언어 모델 추론 최적화

대규모 언어 모델(LLM)은 자연어 처리에서 중요한 역할을 하지만, 고도의 연산 및 메모리 요구로 인해 DRAM 용량이 제한된 디바이스에서는 실행이 어려울 수 있습니다. 이 논문에서는 모델 파라미터를 플래시 메모리에 저장하고 필요에 따라 DRAM으로 가져와서 사용 가능한 DRAM 용량을 초과하는 LLM을 효율적으로 실행하는 방법을 제시합니다. 이 방법은 플래시 메모리 동작에 맞춘 추론 비용 모델을 통해 데이터 전송량을 줄이고, ‘윈도우링‘과 ‘행-열 번들링‘이라는 두 가지 기술을 소개합니다. ‘윈도우링‘은 이전에 활성화된 뉴런을 재사용하여 데이터 전송을 줄이는 방법이고, ‘행-열 번들링‘은 플래시 메모리의 순차적 데이터 액세스 강점을 활용하여 읽는 데이터 청크의 크기를 늘리는 방법입니다. 이러한 접근 방식은 CPU와 GPU에서의 네이티브 로딩 방식에 비해 추론 속도를 대폭 향상시켜, 메모리 제한 장치에서 LLM을 효과적으로 추론할 수 있게 합니다.

https://huggingface.co/papers/2312.11514

4. Gemini: 멀티모달 애플리케이션을 위한 대규모 모델 제품군

Gemini 공식 리포트가 나와서 공유합니다. Gemini는 울트라, 프로, 나노 사이즈로 구성되어 있으며 복잡한 추론 작업부터 온디바이스 메모리 제약이 있는 사용 사례에 이르기까지 다양한 애플리케이션에 적합합니다. 다양한 벤치마크에 대한 평가 결과, 가장 성능이 뛰어난 Gemini Ultra 모델은 32개 벤치마크 중 30개에서 최신 기술을 앞섰으며, 특히 잘 연구된 시험 벤치마크인 MMLU에서 인간 전문가 수준의 성능을 달성한 최초의 모델이고, 20개의 멀티모달 벤치마크 중 모든 벤치마크에서 최신 기술을 향상시켰습니다. 또한 이번 리포트에서는 다른 모델 리포트와 달리 사용자에게 책임감 있게 배포하기 위한 접근 방식에 대해 논의하니 전체적인 개발과정을 알고 싶다면 참고해보셔도 좋을것 같습니다!

https://huggingface.co/papers/2312.11805

---

🥇K-디지털 트레이닝 훈련 기관 유일!

대통령 표창 수상한 모두의연구소의 SW/AI 교육

7만 여명의 수강생 평점 4.8 제주코딩베이스캠프와 함께!

‘인공지능(AI) 모델 활용 백엔드 개발 과정’ 무료 지원하기: https://bit.ly/3SZC9Ts