모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스
1. "애플, 데이터센터용 AI 반도체 개발 중"…AI 반전 노리나
https://n.news.naver.com/mnews/article/008/0005034733

2. 유재석·홍진경 사칭 잡아낸다…1200억원대 사기 범죄 막는 마크비전
https://n.news.naver.com/mnews/article/015/0004981174

-

🤵‍♂️ 빠르다 빨라 AI 세상
1. PROMETHEUS 2: 상용 언어 모델 평가자를 능가하는 오픈소스의 힘
이 논문은 오픈소스 언어 모델 PROMETHEUS 2를 소개하여, 다른 언어 모델의 응답을 평가하는 데 특화된 모델을 제시합니다. PROMETHEUS 2는 기존의 오픈소스 평가 모델들과 달리, 직접 평가(direct assessment)와 쌍대 비교(pairwise ranking)를 모두 수행할 수 있으며, 사용자 정의 평가 기준에 따라 평가할 수 있습니다. 4개의 직접 평가 벤치마크와 4개의 쌍대 비교 벤치마크에서 PROMETHEUS 2는 인간 평가자 및 상용 언어 모델 평가자와 가장 높은 상관관계와 일치도를 보였습니다. 이는 직접 평가와 쌍대 비교에 각각 학습된 두 모델의 가중치를 병합하는 방법을 통해 달성되었습니다.
https://arxiv.org/pdf/2405.01535

2. LoRA 파인튜닝의 혁신: 기본 모델과 GPT-4를 능가하는 성능
이 기술 보고서에서는 10개 기본 모델과 31개 작업에 걸쳐 LoRA로 파인튜닝된 310개의 LLM을 평가한 결과, 4-bit LoRA 파인튜닝 모델이 기본 모델보다 34점, GPT-4보다 10점 우수한 성능을 보였습니다. Mistral-7B와 Zephyr-7B가 LoRA 파인튜닝에 가장 효과적인 기본 모델로 나타났고, 작업 복잡성 휴리스틱이 파인튜닝 성능 향상을 예측하는 데 유용함을 확인했습니다. 또한 LoRAX 프레임워크를 통해 단일 GPU에서 25개의 LoRA 파인튜닝 모델을 서빙하는 LoRA Land 웹 앱을 시연함으로써, 전문화된 여러 LLM을 배포하는 것이 범용 LLM 하나를 사용하는 것보다 품질과 비용 효율성 측면에서 우수함을 보여줍니다.
https://huggingface.co/papers/2405.00732

-

🦸‍♂️ 오늘의 SW 스피드웨건
1. Rust가 C++를 없애지 않는 이유
C++과 Rust에 대한 인터넷의 논쟁은 C++의 존폐를 과장한다. C++은 향후 오랜 시간동안 유지될 것이다. C++은 기본 개념을 이해하는 데 도움이 되며, 수익성 있는 직업 기회를 제공한다. 또한, C++의 개발자 인력은 Rust보다 풍부하며, 이는 중요한 산업 분야에서 더 높은 생산성을 도모한다. Rust가 C++을 완전히 대체할 가능성은 낮다.
https://societysbackend.com/p/why-rust-isnt-killing-c

2. python 컴파일
이 글은 Python이 컴파일과 해석의 원리를 탐구하며, 이 둘의 차이를 강조하고, 파이썬 코드 작성에 미치는 영향을 분석한다. 파이썬은 해석기를 사용하여 코드를 실행하며, 컴파일 과정 없이 변경 사항을 즉시 테스트할 수 있어 개발 주기를 빠르게 만든다. 그러나 해석 과정에서는 실행이 느려질 수 있으며, 컴파일의 일부 형태로 compile() 함수를 제공한다. 컴파일이 필요한 경우에는 JIT 컴파일 또는 확장 모듈 작성과 같은 특정 상황에서 사용된다.
https://blogtheday.com/python-compile/

-

🤖 AI학교 아이펠 데이터 사이언티스트 온라인 과정 ► https://bit.ly/3JjDKNu
💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej