Mistral AI and NVIDIA Unveil Mistral NeMo 12B, a Cutting-Edge Enterprise AI Model
NVIDIA Blog
Mistral Nemo 12B 출시
Mistral이 NVIDIA와 합심하여 Mistral의 새로운 버전인 Mistral Nemo 12B를 출시했습니다.새로 출시된 Nemo는 영어, 불어, 독일어를 비롯한 다양한 다국어를 지원하며 128k의 긴 컨텍스트 윈도우로 광범위하고 복잡한 정보를 처리할 수 있어, 더욱 일관되고 맥락에 맞는 출력을 보장합니다. 또한, TikToken을 기초로 만든 새로운 토크나이저 Tekken을 차용하여 전처리 능력을 향상시켰으며, Nvidia의 TensorRT-LLM을 활용하여 가속화된 추론 성능을 제공합니다. Mistral Nemo 12B는 NVidia 생태계에서 이상적으로 작동할 수 있도록 구성되었습니다. 하며, GeForce 4050~4090 시리즈에서도 빠르게 정확한 결과를 제공한다고 합니다. FP8 데이터 형식을 사용하여 메모리 크기를 줄이고 배포 속도를 높이면서도 정확도 손실이 없어, 실시간 애플리케이션에 이상적이고, 특히 전작인 Mistral 7B를 사용하는 시스템을 즉시 대체할 수 있습니다. Mistral Nemo 12B는 주요 벤치마크인 MT Bench에서 7.84점을, MixEval Hard에서 0.534, IFEval-v5에서 0.629 의 정확도를 기록하였습니다.
https://blogs.nvidia.com/blog/mistral-nvidia-ai-model/
GPT4o Mini 출시
오픈AI가 GPT4o의 소형 모델 GPT4o Mini를 출시했습니다. GPT4o-mini는 128k의 긴 컨텍스트 윈도우를 지원하며, 모델의 Knowledge도 2023년 10월까지로 업데이트 되었습니다. 오픈AI는 GPT4o-mini의 텍스트와 비전API를 동시에 지원하며, 비디오와 오디오 기능도 근시일내에 지원할 예정이라고 합니다. GPT-4o mini는 텍스트 지능과 추론 능력을 측정하는 MMLU에서 82%의 점수를 받았으며, 수학 및 코딩 능력을 측정하는 MGSM, 코딩 성능을 측정하는 HumanEval에서도 87% 이상의 성능을 기록하며 75% 전후를 기록하는 Gemini Flash와 Claude Haiku 등의 주요 소형 MLLM을 제치고 SOTA를 기록하였습니다. 오픈AI는 GPT-4o mini를 GPT-3.5 터보보다 60% 이상 저렴하게 제공하겠다고 밝혔습니다.
https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/AI
개발자 과정의 압도적인 수준 차이! 입문자에서 전공자까지! 아이펠 9기 모집중 : https://bit.ly/4ePP8iK
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 7월 19일 오전 3:04