네이버와 삼성전자가 협력하여 제작중인 AI반도체의 설계가 마무리 단계라고 합니다.


저전력·고효율을 구현하는데 초점을 뒀다고 하는데요,

LLM을 압축하면 그에 비례해 연산과 추론속도가 높아지는 특징을 가진다고 합니다.


또한, 기존에는 330억개의 매개변수를 가지는 meta의 LLaMA를 돌리기 위해서도 2개 이상의 반도체가 필요했는데 반해

이 AI반도체 하나로 최대 2500억개 매개변수를 가진 모델을 구동할 수도 있다고 합니다.


LLM의 서비스 비용이 점점 감소될 수 있는 환경이 마련되어 가는듯 하네요

AI반도체 '연합' 네이버·삼성...설계 마무리 수순, 양산 '초읽기'

n.news.naver.com

AI반도체 '연합' 네이버·삼성...설계 마무리 수순, 양산 '초읽기'

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2023년 12월 21일 오후 4:04

댓글 0