한국의 AI 회사 Upstage의 모델인 SOLAR 10B이 허깅페이스의 LLM 리더보드 1위에 등극했네요. 🎉


70B까지의 모델들 중 평균적으로 가장 높은 성능을 보였는데요. 드물게 RL tuning까지 진행한 모델로, base 모델과 tuning 모델을 모두 공개했습니다.


무엇보다 최근 MoE 모델로 화제가 되고 있는 Mixtral이 12위에 그친 것을 보면 대단한 성과가 아닐 수 업스ㅂ니다. 😎


아쉬운 점은 가장 중요하게 보고 있는 MMLU와 GSM8K 성능이 상대적으로 떨어진다는 것인데요. RL 튜닝 기술을 가지고 있으니 해당 부분도 금방 성능을 올리지 않을까 싶습니다.


그동안 한국어 모델들이 많이 나오긴 했어도 성능이 조금 아쉬운차였는데요. 이를 시작으로 앞으로 한국어도 높은 성능으로 사용할 수 있길 기대 해 봅니다.

더 많은 콘텐츠를 보고 싶다면?

또는

이미 회원이신가요?

2023년 12월 14일 오후 1:21

댓글 0

    함께 읽은 게시물

    반드시 알아야 하는 7가지 데이터베이스 확장성 전략

    1. Materialized Views:

    ... 더 보기

     • 

    저장 215 • 조회 5,447



    < 진보는 조용히 오고, 파괴는 시끄럽게 온다 >

    1. 문제는 고쳐지고 사람들은 적응한다. 위협이 크면 해결책이 나올 동인도 똑같이 커진다.

    ... 더 보기