NVIDIA에서 Llama-3.1-Nemotron-70B 모델을 발표하였습니다.

몇몇 벤치에서 GPT-4o 와 Claude 3.5 Sonnet 보다 더 우수하다는 결과를 내놓았는데요. 사용기를 보면 실제 평가도 상당히 좋은것으로 보입니다.

그런데 고객사인 이들을 놔두고 굳이 경쟁적인 모델을 보여주는 이유가 무엇일까요?

AI 산업이 엄청난 전력과 부동산 규모를 필요로 하는 만큼 고객 자체가 굉장히 한정적일 수도 있다는 생각이 듭니다. 하지만 중소규모 회사에서 학습을 하지 않고 서빙만 한다면? 추가적인 수요를 기대해볼수도 있겠네요.

아래는 관련 링크입니다.

챗 UI 형식. 바로 활용할 수 있는 코드를 첨부한게 인상적.

https://build.nvidia.com/nvidia/llama-3_1-nemotron-70b-instruct

허깅페이스

https://huggingface.co/nvidia/Llama-3.1-Nemotron-70B-Instruct