GPT API의 추론 속도를 이용해 모델 사이즈를 유추할 수 있다는 아이디어로 각 GPT 모델들의 사이즈를 유추해봤습니다. (@tomgoldsteincs)


사이즈가 알려져 있는 davinci 모델이 175B라는 것을 기준으로 계산을 해 보았더니 다음과 같이 나왔습니다.


• gpt-4: 484B

• gpt-4 turbo: 140B

• gpt-3.5-turbo: 117B

• gpt-3.5-turbo-instruct: 76B

• text-davinci-001: 70B


퀀타이제이션 등 모델별로 다른 최적화 기법을 사용하고 있을 수 있고, 서버 상황에 따라 속도가 다를 것이기 때문에 정확한 것은 아니고 재미정도로 보시는게 좋겠습니다.


그보다 멋진 일은, 이러한 계산을 GPT-4를 이용해 한 세션 내에서 쉽게 해결할 수 있게 되었다는 점 입니다.


이 결과는 @tomgoldsteincs님이 제시한 결과를 이용하고 아이디어를 더해 계산을 한 것인데요.


첨부 사진을 보시면 이미지 인식과 코드 생성을 한 세션 내에서 복합적으로 사용해 결과를 내는 것을 보실 수 있습니다.


정말 미래가 또 한 발짝 다가온 느낌이네요.

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2023년 11월 11일 오전 7:45

댓글 0

    함께 읽은 게시물

    한때 천만원에 거래되었던 Manus, Bedrock 무료 오픈소스로 공개

    ... 더 보기

    LinkedIn

    lnkd.in

    LinkedIn


    요즘 사람들이 가장 많이 AI를 활용하는 분야 Top 10

    1

    ... 더 보기

    How People Are Really Using Gen AI in 2025

    Harvard Business Review

    How People Are Really Using Gen AI in 2025

     • 

    저장 6 • 조회 879


    IT 직무로 해외 취업을 고려하는 분들에게 드리고 싶은 말 [2]

    해외에서 직장인과 유학생을 경험하며 지내다보니 벌써 13년차가 되었네요. 요즘 IT 업계쪽에서 해외 취업을 많이 고민하시는 분들의 글이 보입니다.

    ... 더 보기

     • 

    저장 30 • 조회 4,253