๐ ๋์ ์ฑ๋ฅ์ Llama 3์ ๋งค์ฐ ๋น ๋ฅธ ์ถ๋ก ์๋์ ์ธํ๋ผ๋ฅผ ์ ๊ณตํ๋ Groq๊ฐ ๋ง๋๋ ์ ๋ง ๋๋จํ๋ค์.
70B ํ๋ชจ๋ธ ๊ธฐ์ค์ผ๋ก, ์ถ๋ก ์๋๋ 280TPS, ๊ฐ๊ฒฉ์ 1๋ฐฑ๋ง ํ ํฐ๋น ํ๊ท USD 1๋ฌ๋ฌ๊ฐ ์ฑ ์๋ฉ๋๋ค.
์ฆ, ์ฑ๋ฅ์ ๊ฐ์ฅ ๋์ Claude 3 Opus๋ GPT-4 ์์ค์ธ๋ฐ, ์๋์ ๊ฐ๊ฒฉ์ ํด๋ก์ฆ๋ LLM API ์ค ๊ฐ์ฅ ์ ๋ ดํ Claude 3 Haiku ์์ค์ด๋ผ๋ ์ด์ผ๊ธฐ.
AI์ ๋์คํ๊ฐ ํจ์ฌ ์๋น๊ฒจ์ง ๊ฒ ๊ฐ์ต๋๋ค.
๋ ๋ง์ ์ฝํ ์ธ ๋ฅผ ๋ณด๊ณ ์ถ๋ค๋ฉด?
์ด๋ฏธ ํ์์ด์ ๊ฐ์?
2024๋ 4์ 20์ผ ์ค์ 7:44