OpenAI에서 아기다리고기다리던 새로운 임베딩 모델을 발표했습니다.

애매했던 ada라는 이름을 버리고, text-embedding-3 라는 이름으로, small/large의 두 종류를 발표했는데요.

small 모델도 다음처럼 기존의 모델보다 성능이 대폭 상승했습니다.

📊 MIRACL

ada: 31.4

v3-small: 44.0

v3-large: 54.9

📊 MTEB

ada: 61.0

v3-small: 62.3

v3-large: 64.6

MTEB의 경우 허깅페이스의 리더보드에서 3위와 동일한 점수입니다. 다만, 이건 영어 대상이고, 다국어의 경우 OpenAI의 모델이 대체로 언어를 넘어 일정하게 좋은 편이라 다국어를 사용할 수 있는 모델로는 거의 유일합니다. (Cohere가 견줄만한 수준)

더불어 small 모델의 경우 임베딩 차원수가 기존과 같은 1536, large 는 3072 인데요. small과 large 모두 사용하는 차원을 1024, 512, 256 등으로 줄여서 받을 수 있고, 차원을 줄여도 ada 보다 좋은 성능을 낼 수 있다고 합니다.

따라서 RAG를 위한 벡터 서치 등의 사용시 추가적으로 부하와 가격을 크게 줄일 수 있습니다.

그 외(?)에 GPT-3.5 Turbo와 GPT-4 Turbo 모델도 업데이트가 되었는데요.

두 모델 전부 다국어 출력에 대한 문제점을 해결했으며, GPT-4 Turbo는 코드를 전부 작성하지 않는 것과 같은 '게으름' 문제가 해결되었다고 합니다.

그리고 무엇보다, 또(!) 가격을 인하했습니다!

💵 Embedding 모델 가격 (1K 토큰당)

- ada: $0.0001

- v3-small: $0.00002 (-80%)

- v3-large: $0.00013 (+30%)

💵 GPT-3.5 Turbo 모델 가격

- Input: $0.0005 (-50%)

- Output: $0.0015 (-25%)

보통이라면 성능을 올리면 가격을 올리거나 같은 가격으로 서비스하기 마련인데요. OpenAI는 매번 성능을 올린 새로운 모델을 발표하면서 가격을 내리는데, 이번에도 역시 가격을 인하했습니다.

제가 생각하는 OpenAI의 가장 강력한 혁신은 바로 이것이라고 생각합니다.

샘 알트먼이 이를 위해 에너지 회사나 AI 칩 스타트업에도 많은 투자를 하고 있다고 알려져 있는데요. 이 가격 혁신이 과연 어디까지 갈 지, 이것도 역시 아주 중요한 관전포인트가 될 것 같습니다.