GPT-3.5를 넘는 수준의 성능을 달성한 LLM 모델인 Mixtral 모델을, Together AI에서 최적화하여 가격을 극도로 낮춰 제공하기 시작했습니다.

가격은 1000토큰당 $0.0006로, gpt-3.5-turbo의 40%가 채 안되는 가격입니다.

GPT-3.5와 동급의 성능에 컨텍스트 윈도우는 두 배인 모델을 더 저렴하게 사용할 수 있게 되었다는 것은, 앞으로 고급 모델이 더 저렴해질 수 있다는 것을 의미하니 매우 의미 있는 소식이 아닐까하는데요.

반면에 Mixtral 모델을 오픈소스로 공개한 Mistral AI에서도 API를 제공하기 시작했는데, 곧바로 Together AI가 API 가격을 30%가량 저렴하게 내놓아서 Mistral AI의 입장에서는 김빠지는 일이었을 수도 있겠습니다.

물론 모델 공개를 통해 Mistral AI도 더 나은 기법들을 획득할 수 있었을 것이고, 이와 유사한 일이 생길 것을 예상 못하지는 않았을텐데요. 하지만 이런 사례들이 계속 생길 것이므로 머신러닝 모델에 대한 라이센스의 체계화도 앞으로 좀 더 고도화 될 필요가 있을 것 같습니다.