며칠 전에 Cerebras라는 곳에서 Cerebras-GPT라는 것을 공개했습니다. OpenAI 제품은 돈 내고 사용해야 하니 오픈소스 대안은 일반적으로 GPT-J, BLOOM, OPT 등을 활용하는 것 같은데요, 대안이 하나 더 추가되었다고 볼 수 있을 것 같습니다.
물론 이것 말고도 전 세계의 여러 회사들과 단체들이 이것저것 공개하고 있는데 거기에 하나 더 추가되었다고 볼 수도 있는데, 기존 모델들보다 좀 더 효율적으로 학습할 수 있는 점이 흥미롭습니다. 코드, 모델, 데이터 등을 모두 공개해 놓았기 때문에 활용도도 높을 것 같구요.
이러한 것들이 앞으로 더 많이 공개될 텐데, training/inference 비용은 점점 더 낮아질 것이고 성능은 더 올라갈 것이므로 이러한 기술을 활용하여 서비스를 개발하는 입장에서는 즐거울 것 같네요 ㅎㅎ