StabilityAI에서 StableLM 공개

Stable Diffusion으로 유명한 StabilityAI는 LLM 또한 개발중으로 알려졌었는데 오늘 그 결과물을 StableLM이라는 이름으로 공개했습니다. 일단은 3B, 7B 모델만 공개하였고 base model 과 대화 데이터에 RL로 학습한 tuning 한 모델 두가지로 공개를 했습니다. 라이센스가 commercial 사용이 안되는 부분이 있어서 좀 아쉽네요. Model 코드와 pretrained weight 등을 모두 공개해 놓았기 때문에 자세한 정보들을 모두 확인 가능합니다. 앞으로 175B 사이즈의 모델까지 공개할 예정이라고 합니다. 테스트 해 보면 아직까지 성능 면에서 다른 여러 공개된 LLM들에 비해 차별점을 갖는다고 보기는 어려울 것 같지만, 아직 alpha 버전인 만큼 기대가 되는 모델입니다. Hacker News에서도 이와 관련된 여러 의견들이 있어서 참고해 볼 만 합니다. - HN comment : https://news.ycombinator.com/item?id=35629127 - HuggingFace : https://huggingface.co/stabilityai/stablelm-tuned-alpha-7b - Code : https://github.com/Stability-AI/StableLM