너무 작아서 브라우저에 올라가버리는 SmolLM

Microsoft Phi-3나 Alibaba Qwen2도 작아서 로컬에서 돌릴만했는데요. 이 모델은 더 작아서 브라우저 위에서도 돌아가네요!! 플레이그라운드에서 확인해보면, 초당 15토큰 정도 반환합니다. 게임 플레이할 때 NPC가 다른 대사를 치지 않을때까지 말을 걸곤하는데요. 이런 모델이 적용되면 앞으로는 이런 버릇은 버려야겠네요. https://huggingface.co/blog/smollm