SmolLM - blazingly fast and remarkably powerful
huggingface.co
너무 작아서 브라우저에 올라가버리는 SmolLM
Microsoft Phi-3나 Alibaba Qwen2도 작아서 로컬에서 돌릴만했는데요.
이 모델은 더 작아서 브라우저 위에서도 돌아가네요!!
플레이그라운드에서 확인해보면, 초당 15토큰 정도 반환합니다.
게임 플레이할 때 NPC가 다른 대사를 치지 않을때까지 말을 걸곤하는데요.
이런 모델이 적용되면 앞으로는 이런 버릇은 버려야겠네요.
https://huggingface.co/blog/smollm
더 많은 콘텐츠를 보고 싶다면?
이미 회원이신가요?
2024년 8월 21일 오전 4:30
댓글 0
함께 읽은 게시물
책이 출판되기 전 마지막 교정을 하고 있는데...
... 더 보기
내가 생각하는 사업아이템 피봇팅의 전형적인 모범사례는 기사의 파크랜드와 같은 경우다. 많은 스타트업이 갖고 있는 판타지스러운 피봇팅도 아니고 거창하고 화려하게 포장된 이야기도 아니다. 피봇팅한다, 덩치키운다 마치 사업을 인스타그래머블처럼 하던 스타트업들이 최근까지도 줄줄이 망한 건 언급하지 않겠다.
... 더 보기
