Download Ollama on macOS
Ollama
ollama(오라마)는 개인의 PC에서 LLM모델을 실행시킬수 있게 도와주는 프로그램입니다.
이미 무료로 사용할 수 있는 LLM모델은 지금도 많이 있고, 허깅페이스에서 찾아볼 수 있습니다.
그러나 그걸 사용하려면, 모델을 다운받고 여러가지 설정들을 하는 등 번거로운 작업이 많이있죠.
ollma는 이러한 불편한 점을 해결해줍니다.
아직 리눅스와 맥(m1계열)만 지원합니다. windows추후 지원 예정이라고합니다.
맥의 경우는 ollma를 다운로드 받고 (https://ollama.ai/download)
압축을 풀고, 실행을 하고 `ollama run llama2` 을 실행하면 끝입니다!
제가 파이썬 코드를 만들어달라고 요청해봤는데, 간단한것들은 잘이해하네요~
국내 회사인 업스테이지에서 만든 solar모델도 사용이 가능합니다.
`ollama run solar` 이렇게 하면됩니다. 참쉽죠?!
사용가능한 모델은 https://ollama.ai/library 에서 찾을 수 있습니다.
내년에는 무료 ChatGPT를 한글로 로컬에서 돌려볼 수 있을 수 도 있겠네요~
AI발전이 정말 대단하고 기대됩니다.
https://ollama.ai/
다음 내용이 궁금하다면?
이미 회원이신가요?
2023년 12월 19일 오전 2:24
테드(TED) 강의장에 황소가 등장했다. <생각의 공유> 저자 리오르 조레프는 청중에게 황소 무게를 예측해 보라고 제안한다. 그러자 140㎏에서 3t까지 다양한 오답이 쏟아졌다.
... 더 보기AI에게 코딩을 잘 시키려면 아주 정확하게 스펙을 줘야하는데(앞으로도 그럴 것), 스펙을 작성하는 것 보다 내가 코드를 쓰고 그걸로 스펙을 작성하라고 하는게 더 빠른게 문제..🫠
혹
... 더 보기1. 문제는 고쳐지고 사람들은 적응한다. 위협이 크면 해결책이 나올 동인도 똑같이 커진다.