Download Ollama on macOS
Ollama
로컬 머신에서 무료로 사용하는 LLM - ollama
ollama(오라마)는 개인의 PC에서 LLM모델을 실행시킬수 있게 도와주는 프로그램입니다.
이미 무료로 사용할 수 있는 LLM모델은 지금도 많이 있고, 허깅페이스에서 찾아볼 수 있습니다.
그러나 그걸 사용하려면, 모델을 다운받고 여러가지 설정들을 하는 등 번거로운 작업이 많이있죠.
ollma는 이러한 불편한 점을 해결해줍니다.
아직 리눅스와 맥(m1계열)만 지원합니다. windows추후 지원 예정이라고합니다.
맥의 경우는 ollma를 다운로드 받고 (https://ollama.ai/download)
압축을 풀고, 실행을 하고 `ollama run llama2` 을 실행하면 끝입니다!
제가 파이썬 코드를 만들어달라고 요청해봤는데, 간단한것들은 잘이해하네요~
국내 회사인 업스테이지에서 만든 solar모델도 사용이 가능합니다.
`ollama run solar` 이렇게 하면됩니다. 참쉽죠?!
사용가능한 모델은 https://ollama.ai/library 에서 찾을 수 있습니다.
내년에는 무료 ChatGPT를 한글로 로컬에서 돌려볼 수 있을 수 도 있겠네요~
AI발전이 정말 대단하고 기대됩니다.
https://ollama.ai/
다음 내용이 궁금하다면?
이미 회원이신가요?
2023년 12월 19일 오전 2:24
댓글 0
함께 읽은 게시물
🎯 유튜브에 100번째 코딩 테스트 문제 풀이 영상을 올렸습니다!
지
... 더 보기
린 분석 방법론은 이제 끝인가요?
페이스북에 Jonas Kim님이 올린 포스팅인데 린 분석 방법론에 대해 다시 한번 생각해보게 됩니다.
저는 린 분석 방법론이 끝물이라는 생각이 들지 않습니다.
현장에서는 이미 트래픽과 매출액이 디커플링되기 시작한 것도 길게보면 7~8년 된 일이고, 성장과 이익을 동시에 균형있게 움직이는 방법을 찾지 못하는 많은 제품과 서비스가 있을 뿐입니다.
지적한 바와 같이 원가, 비용등 재무적인 분석도 대단히 중요한 일이 되어 가는 시점에서 데이터 분석가와 마케터도 이에 맞춰 적응해야 할 시기라고 생각되네요.
[... 더 보기
👋 프로세스를 촘촘하게 만드는 사람
쿠
... 더 보기욕심많은 주니어는 이 두가지를 꼭 경계하세요!
오늘은 욕심이 많은 사람이 빠지기 쉬운 함정을 정확하게 꼬집는 글이 있어 소개 드리려고 합니다. 글에서는 '주니어'를 타겟으로 잡고 있지만, 주니어가 아니더라고 욕심이 많은 사람이면 (저를 포함해서😅) 뼈를 때리는 글 같아요.
개인적으로는 두번째인 '산만함'의 문제가 더 와닿았는데요. 항상 머릿속에 이것도 하고싶고, 저것도 하고싶고 조급한 마음이 많다보니 오히려 뭔가를 시작해서 팍 밀고 나가는 에너지가 부족하단 생각이 제 스스로 든 적이 있거든요.
비슷한 상황이 본인에게도 해당된다는 생각이 든다면 한번쯤... 더 보기
AI 시대에 갈피 못잡던 구글의 역습
실
... 더 보기
