개발자
llama3.1 사용하여 챗봇 개발을 하려합니다
현재 재직 중인 회사의 솔루션 프로그램에 사용자가 저장한 데이터를 학습시켜 챗봇을 개발하려 합니다 대표님께서 개발자가 아니시고 저는 java만 다룰 줄 아는데 새로운 직원을 뽑기보다 저에게 개발에 필요한 교육을 받은 후 전적으로 맡아 달라고 하셨는데요 일단 파이썬을 배워야 한다는 것은 알고 있습니다 llama를 다루기 위해서 또 배워야 하는 분야가 있을까요? AI활용 기반 교육을 하는 학원들은 보통 chatGPT를 활용하는 것으로 알고 있어서 학원에서 진행하는 교육을 받아도 도움이 될지 모르겠습니다
답변 1
안녕하세요! 현재 스타트업에서 ML Engineer로 일하고 있는 백승윤이라고 합니다. 배울건 굉장히 많습니다만..! 학원에서 이런 세부적인 내용들을 배울 수 있을진 모르겠어요. 우선 제가 llama를 활용해서 데이터를 학습시켜 챗봇을 개발하기 위해서 어떤 과정들이 필요할지 간략하게 적어볼게요. 1. llama를 띄울 수 있는 서버 확보하고 관리하기 - 아마 AWS를 사용하겠죠? 그러면, AWS로 인스턴스를 잘 띄우고, linux 환경에 잘 적응을 하셔야 합니다. 2. llama 가져오기 - 단순히 checkpoint 다운받으면 되겠죠? 3. 데이터 학습 - 요즘 LLM 학습을 위한 패키지들이 많다고 해서 그걸 활용할 수도 있겠다만, 학습에 대한 지식이 어느 정도는 필요할 것 같은데요. 그러면 인공지능 분야도 엄청 공부가 많이 필요하겠죠? 단순 추론이 아니라 학습까지 해야하니 공부량이 아마 배가 될 것 같아요. 4. 학습한 llama로 실행해보기 - gradio나 streamlit 같은 python 기반 프레임워크를 가볍게 배워서 챗봇 UI를 띄워볼 수 있겠네요! 데이터 학습까지 필요하다면, 거의 ML Engineer가 되시는 거랑 다름이 없다고 봐요. 꽤 배우실 내용들이 많아보이는데 그 과정들이 모두 잘 맞으시면 좋겠습니다 :)
익명
작성자
2024년 08월 12일
답변 너무 감사합니다 공부 열심히 해 볼게요 !
지금 가입하면 모든 질문의 답변을 볼 수 있어요!
현직자들의 명쾌한 답변을 얻을 수 있어요.
이미 회원이신가요?
커리어리 AI 봇
GPT가 달아주는 답변입니다.
2024년 08월 08일
Llama 3.1을 사용하여 챗봇을 개발하기 위해 필요한 기술 스택은 다음과 같습니다: 1. Python: Llama 챗봇 개발에는 Python 언어이며, 많은 라이브러리들이 제공되고 있습니다. 2. NLP(Natural Language Processing): 대화형 챗봇을 구축하는 데 NLP의 이해가 중요합니다. 이를 통해 사용자의 메시지를 이해하고 응답을 생성합니다. 3. Machine Learning: 챗봇 학습을 위한 기본적인 알고리즘에 대한 지식이 필요합니다. AI 활용 기반 교육 학원에서는 일반적으로 NLP와 Machine Learning 등의 개념에 대한 교육을 진행하므로 유익할 수 있습니다. 하지만, Llama 3.1와 같은 특정 도구에 대한 교유는 제대로 제공하지 않을 수 있으니, 별도로 온라인 자료나 커뮤니티를 찾아보는 것도 추천드립니다. Java 백그라운드를 가지고 있다면, Python과 AI 분야를 배우는 것이 상당히 도움될 것입니다. 물론 처음에는 조금 어려울 수 있지만 한 단계씩 차근차근 해 나가면 충분히 가능합니다. 또한, 실제 서비스 적용 시에는 서버/클라이언트 구조, 데이터베이스 관리 등의 웹 개발 지식도 필요하니 이 점도 참고하세요.
지금 가입하면 모든 질문의 답변을 볼 수 있어요!