LLM Application in Production

최근 Project Pluto 에서 LLM 어플리케이션을 실제 프로덕션 환경에서 활용하는 내용에 대해 공유해주셨네요. 아직 정답이 없는 기술 속에서 정답에 가까워지기 위한 노력을 하고 있는 점 그리고 값진 경험을 공유해준다는 점에서 감사합니다~ Project Pluto 는 실제로 Supernews 라는 어플리케이션을 통해서 LLM 을 전문적으로 사용하고 있다고 하는데요. 이 앱은 Financial News 를 전문적인 저널리스트 없이 오로지 LLM 으로만 기사를 작성해서 제공해준다고 합니다. 참고하실 점은 LLM 을 다룰 때 BloombergGPT 처럼 처음부터 모델을 밑바닥부터 학습시켜서 사용하는 방식은 아니고, API 방식으로 사용하고 있다고 합니다. RAG(Retrieval-Augmented Generation) 를 잘 사용하는 방법이나 LLMOps 에 대해 관심이 있으신 분들이 들어보시면 좋을 것 같습니다. (저는 특히 RAG 부분에서 많은 영감을 받았습니다.) 한번 시간 내서 들어보시면 좋으실 것 같아요. 링크는 아래와 같습니다. https://www.inflearn.com/course/llm-application-in-production/dashboard