LLM 답변 속도를 개선하는 방법

인프런에 강의를 출시한지 2개월 정도 되었는데 복습차 다시 들으시는 수강생분께서 최적화 관련 질문을 올려주셨어요. 복습의 가치가 있는 강의라는 평가에 보람과 기쁨과 성취감이 올라옵니다.

LLM 서비스를 운영하시면 답변 속도에 관심을 가질 수밖에 없는데요, 최적화 관련해서 궁금한 분들이 계실 것 같유 드립니다.

https://www.inflearn.com/community/questions/1364394