📝 현 프로젝트의 LLM 활용 사항

- 전체 프로세스의 1/3 이상을 LLM으로 처리

- 상용 LLM만 사용, 파인튜닝은 하지 않음

- Grounding은 하지만 RAG는 하지 않음

- Vector Search는 Local Processing으로

- 프롬프트 버저닝/테스트 관리자 자체 개발

- 벌크 테스트는 진행하지 않음

- 프롬프트 작성은 기획자가 주도함

- 프롬프트 모듈화로 태스크에 따라 조합

- 소요시간은 태스크에 따라 약 3초~3분

- 스트리밍은 한가지 태스크에만 사용함

- 가장 복잡한 태스크는 4턴 프롬프트 사용

- 평균 Input token 약 2K~4K