📝 현 프로젝트의 LLM 활용 사항 - 전체 프로세스의 1/3 이상을 LLM으로 처리 - 상용 LLM만 사용, 파인튜닝은 하지 않음 - Grounding은 하지만 RAG는 하지 않음 - Vect

📝 현 프로젝트의 LLM 활용 사항 - 전체 프로세스의 1/3 이상을 LLM으로 처리 - 상용 LLM만 사용, 파인튜닝은 하지 않음 - Grounding은 하지만 RAG는 하지 않음 - Vector Search는 Local Processing으로 - 프롬프트 버저닝/테스트 관리자 자체 개발 - 벌크 테스트는 진행하지 않음 - 프롬프트 작성은 기획자가 주도함 - 프롬프트 모듈화로 태스크에 따라 조합 - 소요시간은 태스크에 따라 약 3초~3분 - 스트리밍은 한가지 태스크에만 사용함 - 가장 복잡한 태스크는 4턴 프롬프트 사용 - 평균 Input token 약 2K~4K