๐ ํ ํ๋ก์ ํธ์ LLM ํ์ฉ ์ฌํญ
- ์ ์ฒด ํ๋ก์ธ์ค์ 1/3 ์ด์์ LLM์ผ๋ก ์ฒ๋ฆฌ
- ์์ฉ LLM๋ง ์ฌ์ฉ, ํ์ธํ๋์ ํ์ง ์์
- Grounding์ ํ์ง๋ง RAG๋ ํ์ง ์์
- Vector Search๋ Local Processing์ผ๋ก
- ํ๋กฌํํธ ๋ฒ์ ๋/ํ ์คํธ ๊ด๋ฆฌ์ ์์ฒด ๊ฐ๋ฐ
- ๋ฒํฌ ํ ์คํธ๋ ์งํํ์ง ์์
- ํ๋กฌํํธ ์์ฑ์ ๊ธฐํ์๊ฐ ์ฃผ๋ํจ
- ํ๋กฌํํธ ๋ชจ๋ํ๋ก ํ์คํฌ์ ๋ฐ๋ผ ์กฐํฉ
- ์์์๊ฐ์ ํ์คํฌ์ ๋ฐ๋ผ ์ฝ 3์ด~3๋ถ
- ์คํธ๋ฆฌ๋ฐ์ ํ๊ฐ์ง ํ์คํฌ์๋ง ์ฌ์ฉํจ
- ๊ฐ์ฅ ๋ณต์กํ ํ์คํฌ๋ 4ํด ํ๋กฌํํธ ์ฌ์ฉ
- ํ๊ท Input token ์ฝ 2K~4K
๋ ๋ง์ ์ฝํ ์ธ ๋ฅผ ๋ณด๊ณ ์ถ๋ค๋ฉด?
์ด๋ฏธ ํ์์ด์ ๊ฐ์?
2024๋ 11์ 1์ผ ์ค์ 3:06