๐Ÿ“ ํ•œ๊ตญ์–ด LLM ๋ฆฌ๋”๋ณด๋“œ ํ˜ธ๋ž‘์ด


MLOps ํ”Œ๋žซํผ์„ ์„œ๋น„์Šคํ•˜๋Š” W&B์—์„œ ํ•œ๊ตญ์–ด LLM ํ‰๊ฐ€ ํ˜ธ๋ž‘์ด ๋ฆฌ๋”๋ณด๋“œ๋ฅผ ๊ณต๊ฐœํ•˜์˜€์Šต๋‹ˆ๋‹ค.


์ด ๋ฆฌ๋”๋ณด๋“œ๋Š” ๋ฉ€ํ‹ฐํ„ด ๋Œ€ํ™” ๋Šฅ๋ ฅ์„ ํ‰๊ฐ€ํ•˜๋Š” MT-Bench ์™€ ์ผ๋ณธ์–ด ์งˆ์˜์‘๋‹ต ๋Šฅ๋ ฅ ํ‰๊ฐ€์ธ llm-jp-eval ์„ ๊ธฐ๋ฐ˜์œผ๋กœ, ๊ฐ๊ฐ์— ๋Œ€ํ•œ ํ•œ๊ตญ์–ด ๋ฒ„์ „์„ ๋งŒ๋“ค์–ด ํ‰๊ฐ€ํ•ฉ๋‹ˆ๋‹ค.


๊ธฐ์กด์—๋„ ํ•œ๊ตญ์–ด ์„ฑ๋Šฅ์„ ํ‰๊ฐ€ํ•˜๋Š” ๋ฒค์น˜๋งˆํฌ์™€ ๋ฆฌ๋”๋ณด๋“œ๊ฐ€ ์žˆ์—ˆ์ง€๋งŒ ํฌ๊ด„์ ์ธ ํ‰๊ฐ€๊ฐ€ ๋˜์ง€ ์•Š์•„ ์•„์‰ฌ์› ๋Š”๋ฐ์š”. ์ด ํ…Œ์ŠคํŠธ์…‹์œผ๋กœ ํ•œ๊ตญ์–ด ์„ฑ๋Šฅ์— ๋Œ€ํ•œ ํฌ๊ด„์ ์ธ ํ‰๊ฐ€๊ฐ€ ๊ฐ€๋Šฅํ•ด์ง„ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค.


์ฒจ๋ถ€ ์ด๋ฏธ์ง€๋Š” ์ฃผ์š” LLM๋“ค์„ ํ‰๊ฐ€ํ•œ ์ฐจํŠธ์ธ๋ฐ์š”. ๊ฐœ์ธ์ ์ธ ์ƒ๊ฐ์œผ๋กœ๋Š”, ๋‹ค๋ฅธ ๋ฆฌ๋”๋ณด๋“œ๋“ค์˜ ์ฐจํŠธ๋Š” ๊ฒฝํ—˜์ ์ธ ์„ฑ๋Šฅ๊ณผ ์กฐ๊ธˆ ๋‹ค๋ฅด๋‹ค๋Š” ๋А๋‚Œ์ด ๋“ค์—ˆ๋Š”๋ฐ, ์ด ์ฐจํŠธ๋Š” ๊ฒฝํ—˜์ ์ธ ์„ฑ๋Šฅ๊ณผ ์œ ์‚ฌํ•œ ๋ถ„ํฌ๋ฅผ ๊ฐ–๋Š” ๊ฒƒ์œผ๋กœ ๋ณด์ž…๋‹ˆ๋‹ค.


ํ˜ธ๋ž‘์ด LLM ๋ฆฌ๋”๋ณด๋“œ ์ฃผ์†Œ๋Š” ๋Œ“๊ธ€์—๐Ÿ‘‡

๋” ๋งŽ์€ ์ฝ˜ํ…์ธ ๋ฅผ ๋ณด๊ณ  ์‹ถ๋‹ค๋ฉด?

๋˜๋Š”

์ด๋ฏธ ํšŒ์›์ด์‹ ๊ฐ€์š”?

2024๋…„ 4์›” 2์ผ ์˜คํ›„ 3:30

 โ€ข 

์ €์žฅ 10 โ€ข ์กฐํšŒ 3,424

ํ•จ๊ป˜ ์ฝ์€ ๊ฒŒ์‹œ๋ฌผ

์‹ค๋ ฅ ํ–ฅ์ƒ์„ ์œ„ํ•œ ํ•ด์™ธ ์œ ํŠœ๋ธŒ ์ฑ„๋„ 10๊ฐœ

์ทจ์—… ์ค€๋น„์™€ ์ฝ”๋”ฉ ๊ณต๋ถ€ํ•  ๋•Œ ๋„์›€ ๋˜๋Š” ํ•ด์™ธ ์œ ํŠœ๋ธŒ ์ฑ„๋„ 10๊ฐœ๋ฅผ ๊ฐ„๋žตํ•˜๊ฒŒ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค. 1. Gaurav Sen: https://www.youtube.com/@gkcs - ์ „๋ฐ˜์ ์ธ ๊ฐœ๋ฐœ์ž ์„ฑ์žฅ(ํŠนํžˆ ์ฃผ๋‹ˆ์–ด์™€ ์‹œ๋‹ˆ์–ด), ์ทจ์—…, ์ฝ”๋”ฉ ๊ณต๋ถ€ ๋…ธํ•˜์šฐ - ์‹œ์Šคํ…œ ์„ค๊ณ„์˜ ๊ธฐ์ดˆ ๊ฐœ๋… ์„ค๋ช… ์˜์ƒ์ด ๋งŽ๋‹ค. ํŠน์ • ์‹œ์Šคํ…œ ์„ค๊ณ„๋ฅผ ๋ถ„์„ํ•˜๊ฑฐ๋‚˜ ๋ชจ์˜ ๋ฉด์ ‘ํ•˜๋Š” ์˜์ƒ์ด ๊ฝค ๋งŽ์ง€๋งŒ ๊ฐœ์ธ์ ์œผ๋กœ ์„ค๋ช…์ด ๊ฒ‰๋„๋Š” ๋А๋‚Œ์ด ์žˆ๋‹ค - ์ฃผ๋‹ˆ์–ด+/์ค‘๋‹ˆ์–ด+์—๊ฒŒ ํŠนํ™”๋œ ์ทจ์—… ๋ฐ ๊ณต๋ถ€ ๋…ธํ•˜์šฐ 2. Abdul Bari(์ปด๊ณต ์ „๊ณต, ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๊ณต๋ถ€ ํ•„์ˆ˜ ์ฑ„๋„): https:... ๋” ๋ณด๊ธฐ

Gaurav Sen

www.youtube.com

Gaurav Sen

 โ€ข 

์ €์žฅ 294 โ€ข ์กฐํšŒ 8,674


์–ด๋ ค์šด ๋ฌธ์ œ๋ฅผ ๋Œ€ํ•˜๋Š” ํƒœ๋„

๏ปฟ

... ๋” ๋ณด๊ธฐ

๊ฒฐ๊ณผ๋ณด๋‹ค ๊ณผ์ •์„

๏ปฟ

... ๋” ๋ณด๊ธฐ

 โ€ข 

๋Œ“๊ธ€ 1 โ€ข ์ €์žฅ 4 โ€ข ์กฐํšŒ 584


โœ๏ธ ์˜ค๋Š˜์€ PM์ด ์ฝ์–ด๋ณผ๋งŒํ•œ ์ฑ…์„ ํ•œ ๊ถŒ ์†Œ๊ฐœํ•ด๋“œ๋ฆด๊นŒ ํ•ด์š”. ์Šค์Šค๋กœ์˜ ๋™๊ธฐ๋ถ€์—ฌ๊ฐ€ ์–ด๋ ค์šด ๋ถ„๋“ค์ด๋‚˜, ๋™๋ฃŒ๋ฅผ ์„ค๋“ํ•ด์•ผ๋˜๋Š” PM์ด๋‚˜, ์กฐ์ง์— ์ž๋ฐœ์  ํ™œ๋ ฅ์„ ๋งŒ๋“ค์–ด๋‚ด๊ณ  ์‹ถ์€ ์กฐ์ง์žฅ ๋ชจ๋‘๊ฐ€ ์ฝ์–ด๋ณผ๋งŒํ•œ ์ฑ…์ž…๋‹ˆ๋‹ค. โ€” ๐Ÿ“– <์Šคํƒ€ํŠธ ์œ„๋“œ ์™€์ด: ๋‚˜๋Š” ์™œ ์ด ์ผ์„ ํ•˜๋Š”๊ฐ€> ๐Ÿ”– ์ด์„ฑ์  ๋ฒ”์ฃผ์— ์†ํ•˜๋Š” WHAT์€ WHY์—์„œ ๋А๊ปด์ง€๋Š” ๊ฐ์ •์„ ๊ฒ‰์œผ๋กœ ๋ณด์—ฌ์ฃผ๋Š” ๊ทผ๊ฑฐ ์—ญํ• ์„ ํ•œ๋‹ค. ์–ด๋–ค ์ง๊ฐ์œผ๋กœ ๊ฒฐ์ •์„ ๋‚ด๋ ธ๋Š”์ง€ ๋ง๋กœ ํ‘œํ˜„ํ•  ์ˆ˜ ์žˆ๊ณ  ์ž์‹ ์˜ WHY๋ฅผ ๋ช…ํ™•ํžˆ ์„ค๋ช…ํ•  ์ˆ˜ ์žˆ์œผ๋ฉด ์ฃผ๋ณ€ ์‚ฌ๋žŒ๋“ค์—๊ฒŒ ๊ฒฐ์ •์„ ๋‚ด๋ฆฐ ์ด์œ ๋ฅผ ๋ถ„๋ช…ํžˆ ์ดํ•ด์‹œํ‚ฌ ์ˆ˜ ์žˆ๋‹ค. ์ด ๊ฒฐ์ •์ด ๊ฐ๊ด€์ ์ธ ์‚ฌ์‹ค์ด๋‚˜ ์ˆ˜์น˜์™€ ์ผ๊ด€์„ฑ์„ ์ด๋ฃฌ๋‹ค๋ฉด ๊ทผ๊ฑฐ์€ ๋”์šฑ ํƒ€๋‹นํ•ด์ง„๋‹ค. ์ด๊ฒƒ์ด ๋ฐ”๋กœ ๊ท ํ˜•์ด๋‹ค. (129p) โ€” PM์œผ๋กœ ์ผํ•˜๋ฉด์„œ ๊ฐ€์žฅ ์–ด๋ ค์šด ์ผ์ด ๋ฌด์—‡์ด๋ƒ๊ณ  ๋ฌผ์–ด๋ณด๋ฉด, ๋Œ€๋ถ€๋ถ„ why๋ฅผ ์กฐ์ง์žฅ์ด๋‚˜ ๋™๋ฃŒ๋“ค์—๊ฒŒ ์„ค๋“ํ•˜๋Š” ๊ณผ์ •์„ ์›ํƒ‘์œผ๋กœ ๊ผฝ์„ ๊ฒ๋‹ˆ๋‹ค. ๋ฌธ์ œ๋ฅผ ์ •ํ™•ํžˆ ์ •์˜ํ•˜๊ณ , ๋…ผ๋ฆฌ๋ฅผ ๋งŒ๋“œ๋Š” ๊ฒƒ๋„ ์–ด๋ ต๊ณ , ๊ทธ๊ฒƒ์„ ๋ง์ด๋‚˜ ๊ธ€๋กœ ํ‘œํ˜„ํ•ด ๋‚ด๋Š” ๊ฒƒ๋„ ์–ด๋ ต์ฃ . ๊ทธ๋ž˜์„œ ํ”„๋กœ์ ํŠธ ๋ฌธ์„œ์— ์ •๋Ÿ‰์ ์ธ ๋ฐ์ดํ„ฐ ๋ถ„์„์„ ์ˆ˜๋ฐ˜ํ•˜๊ณ , ์ˆซ์ž๋ฅผ ํ†ตํ•ด ํ”„๋กœ์ ํŠธ์˜ ๊ณต๊ฐ๋Œ€๋ฅผ ํ˜•์„ฑํ•˜๋ ค๊ณ  ์‹œ๋„ํ•  ๋•Œ๊ฐ€ ์ƒ๊น๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ Why์— ๋Œ€ํ•ด ๋ณธ์ธ์ด ์ถฉ... ๋” ๋ณด๊ธฐ

์˜ˆ์ œ๋กœ ๋ฟŒ์ˆ˜๋Š” ์ฝ”ํ‹€๋ฆฐ Kotlin ํ”„๋กœ๊ทธ๋ž˜๋ฐ 76์ œ

์•ˆ๋“œ๋กœ์ด๋“œ ๋„ค์ดํ‹ฐ๋ธŒ ์•ฑ ๊ฐœ๋ฐœ์˜ ํ‘œ์ค€ ์–ธ์–ด์ด์ž, ์ตœ๊ทผ ๋ฐฑ์—”๋“œ ๊ฐœ๋ฐœ์—๋„ ๊ณต๊ฒฉ์ ์œผ๋กœ ํ™œ์šฉ๋˜๊ณ  ์žˆ๋Š” ์ฝ”ํ‹€๋ฆฐ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด๋ฅผ ๋‹ค์–‘ํ•œ ์˜ˆ์ œ๋ฅผ ํ†ตํ•ด ๋ฐฐ์šธ ์ˆ˜ ์žˆ๋Š” ์˜จ๋ผ์ธ ํ•™์Šต ์‚ฌ์ดํŠธ๋ฅผ ๊ณต๊ฐœํ•ฉ๋‹ˆ๋‹ค. ์ฝ”ํ‹€๋ฆฐ ๊ณต์‹ ํ™ˆํŽ˜์ด์ง€์— ์žˆ๋Š” Kotlin By Example์ด๋ผ๋Š” ์ž๋ฃŒ๋Š” ํŽธ์—ญํ•ด์„œ ๊ตฌ์„ฑํ–ˆ์–ด์š”. ์ €๋Š” NHN์— ๊ทผ๋ฌดํ•  ๋•Œ ์ฝ”ํ‹€๋ฆฐ์„ ๋ฐฑ์—”๋“œ API์„œ๋ฒ„ ๊ฐœ๋ฐœ์— ํ™œ์šฉํ•œ ๊ฒฝํ—˜์ด ์žˆ๋Š”๋ฐ, ์ž๋ฐ”๋กœ ๊ฐœ๋ฐœํ•  ๋•Œ๋ณด๋‹ค ํ›จ์”ฌ ํŽธํ•˜๊ณ  ์ฆ๊ฑฐ์› ๋˜ ๊ฒŒ ๊ธฐ์–ต์— ๋‚จ์•˜์Šต๋‹ˆ๋‹ค. ์ฝ”ํ‹€๋ฆฐ์„ ๋ฐฐ์šฐ์‹œ๋ ค๊ฑฐ๋‚˜, ์ด๋ฏธ ์“ฐ๊ณ  ์žˆ๋Š”๋ฐ ๊ถ๊ธˆํ•œ ์ ์ด ๋งŽ์œผ์…จ๋˜ ๋ถ„๋“ค์—๊ฒŒ ์œ ์šฉํ•œ... ๋” ๋ณด๊ธฐ

์˜ˆ์ œ๋กœ ๊ฒฉํŒŒํ•˜๋Š” ์ฝ”ํ‹€๋ฆฐ

Hatemogi

์˜ˆ์ œ๋กœ ๊ฒฉํŒŒํ•˜๋Š” ์ฝ”ํ‹€๋ฆฐ

 โ€ข 

์ €์žฅ 42 โ€ข ์กฐํšŒ 2,406


๐Ÿ“ MP4 ํŒŒ์ผ์„ ๋ฒกํ„ฐ ๊ฒ€์ƒ‰์˜ ํ…์ŠคํŠธ DB๋กœ ์‚ฌ์šฉํ•˜๋Š” ํ”„๋กœ์ ํŠธ

๊ฐ„

... ๋” ๋ณด๊ธฐ

GitHub - Olow304/memvid: Video-based AI memory library. Store millions of text chunks in MP4 files with lightning-fast semantic search. No database needed.

GitHub

GitHub - Olow304/memvid: Video-based AI memory library. Store millions of text chunks in MP4 files with lightning-fast semantic search. No database needed.

์ฃผ๊ฐ„ ์ธ๊ธฐ TOP 10

1

๊น€์˜์ค‘ ํ”„๋ก ํŠธ์—”๋“œ ๊ฐœ๋ฐœ์ž

์ด๋ ฅ์„œ๋Š” ๋ถ™๋Š”๋ฐ ๋ฉด์ ‘์—์„œ ๊ณ„์† ๋–จ์–ด์ง„๋‹ค๋ฉด?

2

๋™ํฌ๋ฃจํŠธ AI ์—”์ง€๋‹ˆ์–ด, SW ์—”์ง€๋‹ˆ์–ด

6์›” ์ดˆ, ์ƒˆ๋กœ์šด ๋ฐ”์ด๋ธŒ ์ฝ”๋”ฉ๊ณผ SW ๊ฐœ๋ฐœ์˜ ์ „ํ™˜์˜ ์‹œ๋Œ€

3

๊ณจ๋นˆํ•ด์ปค Chief Maker

๐Ÿช„ ํ”Œ๋ ˆ์ด๋ชจ์–ด์™€ ํ•จ๊ป˜ํ•  ๋™๋ฃŒ๋ฅผ ์ฐพ์Šต๋‹ˆ๋‹ค

4

์žฅํ™์„ ์ŠคํŽ˜์ด์Šค์˜ค๋””ํ‹ฐ ๋ถ€๋Œ€ํ‘œ/CPO

< PM/PO ์ปค๋ฆฌ์–ด 3๋‹จ๊ณ„: ๋‹น์‹ ์€ How, What, Why

5

Annette MJ Kim ์‚ฌ๋žŒ๊ณผ ์กฐ์ง์˜ ๋™๋ฐ˜ ์„ฑ์žฅ์„ ์œ„ํ•ด ์ผํ•ด์š”:D

โ€œ์ง์›๋“ค์—๊ฒŒ ์›”๊ธ‰ ์™ธ์— ์ถœ๊ทผํ•  ์ด์œ ๋ฅผ ์ค˜์•ผ ํ•ฉ๋‹ˆ๋‹ค. ํŒ€์žฅ์ด ์ข‹๋‹ค๋˜