๐ Machine Learning Serving - BentoML ์ฌ์ฉ๋ฒ - ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ํ๋ฌ๋์ ํ๊ฒฝ์ ๋ฐฐํฌํ ๋ ํ์ฉํ ์ ์๋ BentoML ์ฌ์ฉ๋ฒ์ ๋ํด ์์ฑํ ๊ธ์ ๋๋ค - Servin
๐ Machine Learning Serving - BentoML ์ฌ์ฉ๋ฒ - ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ํ๋ฌ๋์ ํ๊ฒฝ์ ๋ฐฐํฌํ ๋ ํ์ฉํ ์ ์๋ BentoML ์ฌ์ฉ๋ฒ์ ๋ํด ์์ฑํ ๊ธ์ ๋๋ค - Serving ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ค ๊ฐ๊ด๋ฐ๊ณ ์์ต๋๋ค! - ํ์ฌ Github Star 2.3K๋ค์! ๐ ์ ๊ฐ ์๊ฐํ๋ BentoML์ ์ฅ์ - ์ธํผ๋ฐ์ค ์๋ฒ ๋ง๋ค๊ธฐ ์ ๋ง ๊ฐ๋จ! (5๋ถ ์ด๋ด์ ๊ฐ๋ฅ) - Online / Offline Serving ๋ชจ๋ ์ง์ํ๋ ์ ์ด ๋ง์์ ๋ญ๋๋ค - CLI ๋ช ๋ น์ด๊ฐ ํ๋ถํจ - FAQ์ ๋ค๋ฅธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ๋น๊ตํด์ค์ ๋ช ์พํจ - Adaptive Micro Batching ๊ฐ๋ ์ด ํฅ๋ฏธ๋ก์ - Model Management๋ฅผ ์ํ component๊ฐ ์๋ ์ ์ด ์ธ์์ - sklearn, tensorflow, xgboost, lightgbm, pytorch, fastai, onnx ๋ฑ ์ ๋ง ๋ค์ํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ง์ ๐ ์ฝ์ผ๋ฉด ์ข์ ๋ถ - MLOps์ ๊ด์ฌ์๋ ๋ถ - ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ Production์ ๋ฐฐํฌํด์ผ ํ๋ ๋ถ - Serving์ ๋ํด ๊ด์ฌ์๋ ๋ถ ๐ ๋ชฉ์ฐจ - BentoML์ ์ฃผ์ ํน์ง ์ค๋ช - ์ฌ์ฉ๋ฒ - BentoML ์ฝ๋๋ก ๋ฐ๋ก ์์ํ๊ธฐ - BentoML ํต์ฌ ๊ฐ๋ - ์ ๋ฆฌ