Log into Facebook | Facebook
sLLM 에 대한 생각
LLM을 현실적으로 할 수 없으니(기술적으로든, 충분한 인프라나 예산 확보 측면이든), 버티컬에서는 sLLM 으로도 충분하다고 주장해야만 살아남을 수 있는 업체들이 많을 것 같습니다(대다수일지도?).
물론 일정 수준 이상의 성능이 필요없는 경우엔 가성비 측면에선 sLLM이 유리한 면이 있다는 점은 인정. 하지만 앞으로 LLM 인프라 비용이 안정화 된다해도 과연 그럴까.. 싶네요.
물론 AI 반도체 성능이나 SW 기술 향상에 따라 지금보다 적은 예산으로도 비교적 더 큰 LLM을 학습할 수 있게 되겠지만, 빅테크들은 그만큼 더 큰 모델을 학습시킬 수 있게 될테니. LLM (또는 foundation models)의 인프라화는 피할 수 없는 수순일 듯 합니다. 마치 지금의 휴대폰이 그 옛날 슈퍼컴보다 수백/수천배 이상의 성능을 가졌음에도, 여전히 고성능 서버들이 필요한 것처럼요.
한편으로는 LLM 사이즈가 일정수준 이상이 된다면 (지금보다도 훨씬 큰), 성능이 수렴하는 지점이 생기게 될까 싶기도 하지만, 이건 아직 아무도 모르는데다가 그 때가 되면 또 다른 breakthrough 가 등장하게 될 것 같다는 예상도 해봅니다.
여하간에, 이런 상황을 어떻게 타개해 나갈지, 혹은 적극적으로 잘 활용할지에 대한 고민이 중요한데. 의외로 많은 의사결정자들이 chatgpt 충격에 이미 적응해버린 탓인지 기술적 변화 대응에 둔감한 느낌이 드네요.
https://m.facebook.com/story.php?story_fbid=pfbid0irR6LiRQV1RAKTzmMcSRqi34E2Qu121T3FXTLgWeap3fdVZJZkvKvxpJa59szKpel&id=566182966&mibextid=qC1gEa
다음 내용이 궁금하다면?
이미 회원이신가요?
2023년 9월 17일 오전 11:15
댓글 0
함께 읽은 게시물
리더. 국어사전을 보면 조직이나 단체에서 전체를 이끌어가는 위치에 있는 사람이라고 기술되어 있다. 지식백과사전에는 어떤 조직이나 단체에서 목표의 달성이나 방향에 따라 이끌어 가는 중심적인 위치에 있는 사람, 구성원들에 대한 결정의 책임을 지고 또한 집단 외부와의 조정 기능의 역할도 하는 사람이라고 되어 있다.
... 더 보기![[시사뉴스] 【박성태 칼럼】 리더가 독재를 하게 되는 두가지 이유](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
< 집착, 신념, 두려움 – 당신을 망치는 3가지 필터 >
1. 당신에게는 세 가지 여과 장치가 있는데, 첫째는 당신의 집착, 둘째는 당신의 신념, 셋째는 당신의 두려움입니다.
< '모든 것을 받아들이기'의 진짜 의미 >
1. 아무것도 기대하지 않으면 현재를 살게 된다.
오픈AI는 아이브의 AI 기기 개발 스타트업인 io를 전액 주식 거래로 인수하기로 했다. io의 기업가치는 약 65억달러(약 8조9000억원)로 평가된다.
... 더 보기
