LLM(Large Language Model)이 대세이지만, 이제는 SLMs(Small Language Model)이 주목 받고 있는 추세입니다. SLM 및 엣지 관련 기사 공유합니다. (출처: Silverlinings)

<더 작은 모델은 AI가 클라우드에서 엣지로 이동하는 데 도움이 될 수 있습니다.>

• LLM은 큰 인기를 끌었지만, 더 작은 AI 모델은 에지의 공간, 전력 및 컴퓨팅 제약 조건에 완벽하게 적합할 수 있습니다.

• LLM(대형 언어 모델)의 장점은 규모가 크다는 것인데요, 이 때문에 공간, 전력 및 컴퓨팅 용량에 대한 제약이 있는 엣지에서의 학습과 같은 특정 인공 지능(AI) 사용 사례를 실행하기가 어렵습니다. 그러나 AI 영역에는 더 많은 사용 사례가 데이터 센터에서 엣지로 이동하는 데 도움이 될 수 있는 새로운 추세가 나타나고 있고 이것이 바로 더 작은 모델(Smaller models)입니다.

• 마이크로소프트는 지난 1월 OpenAI의 ChatGPT와 같은 것보다 컴퓨팅 성능이 덜 필요한 생성형 AI 모델을 만들기 위해 내부적으로 새로운 팀을 구성한 것으로 알려졌습니다. 그리고 지난달 Google은 노트북에서 실행할 수 있을 만큼 작은 Gemini 기술의 축소 버전인 Gemma 모델 라인을 공개했습니다.

• IDC에 따르면 이론적으로 이러한 소형 AI 모델을 호스팅하는 엣지 컴퓨팅 인프라에 대한 지출은 올해 2,320억 달러, 2027년에는 거의 3,500억 달러에 이를 것으로 예상됩니다. 이는 2027년에 1,530억 달러에 이를 것으로 예상되는 클라우드 컴퓨팅 및 스토리지 인프라에 대한 예상 지출보다 더 많은 수치입니다.

• 어떤 종류의 애플리케이션이 엣지에서 사용될 수 있을 수 있는지에 관해서 Red Hat 전문가는 그것이 업종에 따라 달라질 것이라고 말했습니다. 예를 들어, 금융 회사는 거래를 더 빠르고 지능적으로 실행하기 위해 AI를 사용할 수 있으며, 소매업체는 손실 방지 또는 고객 구매에 따른 실시간 프로모션에 AI를 사용할 수 있습니다. 특히 자율주행차와 같이 국경을 넘는 엣지 사용 사례에 AI를 활용하려는 기업의 경우 특히 더 작은 모델이 중요합니다.

원본 기사 링크는 아래와 같습니다. 감사합니다.🙏

[Source Link] https://www.silverliningsinfo.com/ai/smaller-models-could-help-ai-move-cloud-edge