AI가 대세가 되면서, 중요한 데이터의 원천이 되는 엣지에서 데이터를 수집하고 인공지능 기술을 도입하는 사례가 많아지고 있습니다. 관련해서 좋은 기사 공유합니다.😃 (출처: Red Hat Blog)

<엣지에서 AI를 실행해야 하는 6가지 이유>

• 분산형 엣지 컴퓨팅 환경에서 AI를 실행하면 제조, 소매, 운송, 물류, 스마트 시티 등과 같은 사용 사례에서 엄청난 이점을 얻을 수 있습니다.

엣지에 있는 데이터란?

• 엣지의 데이터에는 IoT 생성 데이터, 사용자 생성 데이터 또는 엣지 기반 디바이스에서 로컬로 실행되는 모델이 포함됩니다. 중앙 집중식 퍼블릭 클라우드에서 대규모 모델을 학습하는 데 중점을 두는 것은 포함되지 않습니다.

1️⃣ 더 빠른 의사결정

• AI 인퍼런싱을 엣지에 배포할 때 얻을 수 있는 가장 중요한 이점 중 하나는 빠른 조치 능력입니다. 데이터 소스 또는 최종 사용자 바로 옆에 컴퓨팅 성능을 가짐으로써 사용자 데이터를 네트워크를 통해 중앙 집중식 서버 또는 클라우드로 전송할 때 발생하는 대기 시간을 줄일 수 있습니다. 즉, 거의 실시간으로 결정을 내릴 수 있어 응답 시간이 빨라지고 효율성이 향상됩니다. 예를 들어, 엣지에서 AI를 제조할 때 기계의 이상 현상을 감지하고 치명적인 오류가 발생하기 전에 유지 관리 경고를 트리거하는 데 도움이 될 수 있습니다.

2️⃣ 데이터 전송량 감소

• 엣지에서 AI를 사용하는 또 다른 이점은 로컬에서 처리할 때 필요한 데이터 전송량이 줄어든다는 것입니다. 인퍼런싱을 통해 에지에서 데이터가 처리되면 네트워크를 통해 전송해야 하는 데이터의 양이 줄어들고 다른 중요한 애플리케이션을 위한 대역폭이 확보됩니다. 이는 센서와 카메라에서 대량의 데이터가 생성되는 운송 및 물류와 같은 산업에 특히 중요합니다.

• 엣지에서 데이터를 처리하면 네트워크 부담을 줄이고 안정성을 높이며 비용을 절감할 수 있습니다. 기존의 클라우드 기반 솔루션에는 사이트에서 클라우드까지 고속의 값비싼 대역폭이 필요합니다. 그러나 로컬 애플리케이션을 호스팅하면 로우 비디오가 아닌 중요한 용도로 아웃바운드 대역폭이 절약됩니다.

3️⃣ 네트워크가 끊어졌을 때 작동하는 능력

• 엣지에서 AI를 사용할 때 가장 과소평가된 이점 중 하나는 네트워크 연결 없이도 작동할 수 있다는 것입니다. 이는 네트워크 중단 중에 중요한 작업이 온라인 상태를 유지할 수 있음을 의미합니다. 예를 들어 사무실과 같은 스마트 시설에서 엣지의 AI는 네트워크 연결이 손상될 때 중요한 건물 시스템을 관리하는 데 도움이 될 수 있습니다. 마찬가지로 물류 분야에서도 엣지의 AI는 네트워크 연결에 의존하지 않고도 원격 위치에서 배송을 추적하고 모니터링하는 데 도움이 될 수 있습니다.

4️⃣ 에어 갭(Air-gapped) 환경

• 때로는 앱이나 데이터가 너무 민감해서 인터넷에 연결할 수 없거나 너무 멀리 떨어져 있는 경우도 있습니다. 엣지에서 AI를 실행한다는 것은 연결이 끊긴 배포의 로컬 모델에서 속도와 통찰력을 얻는 것을 의미합니다. 예를 들어, 새로운 에너지원을 찾는 원격 스테이션에는 강력한 현장 컴퓨팅이 필요할 수 있지만 클라우드에 연결하기에는 너무 멀리 떨어져 있습니다. 로컬 하드웨어는 기계 학습 모델을 빠르게 실행하여 프로세스를 가속화할 수 있습니다.

5️⃣ 데이터 주권(sovereignty)

• 엣지에서 AI를 사용하면 데이터 주권에 기여합니다. 데이터가 처음 생성된 영역을 벗어날 필요가 없기 때문에 데이터가 가로채거나 오용될 위험이 줄어듭니다. 이는 민감한 데이터가 관련된 의료 및 금융과 같은 산업에 특히 중요합니다. 공공 부문의 예를 들어, 데이터를 로컬 시설 내부에만 보관하는 것은 여러 지역에 분산될 수 있는 대규모 퍼블릭 클라우드에 업로드하는 것과 비교할 때 비우호적인 지역 외부에 보관하는 것을 의미합니다

6️⃣ 사용자 경험 및 애플리케이션 기능 향상

• 사용자 위치에 바로 컴퓨팅 리소스를 보유하면 새로운 사용 사례가 가능하고 사용자 경험이 풍부해집니다. 엣지의 AI가 고객 행동을 분석하고 개인화된 추천을 제공하여 쇼핑 경험을 향상시킬 수 있는 소매점에 들어간다고 가정했을 때 엣지의 AI는 애플리케이션 응답을 줄일 뿐만 아니라 사용자가 특정 이벤트에 대한 복장 추천을 제공하는 것에서부터 과거 구매에 따른 고객 행동을 활용하여 고객을 이해하는 것까지 사용자가 있는 동일한 위치와 순간에서 거의 실시간에 가까운 예측을 통해 기회를 극대화합니다.

작은 설치 공간(footprints) 및 엣지 앱

• Red Hat은 다양한 엣지 배포를 포괄하는 여러 OpenShift 토폴로지를 제공합니다. 3노드 클러스터부터 시작하여 소형 폼 팩터에서 고가용성을 제공합니다. 리모트 워커 노드는 싱글 워커 노드를 현장에 배치하는 반면 고가용성 컨트롤 플레인은 더 멀리 떨어져 있습니다.

• 싱글 노드 OpenShift는 가장 작은 OpenShift 토폴로지로, 이를 통해 앱이 가장 작고 가장 원격 위치에서 실행될 수 있습니다. Red Hat OpenShift AI는 싱글 노드 OpenShift를 사용하여 머신러닝 모델을 원격 위치에 배포할 수 있도록 함으로써 모델 서비스 기능을 엣지까지 확장하고 있습니다.

  
  

• 간헐적이거나 에어 갭이 있는 네트워크 액세스로 인해 리소스가 제한된 환경에서 추론 기능을 제공합니다. 이 기술 미리보기 기능은 조직에 코어부터 클라우드, 엣지까지 확장 가능하고 일관된 운영 경험을 제공하며 즉시 사용 가능한 관찰 기능을 포함합니다.

• Red Hat Device Edge는 1~2개의 CPU 코어 및 2GB RAM면 가능하고, Red Hat은 비용과 불필요한 리소스 사용을 줄이기 위해 애플리케이션에 적합한 장치 크기에 맞는 다양한 토폴로지를 제공합니다.

• 엣지에서 AI를 사용한다는 것은 컴퓨팅과 데이터 처리에 대한 우리의 생각이 크게 바뀌었음을 의미합니다. 컴퓨팅 성능을 데이터 소스에 더 가까이 가져옴으로써 더 빠른 의사 결정, 네트워크 대역폭 감소, 안정성 향상, 데이터 개인 정보 보호 강화 등 다양한 이점을 실현할 수 있습니다. IoT 장치의 성장과 센서 데이터의 폭증이 계속되면서 엣지 AI의 사례가 더욱 많아지고 있습니다.

원본 기사 링크는 아래와 같습니다. 감사합니다.🙏

[Source Link] https://www.redhat.com/en/blog/buzzwords-unite-6-reasons-run-ai-edge