AI, 보안(Security) 및 에지(Edge)의 미래 - CI/CD

최신 에지 장치(modern edge devices)에 AI/ML 애플리케이션의 개발 및 배포가 가능하게 하는, "커밋에서 프로덕션까지(from commit to production)"의 방안을 소개하는 기사가 있어 공유합니다. 최근 몇 년 동안 "에지 장치"는 단순한 IoT 센서에서 강력한 인공 지능(AI) 소프트웨어로 구동되는 자율 드론으로까지 진화했습니다. 마찬가지로 AI 소프트웨어를 개발하고 "에지"에 배포하는 프로세스도 급속도로 발전했습니다. 새로운 오픈 소스 소프트웨어(OSS) 프로젝트를 기존 Red Hat 오픈 하이브리드 클라우드 도구 및 플랫폼과 통합하여, 최신 에지 장치에 대한 AI/ML 애플리케이션의 개발 및 배포를 위한 엔드 투 엔드 솔루션을 소개합니다. 데모를 위해 자율 셀프 주행 장난감 자동차용 OSS 툴킷인 DonkeyCar를 예제 AI 애플리케이션으로 사용합니다. DonkeyCar 소프트웨어 제품군은 자율 주행 모델을 구축하고 교육하는 도구를 제공합니다. 이 데모에서는 Fedora 35가 설치된 Raspberry Pi 4에서 DonkeyCar 애플리케이션을 실행합니다. 1부: 클라우드 네이티브 AI/ML 개발 데이터 과학자와 기계 학습 엔지니어는 일반적으로 Julia, Python 및 R과 같은 언어를 지원하는 JupyterHub와 같은 대화형 노트북에서 훈련된 AI/ML 모델 생성에 중점을 둡니다. 관리형 클라우드 서비스를 통해 이러한 노트북 환경을 클라우드에서 실행하고 브라우저를 통해 액세스하게 되면 개발자의 오버헤드가 대폭 간소화됩니다. https://next.redhat.com/wp-content/uploads/2022/08/unnamed.gif 데이터 과학자는 DonkeyCar 애플리케이션 및 종속성이 포함된 완전한 Jupyter 노트북 환경을 가동할 수 있습니다. 여기에서 데이터 과학자는 DonkeyCar 도구와 상호 작용하여 데이터를 생성하고, 실험을 실행하고, 결과를 그래프로 표시하고, 새로운 AI/ML 모델을 교육할 수 있습니다. 결과 및 변경 사항은 노트북이 생성된 기본 소스 리포지토리로 다시 커밋됩니다. 또한 DonkeyCar 애플리케이션 제품군은 가상 시뮬레이션에서 모델을 테스트하는 "디지털 트윈" 환경을 제공합니다. 데모에서 데이터 과학자는 DonkeyCar 애플리케이션 및 모델을 사용하여 AWS에서 서비스로 실행되는 시뮬레이션된 트랙 환경에 연결합니다. 데이터 과학자는 가상 자동차를 실행하여 모델의 성능을 테스트하고 새로운 데이터 포인트를 생성할 수 있습니다. https://next.redhat.com/wp-content/uploads/2022/08/vtwin4.gif 2부: 공급망(Supply Chain) 보안 소프트웨어 공급망 보안은 독점 소프트웨어가 실제 행동과 결과를 도출하기 위해 입력을 해석해야 하는 AI 장치 에지 사용 사례에 특히 중요합니다. 또한 AI 모델을 구축하는 데이터 과학자는 클라우드 보안 전문가가 아닐 가능성이 높습니다. 클라우드 플랫폼은 소프트웨어 빌드 및 배포 절차를 자동화된 CI/CD 파이프라인을 통해 데이터 과학자의 전문화된 역할을 충족할 수 있습니다. 이 자동화를 통해 애플리케이션 개발 배포의 여러 단계에서 보안 조치도 통합됩니다. 데모에서 DonkeyCar 애플리케이션을 구축하고 배포하는 절차는 데이터 과학자가 새 모델 버전을 커밋할 때 자동으로 트리거되는 Tekton 파이프라인으로 표현됩니다(Github Webhook를 통해). 두 개의 빌드 파이프라인이 병렬로 배포됩니다. 하나는 x86_64용이고 다른 하나는 ARM64용이며, 그 결과 자동차를 운전하는 데 필요한 소프트웨어를 번들로 묶는 컨테이너 이미지가 생성됩니다. https://next.redhat.com/wp-content/uploads/2022/08/image-980x550.png 3부: 에지 배포 에지 운영의 중요한 발전은 임베디드 배포용으로 설계된 실험적인 single-node OpenShift 인스턴스인 MicroShift입니다. MicroShift는 기존 RHACM(Red Hat Advanced Cluster Management) 인스턴스에 연결하여 에지 장치를 대규모 하이브리드 클라우드 설치와 보다 원활하게 통합하여 Kubernetes pod 및 서비스를 표준 OpenShift 도구를 사용하여 에지에 배포할 수 있도록 합니다. 데모에서 MicroShift를 사용하여 승인 컨트롤러와 애플리케이션 서비스를 배포합니다. 데모에서 에지 장치의 DonkeyCar 컨테이너 배포는 데이터 과학자의 커밋 푸시에 의해 트리거된 Tekton 파이프라인의 마지막 단계입니다. 이 마지막 단계에서는 애플리케이션이 실행될 위치를 지정하는 배포 매니페스트가 새 컨테이너 이미지 ID 및 Quay.io URL로 업데이트됩니다. 업데이트된 매니페스트는 ACM 배포에서 git 작업을 통해 모니터링 중인 Github 리포지토리로 푸시됩니다. 업데이트된 매니페스트를 읽으면 구독한 모든 에지 장치에 배포 작업이 푸시됩니다. 이 시점에서 컨테이너 이미지와 서명은 Quay.io에서 가져오고 서명은 승인 컨트롤러에 의해 확인되며 포함된 모드로 DonkeyCar 애플리케이션 컨테이너가 시작되어 자동차 작동이 시작됩니다. 또한 애플리케이션의 무결성을 보장하기 위해 배포 시 컨테이너 서명이 필요한데, 장치 자체의 런타임 무결성은 Keylime을 통해 제공됩니다. https://next.redhat.com/wp-content/uploads/2022/08/Car1.gif 기사의 전체 내용은 아래 링크를 통해 확인하실 수 있습니다. 감사합니다.