Red Hat의 Kubeflow 커뮤니티 기반 오픈 소스 AI 기여

Red Hat 하면 보통 엔터프라이즈 오픈 소스용 리눅스, 컨테이너와 쿠버네티스을 제공하는 오픈 소스 전문회사로 알려져 있는데요, Red Hat도 AI/ML 오픈 소스 커뮤니티에서 많은 기여를 하고 있습니다. 관련 기사 공유합니다.😃(출처: Red Hat Blog)

<Red Hat의 오픈 소스 AI: Kubeflow 커뮤니티에서의 여정>

• Red Hat은 수년 동안 AI 및 데이터 프로젝트에 참여해 왔으며, 많은 프로젝트가 현대화 여정을 지원하지만 인공지능(AI)과 머신러닝(ML)을 운영환경에 도입하기 위한 전체 사용자 여정에 대해 설명하는 프로젝트는 아직 없었습니다. 이것이 바로 Kubeflow 및 KServe와 같은 데이터 및 AI/ML 전용 오픈 소스 프로젝트의 개발과 지원을 돕기 위해 Open Data Hub를 출시한 이유입니다.

오픈 데이터 허브와 Kubeflow

• Open Data Hub는1Red Hat OpenShift 클러스터에 AI/ML 및 데이터 소프트웨어를 배포하는 단순한 오퍼레이터(Operator)로 시작되었습니다. 그러나 지원 가능성(supportability)을 모색하는 과정에서 장애물(roadblocks)에 부딪히기 시작했을 때, Red Hat은 Kubernetes에서 ML 워크로드 배포를 간소화하고 확장하는 데 초점을 맞춘 새로운 프로젝트인 Kubeflow로 눈을 돌렸습니다. Kubeflow 코드 위에 오픈 데이터 허브를 다시 작성함으로써 새로운 기능 서포트 매트릭스를 만들 수 있었습니다.

• Red Hat은 지난 1년 동안 코드 기여뿐만 아니라 커뮤니티가 더 높은 수준의 성숙도와 사용자 수용(acceptance)을 달성할 수 있도록 지원하기 위해 Kubeflow 커뮤니티에 대한 참여를 늘려왔습니다.

Kubeflow 1.9 릴리즈

Kubeflow 커뮤니티에 합류한 후, Red Hat은 Kubeflow 1.9에 여러 가지 기능에 대해 기여하고 있으며 다음과 같습니다.

• 모델 레지스트리(Model registry)

  • 수요가 많은 기능인 모델 레지스트리는 Kubeflow 1.9에 대한 Red Hat의 주요 공헌(contributions) 중 하나입니다.

  • 모델 레지스트리는 모델, 데이터 세트, 메트릭 등을 포함한 아티팩트 카탈로그를 생성하고 아티팩트 스토리지에서 모델을 배포하기 위해 Kubeflow의 파이프라인 및 서빙 구성 요소와 통합됩니다.

  • 모델 레지스트리의 다른 주요 기능으로는 오퍼레이터/헬름(helm) 차트 배포, RBAC, 멀티테넌시 등이 있습니다.

• Kubeflow Pipelines 2.0

  • Red Hat은 Argo Workflows 3.4로의 업그레이드를 촉진하고, MinIO 보안 및 라이선스 관련 문제를 해결하고, Argo와 Tekton 구현 모두에서 성능 개선을 개발함으로써 Kubeflow Pipelines 2.0에 기여하고 있습니다.

• Notebooks 2.0

  • Kubeflow 1.9 릴리즈와 함께, 커뮤니티는 새로운 custom resource definitions(Workspace 및 WorkspaceKind)을 가져올 Kubeflow Notebooks 2.0 계획을 시작하기로 결정했습니다. 이러한 CRD는 관리자(administrator)에게 기존 노트북 구성을 업데이트하는 기능을 포함해 워크스페이스에 대한 더 많은 제어 기능을 제공합니다. 이 작업은 2024년 초에 설계 단계에서 시작되었으며, 노트북 워킹 그룹(Notebooks working group)이 설계 아키텍처를 주도하고 있습니다.

케이서브(KServe)

• 케이서브는 쿠베플로우 인큐베이션을 졸업한 후 독립적인 프로젝트가 되었는데요, 케이서브 커뮤니티는 빠르게 성장하는 케이서브 자체 커뮤니티를 개발하고 혁신적인 기능을 추진하면서, 케이서브를 쿠베플로우와 통합하기 위해 쿠베플로우 서비스 워킹 그룹의 일원으로서 쿠베플로우 커뮤니티와 긴밀히 협력해 오고 있습니다.

• Red Hat은 커뮤니티와 긴밀히 협력하여 HuggingFace 및 vLLM 기본 제공 런타임 추가, 플러그 가능한 설명자 런타임 추가, RawDeployment 모드의 개선 및 버그 수정, 오버사이즈된(oversized) KServe CRD 최적화, 보안 활용, 릴리스 프로세스 개선 등 다양한 영역에서 노력을 주도해 오고 있습니다.

쿠베플로우의 다음 단계

• Red Hat과 다른 커뮤니티 구성원들은 Kubeflow를 클라우드 네이티브 컴퓨팅 재단(CNCF)의 졸업(graduated) 프로젝트로 발전시키기 위해 노력하고 있습니다. CNCF 졸업 프로젝트로서의 자격을 갖추기 위한 요건 중 일부에는 보안 및 IP 정책을 비롯한 다른 영역의 작업을 확장한 CNCF 졸업 요건을 충족하기 위해 Kubeflow 자료를 재검토하는 것이 포함됩니다.

• Red Hat의 제품 보안 및 오픈 소스 프로그램 오피스 팀은 Kubeflow 구성 요소에서 보안 취약성 프로세스가 발생할 때 발생하는 문제를 해결하기 위해 Kubeflow 커뮤니티와 협력하고 있습니다. 보안 스캐너의 사용과 보안 문제를 해결하기 위한 워크플로우를 제안하여 처리되지 않은 CVE가 있는 Kubeflow 이미지가 릴리즈되는 것을 방지하기 위한 노력을 주도하고 있습니다.

• Red Hat이 Kubeflow에 기여하고 있는 또 다른 영역은 거버넌스 분야이며, Red Hat은 Kubeflow 프로젝트에 기여하기 시작할 때부터 "인증된 배포판(certified distribution)"이라는 아이디어가 해결해야 할 중요한 주제라는 것을 알고 있었고, 새로운 운영 위원회와 CNCF 졸업 프로세스가 궤도에 오르면서 Kubeflow 배포판 인증을 위한 적합성 테스트를 만들기 위한 계획을 수립해서 진행하고 있습니다.

Red Hat과 Kubeflow 커뮤니티의 참여와 관계는 커뮤니티가 함께 더 나은 소프트웨어를 구축하고 제공할 수 있는 방법을 보여주고 있습니다.

원본 기사 링크는 아래와 같습니다. 감사합니다.😃

[Source Link] https://www.redhat.com/en/blog/open-source-ai-red-hat-our-journey-kubeflow-community