Red Hat의 통신사를 위한 AI 지원 기능

Red Hat이라는 오픈 소스 전문 기업에서, 통신 서비스를 제공하는 회사들을 위해 AI 기술지원을 강화한다는 내용을 발표했습니다. 관련 기사 공유합니다.😃 (출처: Red Hat Blog) * 2024년 올해 통신업계의 화두는 하이브리드 환경에서 네트워크, 보안, 인프라 및 애플리케이션 전반에 걸쳐 전반적인 비즈니스 및 운영 효율성을 개선하기 위해서 지능형 자동화 및 AI 기술을 채택하는 것입니다. * Red Hat은 지난 5월에 있었던 Red Hat Summit 2024에서 RHEL(Red Hat Enterprise Linux) AI 도입, Red Hat OpenShift AI 개선 등 통신업체 비용 절감, 고객 서비스 강화, 혁신 추진 및 운영 개선에 도움이 되는 강력한 AI 플랫폼에 대한 프로젝트를 발표했습니다. * 통신업체에서 사기 탐지, 향상된 데이터 관리, 자율 네트워크 및 리소스 최적화, 네트워크 트래픽 관리, 에너지 관리, 챗봇, 맞춤형 고객 지원, AI 모델을 통해 경쟁력을 유지하는 데 도움이 될 수 있고 무선 액세스 네트워크(RAN) 및 코어 등에서 현대 디지털 인프라의 증가하는 수요를 모두 충족할 수 있는 Red Hat의 솔루션을 소개하는 기사입니다. Red Hat Enterprise Linux AI을 통한 통신업계 기여 * Red Hat은 사용자가 GenAI(제너레이티브 AI) 모델을 보다 원활하게 개발, 테스트 및 배포할 수 있도록 지원하는 기본 모델 플랫폼인 RHEL AI를 발표했습니다. RHEL AI는 IBM Research의 오픈 소스 라이센스 Granite LLM(대형 언어 모델) 제품군, LAB(Large-scale Alignment for chatBots) 방법론을 기반으로 하는 InstructLab 모델 정렬 도구, InstructLab 프로젝트를 통한 모델 개발에 대한 커뮤니티 중심 접근 방식을 결합합니다. * 전체 솔루션은 하이브리드 클라우드 전체의 개별 서버 배포를 위해 최적화되고 부팅 가능한 RHEL 이미지로 패키지되어 있으며 구축, 학습 및 튜닝을 위해 Red Hat의 MLOps(하이브리드 머신 러닝 오퍼레이션) 플랫폼인 Red Hat OpenShift AI의 일부로도 포함되어 있습니다. 분산 클러스터 환경 전반에 걸쳐 대규모 모델을 제공합니다. * RHEL AI는 AI 모델을 개발, 실험하고 미세 조정하는 데 대한 장벽을 낮추고 기술이나 하드웨어에 대한 상당한 사전 투자 없이도 조직에서 AI의 잠재력에 대한 계획을 훨씬 쉽게 시작할 수 있도록 함으로써 통신업체에 힘을 실어줄 것입니다. * 데이터 과학자뿐만 아니라 광범위한 주제 및 도메인 전문가가 LLM의 교육, 조정 및 조정에 기여할 수 있도록 하여 전반적인 통신사 고객 경험을 개선하는 데 도움이 될 수 있습니다. 이는 데이터 과학자 워크플로우를 거치지 않고도 실제로 이러한 작업을 직접 수행하는 사람들의 입력을 사용하여 챗봇, 코드 도우미, 소비자 서비스 등을 구축할 수 있음을 의미합니다. 이는 통신업체가 AI를 빠르고 효율적으로 실험할 수 있는 새로운 방식으로 보는 데 도움이 되는 동시에 자신의 고유한 지식과 기술에서 파생된 AI 기능을 구축할 수 있는 경로를 제공합니다. Red Hat OpenShift AI를 통한 통신 운영 혁신 * Red Hat Summit에서 통신업체가 하이브리드 클라우드 전체에서 AI 지원 애플리케이션을 대규모로 생성하고 제공할 수 있도록 지원하는 Red Hat OpenShift를 기반으로 구축된 오픈 하이브리드 AI 및 머신 러닝(ML) 플랫폼인 Red Hat OpenShift AI의 새로운 기능을 발표했고, 아래과 같은 다양한 업데이트가 있었습니다. * 특정 사용 사례에 적용 가능한 경우 단일 노드 Red Hat OpenShift를 사용하여 엣지에서 원격 위치로 서비스를 제공하는 모델(현재는 Tech Preview 상태임) * 예측 및 GenAI를 모두 지원하기 위해 여러 모델 서버를 사용하는 기능을 갖춘 향상된 모델 제공 * 향상된 모델 개발 및 분산 모델 학습 * 성능 및 운영 지표 등에 대한 모델 모니터링 시각화 * 일반적으로 모델 학습 및 서비스를 엣지에 적용하는 것은 설정의 복잡성으로 인해 비용이 많이 들 수 있습니다. 그러나 Red Hat OpenShift AI와 같은 공통 플랫폼을 코어부터 엣지까지 보유하면 자동화가 향상되어 운영 비용을 절감하는 데 도움이 되어 이 작업을 더욱 효율적으로 수행할 수 있습니다. * 지능형 자동화를 통해 통신업체는 네트워크 운영을 간소화하고 보안 조치를 개선하며 리소스 할당을 최적화할 수 있습니다. 이는 통신사가 레거시 시스템 현대화와 5G 네트워크 확장으로 인한 재정적 압박에 직면하고 있기 때문에 특히 중요합니다. * AI를 엣지에 적용하면 통신업체는 더 빠른 데이터 처리와 실시간 의사결정의 이점을 누릴 수 있으며, 이를 통해 AI 지원 애플리케이션과 서비스의 성능을 크게 향상할 수 있습니다. 이 접근 방식은 증가하는 기계 생성 데이터 볼륨을 지원하고 연결 및 분석 기능을 향상시킵니다. * 통신업체는 RAN의 AI 모델을 활용하여 단순히 하루 중 시간을 미리 설정하는 것 이상으로 주파수, 섹터, 셀 및 기지국을 보다 동적으로 제어할 수 있습니다. 채널 추정 및 SON 작업에 AI 기술을 적용할 수 있습니다. * Red Hat OpenShift AI는 AI 및 ML 기능을 표준 DevOps 모델에 통합하여 AI 모델의 전체 라이프사이클을 포괄하는 MLOps를 제공합니다. 여기에는 AI 모델 구축, 교육, 제공 및 모니터링이 포함되며, 이는 통신업체에 매우 중요한 정확성을 위한 미세 조정에 중점을 둡니다. * .AMD와의 긴밀한 통합은 통신업체가 최신 GPU 세트 사용을 포함하여 Red Hat OpenShift를 통해 플랫폼을 활성화하는 데 도움이 됩니다. 그리고 Red Hat OpenShift AI를 Intel의 AI 하드웨어와 더욱 통합함으로써 통신업체는 AI 워크로드 이식성이 향상되어 필요할 때마다 AI 워크로드를 구축, 실행 및 배포할 수 있어 데이터센터에서 클라우드, 엣지까지의 상호 운용성을 실현할 수 있습니다. * Red Hat은 사용자가 Red Hat OpenShift AI를 사용하여 학습된 AI 모델과 NVIDIA NIM 마이크로서비스를 결합하여 단일 MLOps 플랫폼에서 GenAI 기반 애플리케이션을 개발할 수 있도록 NVIDIA와의 협력을 발표했습니다. 이를 통해 서비스 제공업체는 Red Hat OpenShift를 고객 서비스 채팅 도우미, 규정 준수 검사, 악성 코드 탐지 등과 같은 코파일럿(co-pilot) 구축을 위한 개발자 플랫폼으로 사용할 수 있습니다. * Red Hat은 Run:ai와 협력하여 리소스 할당 AI 인프라 관리 및 GPU 오케스트레이션 기능을 Red Hat OpenShift AI에 제공합니다. AI 운영을 간소화하고 기본 인프라를 최적화함으로써 이 협력은 서비스 제공업체가 5G 코어 및 RAN 애플리케이션과 같은 워크로드를 기반으로 스스로 적응하고 조정할 수 있는 지능형 인프라를 구축하기 위해 리소스를 최적화하는 데 도움이 될 것입니다. 미래의 지능형 네트워크를 위한 자동화 강화 * Red Hat Lightspeed는 Red Hat OpenShift 및 Red Hat Enterprise Linux를 위한 엔터프라이즈급 AI를 도입하기 위해 플랫폼 전반으로 확장되고 있습니다. 이는 Red Hat의 엔터프라이즈급 Linux 및 클라우드 네이티브 애플리케이션 플랫폼을 초보 사용자가 더욱 쉽게 사용할 수 있도록 하고 숙련된 전문가에게는 지능적인 자연어 처리 기능을 제공하기 위한 것입니다. * 앱 관리 및 개발을 위해 Red Hat OpenShift를 사용하거나 운영 체제로 RHEL을 사용하는 많은 통신업체가 이제 GenAI의 도움으로 소프트웨어를 더 빠르게 생성하고 제공할 수 있는데요, 통신업체는 미래형 통신업체 네트워크의 구축, 배포 및 유지 관리에 이러한 자동화 도구를 활용하여 팀을 전례 없는 수준의 규모와 효율성으로 추진할 수 있습니다. 혁신을 저해하지 않으면서 규정 준수하기 * Red Hat은 Red Hat Ansible Automation Platform의 향후 버전에 제공될 새로운 기능인 코드형 자동화된 정책을 발표했습니다. 이 기능은 점점 더 다양하고 점점 더 많은 수의 AI 애플리케이션을 포함하는 하이브리드 클라우드 환경 전반에 걸쳐 정책과 규정 준수를 시행하는 데 도움이 될 것입니다. 자동화 성숙도의 또 다른 단계인 코드형 정책을 사용하면 변화하는 내부 또는 외부 요구 사항을 준수하고 AI 워크로드 확장을 지원하는 인프라 확장에 더 잘 대비할 수 있습니다. * Ansible Automation Platform과 정책 엔진 및 기능을 더욱 긴밀하게 통합하여 전반적인 인프라 보안 상태를 개선 * 인프라에서 변환 및 구현할 수 있는 일반 텍스트로 정책을 정의하는 기능(예: 네트워크 전체의 모든 스위치에 대해 규정 준수 검사 수행) * 규제 요구 사항 및 규정 준수를 보다 쉽게 충족할 수 있음 * Red Hat은 통신사가 예측 및 GenAI 영역 모두에서 모델을 개발, 학습 및 배포할 수 있는 기본 AI 기능을 제공하기 위해 제품 포트폴리오를 크게 개선 우리는 고객이 인프라와 서비스에 AI를 쉽게 사용할 수 있도록 이 제품을 계속해서 개선할 것이라고 합니다.😃 원본 기사 링크는 아래와 같습니다. 끝까지 읽어 주셔서 감사합니다🙏 [Source Link] https://www.redhat.com/en/blog/red-hat-levels-ai-support-telecommunication-service-providers