구글, 마이크로소프트, 메타 등 글로벌 클라우드 및 AI 업체들이 AI 가속기가 보다 효과적으로 통신할 수 있는 개방형 산업 표준을 정의하고 확립하기 위한 목적으로 UALink 프로모터 그룹 설립을 추진하고 있습니다. 이와 관련한 내용을 공유해봅니다.

< UALink(Ultra Accelerator Link) >

• AI 가속기 칩들간 인터커넥트 기술

  • AI 생태계 확장을 위한 새로운 인터커넥트 기술로 서버의 AI 가속기 칩을 연결하여 더 빠르고 효율적인 통신을 지원하는 방식

  • GPU, TPU 및 기타 특수 AI 프로세서와 같은 AI 가속기 칩은 모든 AI 기술의 핵심

  • 각각의 칩은 수많은 복잡한 연산을 동시에 수행할 수 있지만, AI 모델을 학습, 실행 및 최적화하는 데 필요한 높은 워크로드를 달성하려면 서로 연결되어 있어야 함

  • 가속기 칩 간의 데이터 전송 속도가 빠를수록 필요한 데이터에 더 빠르게 액세스하고 처리할 수 있으며 워크로드를 더 효율적으로 공유

• UALink 1.0 사양

  • 서버의 하나 또는 여러 랙에 분산된 최대 1,024개의 GPU AI 가속기를 하나의 울트라 가속기 스위치 연결 지원

  • AI 가속기에 연결된 메모리 간에 직접 로드 및 저장 가능

  • 기존의 상호 연결 사양에 비해 데이터 전송 지연 시간을 줄이면서 속도를 전반적으로 향상

  • AMD의 Infinity Fabric 아키텍처가 포함 예정

  
  

< UALink 프로모터 그룹 >

• AI 가속기가 보다 효과적으로 통신할 수 있는 개방형 산업 표준을 정의하고 확립하기 위한 목적으로 2024년 3분기 설립 예정

• 주요 참여 업체

  • AMD, Broadcom, Cisco, Google, HPE, Intel, Meta, Microsoft

• 새로운 상호 연결 표준을 통해 각각 AI 하드웨어와 클라우드 시장에서 NVIDIA와 AWS두 회사의 지배력을 무너뜨리려는 의도(?)

  ** 지난 12월에는 50개 이상의 다른 조직이 협력하여 책임감 있는 오픈 소스 AI를 장려하고 폐쇄적인 모델 개발자가 지나치게 많은 권한을 갖는 것을 방지하기 위해 글로벌 AI 얼라이언스 결성

< UALink 프로모터 그룹 주요 가입 업체들 >

• AMD

• Broadcom

• Cisco

• Google: TPU와 Axion 프로세서

• HPE

• Intel: Gaudi

• Meta: MTIA

• Microsoft: Maia 및 Cobalt GPU

** NVIDIA 출구 전략으로 공급업체 종속을 겪지 않고 시스템을 구축할 수 있는 다양한 대체 하드웨어 옵션을 가져가고자 하는 기업들

** Broadcom에서 제공할 가능성이 높은 UALink를 사용하여 연결 가능

< UALink 프로모터 그룹에 가입하지 않은 회사 >

• NVIDIA

  • AI 칩분야의 독보적인 시장 지배력: GPU시장의 80%

  • 높은 기업 가치: 기업 가치가 2조 달러, 조만간 애플을 밀어낼거라는 전망 우세

  • 선도적 인터커넥트 기술들: NV링크, 인피니밴드, 이더넷 등

    • NV링크: GPU 간 인터커넥트 기술. vs UALink

• 아마존 웹 서비스(AWS)

  • No.1 퍼블릭 클라우드 제공업체, 클라우드 시장의 선두주자

  • Trainium 및 Inferentia와 같은 자체 가속기 칩 제품군을 개발

  • NVIDIA와 12년 이상의 강력한 파트너십 유지

< AI에서 개방형 표준이 필요한 이유 >

• 한 회사가 업계를 불균형적으로 지배하는 것을 방지

• UALink 프로모터 그룹은 여러 기업이 AI 데이터센터에 필수적인 하드웨어에 대해 협력할 수 있도록 함으로써 한 기업이 모든 것을 독점 방지

• 지식의 공유는 또한 업계 전반에서 AI 성능의 발전을 가속화

• Source: https://www.techrepublic.com/article/ualink-promoter-group-ai-chips/?utm_source=Sailthru&utm_medium=email&utm_campaign=e731_6.3.24_Takeover_Jira&utm_term=cloud-insider-active