[TechRep[TechRepublic] UALink 프로모터 그룹 출범

구글, 마이크로소프트, 메타 등 글로벌 클라우드 및 AI 업체들이 AI 가속기가 보다 효과적으로 통신할 수 있는 개방형 산업 표준을 정의하고 확립하기 위한 목적으로 UALink 프로모터 그룹 설립을 추진하고 있습니다. 이와 관련한 내용을 공유해봅니다. * AI 가속기 칩들간 인터커넥트 기술 * AI 생태계 확장을 위한 새로운 인터커넥트 기술로 서버의 AI 가속기 칩을 연결하여 더 빠르고 효율적인 통신을 지원하는 방식 * GPU, TPU 및 기타 특수 AI 프로세서와 같은 AI 가속기 칩은 모든 AI 기술의 핵심 * 각각의 칩은 수많은 복잡한 연산을 동시에 수행할 수 있지만, AI 모델을 학습, 실행 및 최적화하는 데 필요한 높은 워크로드를 달성하려면 서로 연결되어 있어야 함 * 가속기 칩 간의 데이터 전송 속도가 빠를수록 필요한 데이터에 더 빠르게 액세스하고 처리할 수 있으며 워크로드를 더 효율적으로 공유 * UALink 1.0 사양 * 서버의 하나 또는 여러 랙에 분산된 최대 1,024개의 GPU AI 가속기를 하나의 울트라 가속기 스위치 연결 지원 * AI 가속기에 연결된 메모리 간에 직접 로드 및 저장 가능 * 기존의 상호 연결 사양에 비해 데이터 전송 지연 시간을 줄이면서 속도를 전반적으로 향상 * AMD의 Infinity Fabric 아키텍처가 포함 예정 * AI 가속기가 보다 효과적으로 통신할 수 있는 개방형 산업 표준을 정의하고 확립하기 위한 목적으로 2024년 3분기 설립 예정 * 주요 참여 업체 * AMD, Broadcom, Cisco, Google, HPE, Intel, Meta, Microsoft * 새로운 상호 연결 표준을 통해 각각 AI 하드웨어와 클라우드 시장에서 NVIDIA와 AWS두 회사의 지배력을 무너뜨리려는 의도(?) ** 지난 12월에는 50개 이상의 다른 조직이 협력하여 책임감 있는 오픈 소스 AI를 장려하고 폐쇄적인 모델 개발자가 지나치게 많은 권한을 갖는 것을 방지하기 위해 글로벌 AI 얼라이언스 결성 * AMD * Broadcom * Cisco * Google: TPU와 Axion 프로세서 * HPE * Intel: Gaudi * Meta: MTIA * Microsoft: Maia 및 Cobalt GPU ** NVIDIA 출구 전략으로 공급업체 종속을 겪지 않고 시스템을 구축할 수 있는 다양한 대체 하드웨어 옵션을 가져가고자 하는 기업들 ** Broadcom에서 제공할 가능성이 높은 UALink를 사용하여 연결 가능 * NVIDIA * AI 칩분야의 독보적인 시장 지배력: GPU시장의 80% * 높은 기업 가치: 기업 가치가 2조 달러, 조만간 애플을 밀어낼거라는 전망 우세 * 선도적 인터커넥트 기술들: NV링크, 인피니밴드, 이더넷 등 * NV링크: GPU 간 인터커넥트 기술. vs UALink * 아마존 웹 서비스(AWS) * No.1 퍼블릭 클라우드 제공업체, 클라우드 시장의 선두주자 * Trainium 및 Inferentia와 같은 자체 가속기 칩 제품군을 개발 * NVIDIA와 12년 이상의 강력한 파트너십 유지 * 한 회사가 업계를 불균형적으로 지배하는 것을 방지 * UALink 프로모터 그룹은 여러 기업이 AI 데이터센터에 필수적인 하드웨어에 대해 협력할 수 있도록 함으로써 한 기업이 모든 것을 독점 방지 * 지식의 공유는 또한 업계 전반에서 AI 성능의 발전을 가속화 * Source: https://www.techrepublic.com/article/ualink-promoter-group-ai-chips/?utm_source=Sailthru&utm_medium=email&utm_campaign=e731_6.3.24_Takeover_Jira&utm_term=cloud-insider-active