커리어리 친구들, 올해도 이제 한 달 반쯤 남았습니다. 계속해서 코로나 대유행이었지만 실리콘밸리 기업들의 혁신 속도는 계속적으로 발전하는 것을 볼 수 있습니다. 1년에 두번 엔비디아는 개발자 컨퍼런스를 하는데, 최근에 GTC'21 Fall Keynote 동영상과 발표자료를 공유했는 데 오늘은 그 중에 1차로 간추려 정리해보겠습니다. 무려 114장이나 되는 데, 아래의 URL에 발표자료 링크를 공유하겠습니다. 😻 엔비디아 리옵트(NVIDIA ReOpt)는 거의 실시간 라우팅 최적화를 가능하게 하는 AI 물류 소프트웨어 API입니다. ReOpt는 물류 및 운영 연구 개발자가 더 큰 데이터 세트와 더 빠른 처리를 활용하여 라스트 마일 배송, 공급망, 창고 피킹 및 식품 배송을 위한 동적 경로 재지정, 시뮬레이션 및 1초 미만의 솔버 응답 시간과 같은 새로운 기능을 제공할 수 있도록 지원합니다. 😻 엔비디아 cuQuantum은 양자 컴퓨팅 워크플로를 가속화하기 위한 최적화된 라이브러리 및 도구의 SDK입니다. 개발자는 cuQuantum을 사용하여 상태 벡터 및 텐서 네트워크 방법을 기반으로 하는 양자 회로 시뮬레이션 속도를 수십 배까지 높일 수 있습니다. 😻 GPU 가속 양자 회로 시뮬레이션은 학계, 실험실, 산업계의 연구 커뮤니티는 시뮬레이터를 사용하여 양자 컴퓨터에서 실행할 알고리즘을 설계하고 검증하는 데 도움을 주고 있습니다. 이러한 시뮬레이터는 중첩 및 얽힘의 속성을 캡처하고 Cirq, Qiskit 등을 포함한 양자 회로 시뮬레이션 프레임워크를 기반으로 합니다. 😻 NVIDIA cuNumeric는 NumPy 생태계에 GPU 가속 슈퍼컴퓨팅 도입하여 NumPy용 드롭인 교체 라이브러리로, NVIDIA 플랫폼의 분산 및 가속화 컴퓨팅을 Python 커뮤니티에 제공합니다. 이렇게 된 배경을 설명하면, 파이썬은 데이터 과학, 기계 학습 및 생산적인 수치 컴퓨팅에 가장 널리 사용되는 언어가 되었습니다. NumPy는 사실상의 표준 수학 및 행렬 라이브러리로, 인터페이스가 과학 응용 프로그램의 수학적 요구에 밀접하게 대응하는 간단하고 사용하기 쉬운 프로그래밍 모델을 제공하여 가장 널리 사용되는 많은 데이터 과학 및 기계의 기반이 됩니다. 학습 프로그래밍 환경이 구축됩니다. 데이터셋이 계속해서 크기가 확장되고 프로그램이 계속해서 복잡해짐에 따라 단일 CPU 전용 노드가 제공할 수 있는 것보다 훨씬 많은 계산 리소스를 활용하여 이러한 문제를 해결해야 할 필요성이 커지고 있습니다. 이러한 문제를 해결하기 위해 엔비디아는 cuNumeric를 새롭게 출시했습니다. 😻 엔비디아 인피니밴드(InfiniBand) 아키텍처의 7세대인 NVIDIA Quantum-2는 AI 개발자와 과학 연구자에게 세계에서 가장 어려운 문제를 해결할 수 있는 가장 빠른 네트워킹 성능과 기능 세트를 제공합니다. NVIDIA Quantum-2는 소프트웨어 정의 네트워킹, 네트워크 내 컴퓨팅, 성능 격리, 고급 가속 엔진, 원격 직접 메모리 액세스(RDMA), 최대 400Gb/s의 가장 빠른 속도 및 피드를 통해 세계 최고의 슈퍼컴퓨팅 데이터 센터를 지원합니다. 😻 엔비디아 도카(DOCA)는 엔비디아 블루필드(BlueField) 데이터 처리 장치(DPU)가 데이터 센터 워크로드를 오프로드, 가속화 및 격리할 수 있는 가능성을 여는 열쇠입니다. DOCA를 사용하면 개발자는 제로 트러스트 보호 기능이 있는 소프트웨어 정의 클라우드 네이티브 DPU 가속 서비스를 만들어 현대 데이터 센터의 증가하는 성능 및 보안 요구 사항을 해결함으로써 미래의 데이터 센터 인프라를 프로그래밍할 수 있습니다. 또한 블루필드는 강력한 데이터 센터 서비스 가속기로서 기존 애플리케이션과 최신 GPU 가속 워크로드 모두에 대해 최대 400Gb/s의 이더넷 및 인피니밴드 연결을 제공하는 동시에 호스트 CPU 코어가 인프라 작업 대신 애플리케이션을 실행할 수 있도록 합니다. 😻 엔비디아 모피어스(Morpheus)는 사이버 보안 개발자가 대량의 실시간 데이터를 필터링, 처리 및 분류하기 위해 최적화된 AI 파이프라인을 생성할 수 있도록 하는 개방형 애플리케이션 프레임워크입니다. 😻 엔토스(Entos)는 분자 발견을 가속화합니다. 강력한 분자 디자인과 유연한 고처리량 실험, 선구적인 통합을 합니다. 엔토스 플랫폼은 분자 시뮬레이션의 1000배 가속과 제약 특성의 정확한 예측을 위한 데이터 요구 사항의 100배 감소를 제공하는 딥 러닝 아키텍처인 Entos OrbNet에 의해 구동됩니다. 😻 이전에는 NVIDIA SimNet이라고 부르는 NVIDIA 모듈러스(Modulus)는 물리학 머신러닝 신경망 모델 개발을 위한 프레임워크로서 엔지니어, 과학자, 연구원 또는 학생이라면 기본 분석 워크플로에서 가장 복잡한 디지털 트윈 애플리케이션 구축에 이르기까지 대리 모델을 사용하는 것이 일상 업무에 만연해 있습니다. 따라서, 모듈러스는 더 나은 분석을 위해 더 강력한 모델을 구축하기 위해 AI와 물리학 및 편미분 방정식(PDE)의 힘을 결합하는 신경망 프레임워크입니다. AI 기반 물리학 문제를 시작하려고 하든 복잡한 비선형 다중 물리학 시스템을 위한 디지털 트윈 모델을 설계하든 NVIDIA 모듈러스가 그러한 작업을 지원할 수 있습니다. 😻 엔비디아 옴니버스(OMNIVERSE)는 Pixar의 Universal Scene Description 및 엔비디아 RTX™ 기술을 기반으로 하는 3D 시뮬레이션 및 디자인 협업을 위한 확장 가능한 다중 GPU 실시간 참조 개발 플랫폼입니다. 따라서, 처음부터 모듈식 개발 프레임워크로 쉽게 확장하고 사용자 정의할 수 있도록 구축되었습니다. 최종 사용자와 콘텐츠 제작자가 옴니버스 플랫폼을 활용하여 3D 워크플로를 연결하고 가속화하는 동안 개발자는 옴니버스 스택의 플랫폼 계층에 연결하여 새로운 도구와 서비스를 쉽게 구축할 수 있습니다. 😻 엔비디아 CUDA-X는 광범위한 도메인의 개발자, 연구원 및 발명가는 GPU 프로그래밍을 사용하여 응용 프로그램을 가속화합니다. 이러한 애플리케이션을 개발하려면 고도로 최적화된 도메인별 라이브러리가 있는 강력한 프로그래밍 환경이 필요합니다. CUDA®를 기반으로 구축된 NVIDIA CUDA-X는 인공 지능에서 고성능 컴퓨팅에 이르기까지 여러 애플리케이션 도메인에서 대안보다 훨씬 더 높은 성능을 제공하는 라이브러리, 도구 및 기술 모음입니다. 😻 마이크로소프트 팀즈는 전 세계의 학생과 전문가가 AI 생성 라이브 캡션 및 실시간 전사를 통해 온라인 회의를 진행할 수 있도록 지원합니다. 이 기능은 교육을 위한 NVIDIA AI 컴퓨팅 기술과 음성 인식 모델의 추론을 위한 NVIDIA Triton Inference Server의 지원을 받고 있습니다. Teams를 사용하면 전 세계적으로 거의 2억 5천만 명의 월간 활성 사용자가 커뮤니케이션 및 공동 작업을 수행할 수 있습니다. NVIDIA GPU에서 중요한 컴퓨팅 집약적 신경망 추론을 곧 실행할 프로세스인 Microsoft Azure Cognitive Services를 사용하여 팀 대화에 캡션을 추가하고 28개 언어로 번역 제공 했습니다. 🙏 큐레이터 한줄 평: 이번 GTC는 다른 어떤 때 부터 상당한 많은 엔비디아 솔루션과 서비스를 산업에 맞게 내놓았습니다. 단순히 엔비디아 새로운 서비스를 아는 것 보다 솔루션 아키텍처로 메타버스, 인공지능, 네트워크, CPU/GPU 등에 필요한 하드웨어와 소프트웨어를 이용하여 설계하는 데 염두해 두는 것이 좋을 것 같아서 내용을 한번 정리해 보았습니다. 이 모든 것을 처음부터 시작하는 것은 시간과 비용도 많이 들고 나중에 개발 후 확장성 문제로 새롭게 프레임워크와 개발 방법을 변경해야 하기 때문입니다. Keynote 영상 : https://youtu.be/jhDiaUL_RaM 키노트 발표 자료 : https://nvidianews.nvidia.com/multimedia/corporate