NVIDIA DGX는 무엇입니까?

"NVIDIA DGX (이하 DGX라고도 함)는 딥 러닝을 포함하여 대규모 AI를 위해 개발 된 슈퍼 컴퓨터입니다. GPU 및 GPU 컴퓨터는 원래 게임과 같은 그래픽 목적으로 사용되었지만 특성으로 인해 이제 AI 필드에서 필수 불가결합니다. 따라서 2016 년에 DGX는 NVIDIA에 의해 AI를 전문으로하는 GPU 컴퓨터로 출시되었습니다. DGX는 GPU, CPU 및 시스템 메모리와 같은 하드웨어와 AI 애플리케이션에 최적화 된 소프트웨어와 사전 설치됩니다. 또한 NVIDIA의 AI 전문가의 지원이 포함되어있어 기업이 AI 연구 개발을보다 쉽고 빠르게 발전시킬 수 있습니다.

NVIDIA DGX H100은 무엇입니까?

Nvidia DGX H100 SCSK Link Square에 설치

SCSK가 소개 한 "NVIDIA DGX H100 (HO100이라고 함)"은 2023 년 5 월 이후 DGX 시리즈의 4 세대로 일본에서 이용할 수있는 최신 및 가장 큰 슈퍼 컴퓨터입니다. 또한 8 개의 최신 GPU, NVIDIA H100 TENSOR CORE GPU를 특징으로하며 "NVLINK"라는 고속 통신 프로토콜을 사용하여 각 GPU를 연결하여 여러 GPU의 리소스를 효과적으로 활용할 수 있습니다. 이전 세대와 비교하여 NVIDIA DGX A100은 AI 교육의 성능의 최대 9 배까지 압도적 인 힘을 자랑합니다.

NVIDIA A100 텐서 코어 GPU 및 NVIDIA A100 텐서 코어 GPU 비교

(출처 :H100 텐서 핵심 GPU -NVIDIA)

H100의 또 다른 기능은 NVIDIA 크레이지 슬롯 ENTERPRISE를 지원하여 하드웨어 및 소프트웨어 성능을 최대화 할 수 있다는 것입니다 (아래 참조). 이러한 이유로 H100은 LLM을 포함한 발전기 AI와 같은 대규모 AI 응용 프로그램을 개발하기위한 필수적인 기초입니다.

NVIDIA DGX H100 | 사용의 예 멀티 모달 AI 개발의 속도 향상

항공 우주 생산 기술 개발 센터는 로봇과 AI/IoT를 사용하여 생산 효율성 향상에 대한 연구를 수행하는데 H100을 사용하여 일반 목적 시각적 검사 AI를 개발합니다.

지금까지 시각적 검사 크레이지 슬롯와 관련하여 수많은 양의 양호하고 결함이있는 이미지 (즉, 이미지 만)를 훈련시키는 일반적인 기술이었습니다. 그러나 이는 각 제품을 검사하고 모델을 교육해야하기 때문에 이는 다재다능하지 않아야한다는 과제가 있습니다. 내 눈을 사로 잡은 것은 멀티 모달 크레이지 슬롯 (텍스트, 오디오 및 이미지와 같은 다른 모달 (유형 및 데이터 형태)의 정보를 통합하고 처리 할 수있는 크레이지 슬롯였습니다. 이미지 외에도 언어에 따라 양호하고 결함이있는 제품에 대한 표준의 예를 설명함으로써 제품이 인간처럼 변경 되더라도 일반 목적 시각적 검사를 수행 할 수 있습니다.

(소스/참조)DGX H100 멀티 모달 AI 개발 - 사례 연구 | nvidia

그러나 멀티 모달 크레이지 슬롯가 더 많은 데이터를 처리하기 때문에 컴퓨터는 더 높은 계산 성능이 필요합니다. 이 프로젝트에서 H100이 도입되면서, 이전에 사용 된 이전 세대 A100에 비해 학습 속도가 4 ~ 5 배 향상되었습니다.

H100은 SCSK Link Square (이하 Link Square라고 함)에 설치되어 도쿄 (Yaesu)의 SCSK의 브랜딩 기반에 설치됩니다. 2024 년 6 월에 개설 된 Link Square는 회사 내외부에 SCSK의 최신 솔루션 및 디지털 기술을 경험할 수있는 영역으로 회사 내부와 외부에 개방되어 있으며 고객과 파트너가 "꿈꾸는 미래를 함께 만들기"라는 관리 철학을 기반으로 새로운 비즈니스를 공동으로 만들 수있는 시연 실험을위한 장소이기도합니다.

SCSK Link Square 입구 (왼쪽) 및 이벤트 영역 (오른쪽)

이번에는 SCSK가 H100을 자체 회사뿐만 아니라 고객과 함께 사용하기위한 "검증 기계"로 도입했습니다. 자세히 살펴 보겠습니다.

우리는 DGX와 H100이 AI 애플리케이션에 특화된 컴퓨터라고 발표했습니다. AI 생성 AI의 출현으로 AI 응용 프로그램은 최근 몇 년 동안 수요가 급격히 증가하고 있지만이를 개발하는 데 많은 어려움이 있습니다. 여기서는 일반적인 개발 프로세스 흐름과 회사가 AI 프로젝트를 진행할 때 직면하는 과제를 요약 할 것입니다.

AI 응용 프로그램 개발 흐름

다음 과정을 사용하여 AI 응용 프로그램 개발을 수행 할 수 있습니다.

1. 요구 사항 정의: 전체 프로젝트 개발, 어떤 응용 프로그램을 개발할 것인지
2. 데이터 수집: 다양한 위치에서 응용 프로그램에서 요구하는 데이터를 수집
3. 교육 데이터 만들기: 크레이지 슬롯 모델을 훈련시키기 위해 적절하게 데이터 가공
4. 개발: 응용 프로그램 개발
5. 확장 (구현): 실제로 개발할 수있는 환경에 개발 된 응용 프로그램을 배포

모든 프로세스 이미지

이들 중 훈련 데이터를 작성, 개발 및 배포하는 (구현), 특히 AI 모델이 더 크고 복잡할수록 GPU 리소스가 더 필요하고 H100과 같은 고성능 컴퓨터가 활용됩니다.

AI 애플리케이션 개발의 과제

GPU 컴퓨터는 단지 하드웨어 리소스이며 올바른 사양을 갖는 것만으로는 충분하지 않습니다. 오히려 GPU 컴퓨터를 사용하여 프로젝트를 진행하는 방법을 아는 것이 중요하며 회사가 다루어야 할 다양한 과제가 있습니다.

환경 구축은 시간이 걸립니다

하드웨어 외에도 개발 및 생산 환경의 일부로 미들웨어 및 소프트웨어를 유지해야합니다. 예를 들어 GPU 드라이버, 컨테이너 엔진, AI 모델 라이브러리 등

개발 환경 구성 다이어그램

크레이지 슬롯 모델이 대규모에 도달하면 컨테이너 기술을 쉽게 배포 할 수있는 컨테이너 기술을 사용하면 온-프레미스뿐만 아니라 (공개) 클라우드를 포함한 다중 플랫폼 기반으로도 실행할 수 있습니다. 먼저, 컨테이너를 구축 한 후에는 기계 학습 라이브러리와 같은 소프트웨어가 목적에 따라 컨테이너에 설치됩니다. 크레이지 슬롯 응용 프로그램은 다양한 라이브러리로 구성되므로 각 컨테이너에 필요한 모든 것을 올바르게 설치하고 관리하는 것은 매우 어렵습니다.

관리 작업 필수

위에서 언급했듯이 크레이지 슬롯 응용 프로그램은 각각 복잡한 종속성을 가진 다양한 라이브러리로 구성됩니다. 도서관은 기본적으로 OSS이므로 지원은 셀프 서비스이며 사내에서 다루어야합니다. OSS가 업그레이드 될 때마다 종속성 조사 및 전체 애플리케이션에 대한 영향을 확인하는 등 지속적인 모니터링 및 업데이트가 필요하므로 작동하는 데 시간이 걸립니다.

높은 보안 위험

개별 개발자가 응용 프로그램 당 여러 OSS를 활용함에 따라 보안 취약점도 증가합니다. OSS는 이러한 위험에 대한 책임이 있으므로 회사는 CVE (일반적인 취약성 및 노출) 스캔 등을 통해 최신 위험 상황을 독립적으로 파악하고 감지 된 취약점의 영향과 우선 순위를 결정하고 신속하고 적절한 조치를 취해야합니다.

고급 전문 지식 필수

위에서 언급 한 것처럼 보안을 보장하는 환경 구성 및 지속적인 운영을 실현하기위한 고급 전문 지식을 달성합니다. 목표로하는 AI 응용 프로그램을 개발하고 활용하려면 어떤 종류의 리소스 (하드웨어, 소프트웨어, 네트워크 등)가 필요합니까? 뿐만 아니라 학습을위한 데이터 처리와 완성 된 AI 애플리케이션의 실제 사용을위한 생산 환경을 개발하는 데 필요한 사전 처리 프로세스 모두에 전문 지식이 필요합니다.

회사가 다양한 리소스를 자체적으로 복잡한 조합으로 결합하고, 처음부터 시스템을 구축하고, 최대의 성능을 제공하며, 효율적으로 작동하는 것은 매우 높은 장애물입니다.

"NVIDIA 크레이지 슬롯 ENTERPRISE"라는 소프트웨어 패키지 (AI Enterprise라고 함)는 위의 문제를 해결하고 모든 회사에서 AI 응용 프로그램의 개발 및 활용을 가속화합니다.

Nvidia AI Enterprise의 전체 그림 (출처 : NVIDIA)

AI Enterprise는 NVIDIA에 의해 즉시 사용 가능한 양식으로 최적화 된 다양한 AI 소프트웨어를 제공합니다. 이 소프트웨어는 온-프레미스에서 클라우드에 이르기까지 DGX와 같은 인증 된 플랫폼에서 고성능을 제공 할 수 있으며 물론 H100과 호환됩니다. AI Enterprise를 통해 사용자는 환경 개발에서 개발, 배포 및 운영에 이르기까지 광범위한 지원을 제공하는 다양한 도구를 사용할 수 있습니다.

특히 크레이지 슬롯 Enterprise는 이러한 요소로 구성됩니다.

워크로드 및 인프라 관리 소프트웨어

물리적 GPU 리소스를 나누고 각 가상 머신, 주요 컨테이너 엔진 (예 : Ubuntu 및 Red Hat Enterprise Linux)에 할당되는 VGPU 소프트웨어 (*) 외에도 컨테이너 오케스트레이션 도구 (예 : Red Hat Openshift 및 Vmwall Tanzu)를 즉시 설치할 수 있습니다. 이를 통해 개발 및 실행에 필요한 인프라의 빠른 유지 관리 및 관리가 가능합니다.

NGC (NVIDIA GPU 클라우드) 컨테이너

"NGC 컨테이너"는 딥 러닝 프레임 워크, 머신 러닝 알고리즘 및 HPC 응용 프로그램을위한 포장 컨테이너입니다. 딥 러닝 추론을위한 SDK "Tensorrt"및 AI 애플리케이션을 생성하기위한 MicroService "NIM (NVIDIA 추론 마이크로 서비스) (※)과 같은 NVIDIA의 자체 개발 외에도"Pytorch "및"Tensorflow "와 같은 OS도 포함됩니다.

NGC 컨테이너가 제공하는 콘텐츠는 일반적으로 NVIDIA에서 매달 업데이트되므로 사용자는 항상 최신 버전을 사용할 수 있습니다. 성능이 극대화 될뿐만 아니라 올바르게 보장되어 OSS에서 파생 된 보안 위험을 쉽게 관리 할 수 ​​있으며 운영 인간 시간 및 보안 문제를 해결할 것으로 예상됩니다.

NVIDIA 크레이지 슬롯 워크 플로우

"NVIDIA AI Workflows"는 LLM, 이미지 인식 및 경로 최적화와 같은 AI 모델의 구현 예를 모색합니다. 샘플 코드는 처음부터 구현하여 특정 AI 작업 및 사용 사례와 일치하여 현재 데이터를 사용하여 즉시 응용 프로그램을 시도 할 수 있습니다. 개발하려는 시스템과 유사한 구현 예제가있는 경우 필요에 맞게 미세 조정하여 초보자가 사용하기 쉽고 처음부터 개발에 비해 많은 시간을 절약 할 수 있습니다.

NVIDIA 크레이지 슬롯 Workbench

또한 개발자를위한 통합 개발 환경 인 "Nvidia AI Workbench"가 있습니다. AI 모델을 생성, 교육 및 배포하기위한 올인원 도구로 개발자를 지원하기 위해 다양한 패키지를 사용할 수 있습니다. 예를 들어, 데이터 청소 및 라벨링과 같은 교육 데이터 생성을 단순화하는 도구, 완성 된 모델을 Edge Devices 또는 Clouds에 배포하는 도구 및 여러 멤버간에 데이터 및 모델을 공유하는 도구.

NVIDIA AI 워크 플로 및 NVIDIA AI 워크 벤치를 활용하면 개발자의 기술에 의존하지 않고 AI 프로젝트에 필요한 환경을 빠르고 쉽게 만들고 개발, 배포 할 수 있습니다.

Nvidia 크레이지 슬롯 Enterprise Summary

이제 질문의 주요 주제로 돌아가 봅시다. SCSK가 H100을 링크 스퀘어의 검증 기계로 소개 한 이유. 이는 Link Square라는 공동 창작 장소에서 AI 프로젝트에 필요한 기초를 광범위하게 제공하고 회사, NVIDIA 및 SCSK에서 공동 제작함으로써 비즈니스에서 다양한 형태의 AI 사용을 홍보 할 것입니다.

SCSK Link Square를 통한 공동 창출 시스템

우리는 DGX 플랫폼 중에서 가장 높은 AI 처리 성능을 자랑하는 H100과 이에 대한 응답으로 AI 애플리케이션의 개발, 배포 및 운영을 지원하는 AI Enterprise를 자랑하는 H100을 도입했습니다. 그러나 "H100과 같은 슈퍼 컴퓨터를 갑자기 소개하는 것은 높은 장애물"과 같은 우려로 인해 AI 프로젝트를 적극적으로 홍보 할 수 없다고 말하는 많은 회사가 있습니다.

(참조) 일본은 크레이지 슬롯의 도입에서 다른 나라 뒤에 뒤쳐져 있습니다

2018 년 설문 조사에서 크레이지 슬롯 채택 상태를 살펴보면 일본은 7 개의 목표 국가 중에서 가장 낮은 39%의 일부 형태로 구현했다고 밝혔다. 회사가 자신의 새로운 분야 만 가져갈 수있는 장애물은 높으며 크레이지 슬롯 사용을위한 지원의 여지가 여전히 있다고 생각됩니다.

(소스)내무부 및 커뮤니케이션부 | 2019 년판 정보 및 커뮤니케이션 백서 | IoT/크레이지 슬롯 소개 상태 및 미래 의도 (soumu.go.jp)

따라서 SCSK는 Link Square를 일본 크레이지 슬롯 프로젝트의 기반으로 배치하고 H100을 GPU 컴퓨터를 쉽게 시험해 볼 수있는 검증 기계로 H100을 제공합니다. 또한 크레이지 슬롯 필드의 주요 회사 인 NVIDIA와 협력하여 첫 번째 단계부터 제품의 구현 및 운영에 이르기까지 시도하고자하는 고객을위한 포괄적 인 지원을 제공 할 것입니다. 특히,

1. 지금 가지고있는 데이터로 무엇을 할 수 있습니까? H100 및 크레이지 슬롯 Enterprise를 사용하는 검증 서비스
2. 크레이지 슬롯 컨설턴트의 프로젝트 계획 수립
3. 구축 인프라 및 크레이지 슬롯 환경 지원
4. SCSK의 데이터 센터 "NetXDC"를 사용한 고로드 하우징 서비스
5. 운영 지원

를 포함하여 SCSK가 수년에 걸쳐 재배 한 크레이지 슬롯 노하우 및 지원을 통해 기술 기능을 통해 귀하의 요구를 충족시키는 원 스톱 서비스를 제공합니다.

크레이지 슬롯 프로젝트를 가속화하기위한 SCSK의 원 스톱 서비스

DGX 및 AI Enterprise를 통해 제공되는 NVIDIA의 지원을 기반으로 SCSK는 AI 프로젝트 출시에서 운영 설립에 이르기까지 작업 할 것입니다. 지금은 무언가를 시도하거나 H100의 성과를 경험하고자하는 요청이 있으시면 먼저 저희에게 연락하십시오. Link Square와 함께 작업하여 귀하가 가진 데이터로 무엇을 할 수 있는지, 비즈니스에서 AI를 구현하는 것이 가장 좋은 방법을 확인합시다.

이 기사에서는 NVIDIA와 SCSK가 Link Square에서 H100의 도입을 기반으로하는 크레이지 슬롯 민주화 전략을 조사했습니다.

1. NVIDIA DGX H100은 대규모 AI 애플리케이션을위한 전문화 된 슈퍼 컴퓨터입니다
2. Nvidia AI Enterprise는 AI 애플리케이션 개발과 관련된 모든 리소스의 성능을 최대화하기위한 지원 도구이며 NVIDIA DGX H100
3. NVIDIA DGX H100을 SCSK Link Square라는 공동 제작 장소에 소개함으로써 회사 X Nvidia X SCSK의 공동 창설은 AI의 공동 창조를 가속화하고 민주화를 실현할 것입니다.

우리는 비즈니스 목적으로 크레이지 슬롯를 사용하려는 사람들을 위해 Link Square에서 당신을 뵙기를 기대합니다.

NVIDIA 제품 정보를 보려면 여기를 클릭하십시오

NVIDIA에서 제공하는 혁신적인 GPU 솔루션

가상 공간에서 실제 세계를 능가하는 옴니버스 플랫폼