메가 슬롯 PROPE/CRAY XD 시리즈
NVIDIA AI 호환 GPU 장착 서버

메가 슬롯 ProLiant DL385 Gen11

• 4 세대 AMD EPYC 9004 시리즈 프로세서장착
• NVIDIA H100(80GB ・ PCIE)또는A100(80GB ・ PCIE)최대 4 단위설치할 수 있습니다

AI, ML 및 Big Data Analytics Workloads에 대한 Accelerator-Optemized 솔루션. 2U 2P 구성은 우수한 컴퓨팅 성능, 높은 데이터 전송 속도 및 메모리 대역폭을 제공합니다. 최대 96 개의 코어, 향상된 메모리 대역폭 및 용량, 고속 PCIE GEN5 I/O, 확장 GPU 지원 및 EDSFF 스토리지를 갖춘 4 세대 AMD EPYC 9004 시리즈 프로세서를 특징으로합니다.

또한 확장 가능한 아키텍처는 최신 GPU 가속기와의 혁신을 가능하게합니다. 최대 4 개의 NVIDIA H100 (80GB, PCIE) 또는 A100 (80GB, PCIE)을 장착 할 수 있습니다. HPE의 Silicon Root of Trust를 기반으로 한 고급 보안 기능은 펌웨어에 내장되어 있으며 AMD 보안 프로세서를위한 디지털 지문을 만들어 부팅하기 전에 안전하게 작동 할 수 있는지 확인합니다. 높은 코어 카운트 및 스토리지 및 I/O 확장 성이 필요한 무거운 컴퓨팅 및 데이터 스토리지 워크로드를위한 완벽한 솔루션.

빠르고 개방적이며 효율적

• 5NM 기술을 사용하는 4 세대 AMD EPYC 9004 시리즈 프로세서가 장착 된 최대 96 코어, 400W 및 384MB의 캐시를 지원합니다. 메모리는 4800MHz DDR5 (최대 12 채널)를 사용합니다

• DDR5 메모리의 최대 총 6TB (계획)는 프로세서 당 12 개의 DIMM 채널로 설치할 수 있습니다. 메모리 대역폭 및 성능 향상으로 필요한 전력 감소

• PCIE Gen5 직렬 확장 버스와 최대 8 개의 PCIE Gen5 슬롯 및 2 개의 OCP 슬롯이있는 높은 데이터 전송 속도 및 네트워크 속도

• HPE 통합 광 등 아웃 6 (ILO 6) 서버 관리 소프트웨어가 장착되어있어 보안 구성, 모니터링 및 업데이트를 허용하는 서버 관리 소프트웨어

• 핫 플러그 ​​가능 및 고도로 사용 가능한 RAID M.2 부트 옵션 지원

메가 슬롯 CRAY SUPERCOMPETING XD670 (Intel Xeon/8GPU)

• Exascale 클래스 시스템의 경우
• NVIDIA H100(80GB ・ SXM5)최대 8 단위설치할 수 있습니다

Exascale을 지원하는 시스템으로, 모든 규모의 데이터 센터에 슈퍼 컴퓨팅의 힘을 가져옵니다. 메가 슬롯 Cray SuperComputing XD670 (Intel Xeon/8GPU) 시스템은 성능이 높은 GPU 가속도 및 완전한 랙 앤 롤 AI 교육 및 딥 러닝 솔루션을 갖춘 서버입니다.

NVIDIA H100 이것은 최대 8 개의 GPU와 NVIDIA H100 텐서 코어가있는 2 개의 CPU를 갖춘 5U 섀시 시스템입니다. SXM5 GPU, 직물, 메모리 및 스토리지의 유연성으로 모든 AI 및 HPC 사용자에게는 확장 가능한 솔루션을 제공합니다. 대규모 모델에서 AI 교육 및 딥 러닝의 최대 성능을 제공합니다. Exascale 지원 네트워킹 기술, 통합 스토리지 및 광범위한 소프트웨어 포트폴리오 및 관리 도구를 사용하여 구축되므로 필요한 과제를 충족시킬 수 있습니다.

exascale의 슈퍼 컴퓨팅

• 5U 단일 노드 섀시

• 메가 슬롯 :NVIDIA H100 텐서 코어 SXM5 GPU 8 AI 교육, 딥 러닝 및 고급 HPC 시뮬레이션을 활성화합니다(*PCIE 메가 슬롯S가 지원되지 않음)

• CPU :4 세대 지원 Intel Xeon 확장 가능한 프로세서 Sapphire Rapids

• DRAM :최대 32 DDR5 4800mt/SEC DIMMS 지원

• 빠른 패브릭 :Slingshot 11, Infiniband NDR, 이더넷 지원

• PCIE Gen5 반 높이와 8 개의 하프 길이 슬롯이 장착되어 있습니다. 고속 직물, GPU, NVME 드라이브 및 CPU간에 직접 전환 가능한 연결을 제공합니다.

• 스토리지 :최대 8SFF NVME U.2 | U.3 및 2 M.2 RAID SSD

• CRPS 전원 공급 장치 :서버 시스템 당 3000W x 6 용량이 장착되어 완전한 중복성을 제공

• PCIE 확장 :4 x PCIE Gen5 2 x 10g Base-T (RJ45) 포트와 1 x MLAN (1GBE) 포트가있는 확장 슬롯

​​메가 슬롯 CRAY SUPERCOMPETING XD665 (AMD EPYC/4GPU)

• 4메가 슬롯 시스템에 대한 새로운 표준
• NVIDIA H100 텐서 코어 4GPU 및 AMD GENOA CPU 장착

광범위한 HPC, AI 워크로드 및 고속 컴퓨팅 응용 프로그램을 위해 설계되었습니다. 지속 가능성과 효율성을 극대화하는 직접 액체 냉각 기술이 장착되어 있습니다. 의료, 생명 과학, 금융 서비스, 공공 부문 및 제조와 같은 분야에서 획기적인 성과와 유연성을 제공하는 솔루션. 배포 및 관리를 단순화하고 비용을 줄이며 ROI를 늘리기 위해 온-프레미스 또는 하이브리드 클라우드로 제공 될 수 있습니다.

탁월한 다목적 성 및 컴퓨팅 집중 응용 프로그램과 호환

• 높은 유연성, 많은 선택
  직물 :Infiniband뿐만 아니라 메가 슬롯 Slingshot 및 DLC (데이터 링크 제어)도 지원합니다. 더 안정적이고 고성능

• 냉각 :새로운 냉각 기술 채택
  하우징 내부에 라디에이터가 장착되어 GPU 및 CPU를 액체로 냉각시킵니다

• 고효율 냉각 기술의 채택과 함께 4U 섀시를 사용합니다

• 고전력 소비 효율

• 주택 외부에 설치할 수 있으며 DLC를 구현할 수 있습니다

• 메가 슬롯 :NVIDIA H100 텐서 코어 SXM5 GPU × 4

• CPU :4 세대 AMD EPYC 프로세서 (GENOA)

• PCIE 확장 :HHHL X16 PCIE GEN5 PCIE SWITCH | 메가 슬롯- 다이얼 RDMA NIC X 4, OCP PCIE GEN5 슬롯 X 1

• DRAM :최대 24 DDR5 4800MHz DIMMS 지원

• CRPS 전원 공급 장치 :CRPS 54VDC 3000W 80PLUS TITANLUM N+2

메가 슬롯 CRAY XD2000

• 메가 슬롯 CRAY XD295V의 GPU
• Nvidia H100(80GB ・ PCIE)또는A30최대 2 단위설치할 수 있습니다

HPC 및 엔터프라이즈 데이터 센터의 유체 워크로드 요구를 충족시킬 수있는 밀도 최적화 된 스케일 아웃 컴퓨팅 시스템. 메가 슬롯 Cray XD2000 시스템은 공유 인프라 섀시로 최대 4 개의 Cray XD220V 서버 (인텔), 4 개의 Cray XD225V 서버 (AMD) 및 2 개의 Cray XD295V 서버 (AMD)를 수용 할 수 있습니다. 동일한 섀시에서 다른 서버의 작동에 영향을 미치지 않고 각 서버를 유지 관리 할 수있게하여 시스템 가동 시간을 증가시킵니다.

메가 슬롯 CRAY XD2000 시스템은 탁월한 성능을 달성하면서 TCO를 줄이기위한 전력/냉각 (DLC)을위한 옵션을 제공합니다. 우리는 포괄적이고 확장 가능한 솔루션을 제공합니다. 네트워크, 통합 스토리지, Exascale 시대를위한 광범위한 소프트웨어 포트폴리오 및 관리 도구를 갖춘 견고한 전문 지식을 기반으로 HPE Cray XD2000 시스템은 혁신을 가속화하고 미래의 과제를 준비합니다. 우리는 최고의 크기의 슈퍼 컴퓨팅을 제공 할 수 있습니다.

최적의 크기의 슈퍼 컴퓨팅

• HPE CRAY XD220V는 4 세대 Intel Xeon 확장 가능한 프로세서 (Intel Max 시리즈 포함)를 지원합니다.

• HPE CRAY XD225 및 XD295V 지원 4 세대 AMD EPYC 9004 시리즈 프로세서

• 서버 노드 당 최대 24 (AMD) 또는 16 (인텔) 4800mt/s DDR5 DIMMS 지원

• 메가 슬롯 CRAY XD BMC^*복구 기능 및 신뢰 체인을 통한 신뢰의 하드웨어 루트를 통해 비 침입 펌웨어 제공

• 메가 슬롯 CRAY XD295V, 메가 슬롯 클레이 XD225V의 2U 버전은 GPU 및 추가 PCIE 카드를 지원합니다

• PCIE 4.0 이상의 데이터 전송 속도가있는 PCIE 5.0이있는 SSDS, 메가 슬롯 및 기타 주변 장치로 사전 속도 데이터 전송

• U.3 Micron NVME SSD-U.2 슬롯에서 사용 가능한 일반적인 동적 및 유연한 드라이브

*메가 슬롯 CRAY XD BMC는 HPE Cray XD2000에 대한 관리성 및 보안을 제공합니다. HPE CRAY XD는 산업 표준 BIOS 및 BMC 구성 요소를 사용하고 있으며 이종 관리 관리 솔루션과 효과적으로 작동하는 산업 표준 DMTF 붉은 피쉬를 지원합니다.

메가 슬롯 머신 러닝 개발 환경 (MLDE) -기계 학습 모델의 개발-

기계 학습 모델을 구축하는 방법 가장 빠르고 쉬운 방법

메가 슬롯 MLDE를 소개하면 GPU 비용을 관리하는 동안 며칠에서 몇 주에서 몇 시간에서 몇 시간에서 몇 시간에서 몇 시간에서 몇 시간에서 몇 시간에서 몇 시간에서 몇 시간에서 몇 시간에서 몇 시간이 걸리는 교육이 줄어 듭니다. 결정된 AI의 오픈 소스 교육 플랫폼을 기반 으로이 솔루션은 기계 학습 모델 개발을 단순화하고 관련 비용을 줄이므로 혁신을위한 인프라를 관리하는 대신 모델 구축에 집중할 수 있습니다.

빠른 모델 교육

ML 엔지니어는 다중 노드 멀티 메가 슬롯 및 최첨단 자동 하이퍼 매개 변수 검색에서 분산 교육을 활용하여 모델 교육 속도를 높일 수 있습니다. 기계, 네트워킹, 데이터 로딩 및 결함 공차 프로비저닝을 관리하여 분산 모델 교육을 빠르고 쉽게 배포하여 모든 규모로 훈련 할 수 있습니다.

복잡성 감소 및 비용 절감

IT 관리자를위한 AI 컴퓨팅 클러스터를 쉽게 설정, 관리, 안전하고 공유 할 수있어 ML 모델 개발자가 결과를 달성하는 데 걸리는 시간이 줄어 듭니다. 개발자는 스마트 스케줄링과 함께 메가 슬롯를 효과적으로 활용하고 스팟 인스턴스를 원활하게 활용하여 클라우드 메가 슬롯 비용을 줄일 수 있습니다.

데이터 과학과의 협력 강화

실험적 추적 및 모델의 쉬운 재생과 같은 기능을 통해 ML 팀과 더 빠른 미션의 협업이 더 쉬워집니다. 결과적으로 팀은 실험 결과를 쉽게 해석하고 실험을 복제하고 활용할 수 있습니다.

ML 엔지니어의 요구를 충족

메가 슬롯 MLDE는 혁신에 집중하고 생산 시간을 가속화하는 데 도움이되는 새로운 솔루션을 지속적으로 검색하는 기계 학습 (ML) 엔지니어 및 데이터 과학자의 요구를 충족합니다. ML 모델의 개발을 단순화하고 관련 비용을 줄이며 ML 모델 개발자가 결과를 달성하는 데 걸리는 시간을 줄입니다.

클라우드 및 온 프레미스 배포 인프라를 모두 지원하는 HPE MLDE를 사용하면 Pytorch, Tensorflow 및 Keras를 사용하여 모델을 개발할 수 있으며 데이터 준비 및 모델 배포를위한 ML 도구와 완벽하게 통합 할 수 있습니다.

• 인프라 코드 없음

• IT 관리자는 AI Compute 클러스터를 쉽게 설정, 관리, 보호 및 공유 할 수 있습니다

• 최신 분산 교육으로 모델을 훈련시키는 데 필요한 시간을 줄입니다

• 최신 튜닝 알고리즘 제작자에 의한 고급 하이퍼 파라미터 튜닝을 사용한 고품질 모델에 대한 자동 검색

• 스마트 스케줄링과 함께 메가 슬롯의 효과적인 사용 및 스팟 인스턴스를 사용하여 클라우드 메가 슬롯 비용을 줄입니다

• 코드 버전, 메트릭, 체크 포인트 및 하이퍼 파라미터를 다루는 실험 추적 기능을 추적하고 작업의 재생산을 완료합니다

분산 훈련의 원활한 확장

메가 슬롯 MLDE를 사용하면 ML 엔지니어가 모델 코드를 변경하지 않고도 여러 노드 및 수백 개의 GPU로 ML 교육을 원활하게 확장 할 수 있습니다. 단순히 하나의 구성을 변경하면 분산 교육 작업을 쉽게 시작할 수 있습니다. ML 엔지니어의 메가 슬롯 MLDE 확장을 지원하기 위해 확장을위한 인프라 코드 교육과 기계 프로비저닝, 네트워킹, 데이터로드, 결함 공차 등을 지원합니다.

최신 하이퍼 파라미터 튜닝을 사용하여 고정밀 모델 구축

ML 개발 프로세스의 필수 부분 인 하이퍼 파라미터 튜닝은 모델의 예측 성능을 극대화하는 데 중요한 역할을합니다. 실제로 하이퍼 파라미터 튜닝을 활용하려면 분산 교육 및 클러스터 관리와 같은 중요한 인프라 기능이 필요합니다. 자동 하이퍼 파라미터 검색 외에도 메가 슬롯 MLDE는 최신 튜닝 알고리즘을 지원하여 짧은 시간 내에보다 정확한 모델을 개발하면서 리소스를 줄일 수 있습니다.

자동 실험 추적으로 결과 분석

ML 엔지니어의 분석 및 결과 재생을 지원하기 위해 메가 슬롯 MLDE는 고급 시각화 기술과 함께 실험 관리 기능을 사용합니다. 메가 슬롯 MLDE는 모델 코드, 라이브러리 종속성, 초 파라미터 및 설정을 자동으로 유지하므로 ML 엔지니어가 이전에 수행 된 실험을 쉽게 복제 할 수 있습니다. 내장 모델 레지스트리는 숙련 된 모델을 추적하고 성공하거나 중요한 버전을 식별 할 수 있습니다. 더 큰 ML 팀을 통해 팀원은 쉽고 빠르게 공유하고 확장 할 수 있습니다. 이러한 도구의 존재는 매우 중요합니다.

내장 리소스 관리와 다양한 클러스터 리소스 공유

HPE MLDE에는 클러스터 활용을 향상시키기 위해 클러스터 작업 온-프레미스 또는 클라우드를 단순화하기위한 내장 리소스 관리 기능이 있습니다. 팀 구성원은 공정한 공유 및 우선 순위를 사용하여 MLDE 내장 클러스터 스케줄러와 함께 작업을 캐스트 할 수 있습니다. Kubernetes, Slurm 및 PBS와 같은 다양한 오케스트레이션 도구 및 스케줄러와 함께 실행할 수도 있습니다. HPE MLDE의 내장 스케줄러는 다음과 같은 기능을 제공하는 ML 워크로드에서 최고를 지원합니다.

• 스케줄링 하이퍼 파라미터 튜닝
• 장기 실행 작업 중단 및 다시 시작
• 자동 결함 공차
• 스팟 인스턴스의 원활한 활용
• 주문형 인스턴스 충전

AI 데이터 과학자들이 원하는 솔루션을 달성

비즈니스 성장 기회의 경우 메가 슬롯 MLDE가 완벽한 솔루션입니다. AI 및 ML 배포의 확장을 지원하는 미래의 예술 플랫폼을 도입함으로써 Exascale 시대의 HPC는 원활하게 작동 할 수 있으며 IT 리소스를 통합하여 ML 모델 개발을 단순화하고 관련 비용을 줄일 수 있습니다.