Performance Rating
NVIDIA H100 NVL 94 GB outperforms NVIDIA A100 PCIe 80 GB by 123.29% in the overall GPU ARK performance rating
NVIDIA H100 NVL 94 GB
Expert Comparison
NVIDIA H100 NVL 94 GB превосходит NVIDIA A100 PCIe 80 GB в количестве ядер (16896 против 6912), объеме памяти (94 ГБ HBM3 против 80 ГБ HBM2e) и пропускной способности (3.94 ТБ/с против 1.94 ТБ/с). H100 также имеет более высокую производительность FP32 (60.32 ТФЛОПС против 19.49 ТФЛОПС) и более высокую базовую и пиковую частоты. Однако H100 потребляет больше энергии (400 Вт против 300 Вт) и имеет более высокий GPI (57.2 против 25.6), что делает его лучшим выбором для современных вычислений и машинного обучения.
Contents:
Memory ML Performance Compute Power Architecture & Compatibility ML Software Support Clocks & Performance Power Consumption Rendering AdditionalMemory
Memory Size
+18%
94
ГБ
Memory Type
Memory Bandwidth
+103%
3.94 TB/s
Memory Bus Width
ML Performance
FP16 (Half Precision)
+209%
241.3
TFLOPS
BF16 (Brain Float)
311.84
TFLOPS
TF32 (TensorFloat)
155.92
Compute Power
FP32 (Single Precision)
+209%
60.32
TFLOPS
FP64 (Double Precision)
+209%
30.16
TFLOPS
CUDA Cores
+144%
16,896
RT Cores
Architecture & Compatibility
GPU Architecture
SM (Streaming Multiprocessor)
+22%
132
PCIe Version
ML Software Support
CUDA Version
9.0
CUDA Toolkit (first supported)
CUDA Toolkit status
Clocks & Performance
Base Clock
+1%
1,080
Boost Clock
+27%
1,785
Memory Clock
+15%
1,512
Power Consumption
Recommended PSU
-12%
700 W
Power Connector
TDP/TGP
-25%
300 W
Rendering
Texture Units (TMU)
+22%
528
ROP
L2 Cache
+60%
80 MB
Additional
Slots
Release Date
Display Outputs
Rent on Intelion Cloud
Available for rent on Intelion Cloud
