Performance Rating
NVIDIA H200 SXM 141 GB outperforms NVIDIA GB10 by 287.91% in the overall GPU ARK performance rating
NVIDIA H200 SXM 141 GB
Expert Comparison
Видеокарта NVIDIA H200 SXM 141 GB значительно превосходит NVIDIA GB10 по многим параметрам. Она имеет больше ядер, большую пропускную способность и более высокую производительность в FP32. H200 также потребляет гораздо больше энергии (700 Вт против 140 Вт), что делает его более подходящим для вычислительных задач больших данных и машинного обучения. В то время как GB10 может быть достаточным для менее требовательных задач, H200 обеспечивает лучшие результаты для сложных вычислений.
Contents:
Memory ML Performance Compute Power Architecture & Compatibility ML Software Support Clocks & Performance Power Consumption Rendering Benchmarks AdditionalMemory
Memory Size
+10%
141
ГБ
Memory Type
Memory Bandwidth
4.89 TB/s
Memory Bus Width
ML Performance
FP16 (Half Precision)
+801%
267.6
TFLOPS
BF16 (Brain Float)
TF32 (TensorFloat)
Compute Power
FP32 (Single Precision)
+125%
66.91
TFLOPS
FP64 (Double Precision)
+7,104%
33.45
TFLOPS
CUDA Cores
+175%
16,896
RT Cores
48
Architecture & Compatibility
GPU Architecture
SM (Streaming Multiprocessor)
+175%
132
PCIe Version
ML Software Support
CUDA Version
12.1
CUDA Toolkit (first supported)
CUDA Toolkit status
Clocks & Performance
Base Clock
+11%
1,665
Boost Clock
+22%
2,418
Memory Clock
+49%
1,593
Power Consumption
Recommended PSU
-73%
300 W
Power Connector
TDP/TGP
-80%
140 W
Rendering
Texture Units (TMU)
+38%
528
ROP
48
L2 Cache
Benchmarks
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (fp16)
MLPerf, llama3.1-405b (fp8)
MLPerf, llama3.1-8b (fp8)
MLPerf, deepseek-r1 (fp8)
MLPerf, mixtral-8x7b (fp8)
Additional
Slots
SXM Module
Release Date
Display Outputs
Rent on Intelion Cloud
Available for rent on Intelion Cloud
