Оценка производительности
NVIDIA H200 SXM 141 GB опережает NVIDIA RTX 5000 Max-Q Ada Generation на 333,31% в суммарном рейтинге производительности GPU ARK
NVIDIA RTX 5000 Max-Q Ada Generation
Экспертное сравнение
NVIDIA H200 SXM 141 GB обладает гораздо большей пропускной способностью памяти (4.89 TB/s против 576.0 GB/s) и значительно больше ядер (16896 против 9728), что делает его предпочтительным для вычислений и машинного обучения. H200 также потребляет больше энергии (700 Вт против 120 Вт) и имеет более высокий GPI (67.4 против 15.6), что свидетельствует о лучшей производительности. RTX 5000 Max-Q Ada Generation подходит для мобильных решений и более энергоэффективен, но его характеристики значительно ниже по сравнению с H200.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
+781%
141
ГБ
Тип памяти
Пропускная способность памяти
4.89 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
+719%
267,6
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
+105%
66,91
TFLOPS
FP64 (double)
+6 450%
33,45
TFLOPS
CUDA ядра
+74%
16 896
RT ядра
76
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
+74%
132
PCIe версия
Программная поддержка ML
CUDA версия
9.0
CUDA Toolkit (начало поддержки)
Статус CUDA Toolkit
Частоты и производительность
Base Clock
+61%
1 500
Boost Clock
+18%
1 980
Memory Clock
+41%
2 250
Энергопотребление
Рекомендуемый БП
Разъём питания
TDP/TGP
-83%
120 W
Рендеринг
Текстурные блоки (TMU)
+74%
528
ROP
76
L2 Cache
+28%
64 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (fp16)
MLPerf, llama3.1-405b (fp8)
MLPerf, llama3.1-8b (fp8)
MLPerf, deepseek-r1 (fp8)
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
SXM Module
Дата выпуска
Дисплейные порты
Арендовать в Intelion Cloud
Доступна в аренде в Intelion Cloud
