Оценка производительности
NVIDIA H200 SXM 141 GB опережает NVIDIA GRID K520 на 2 695,85% в суммарном рейтинге производительности GPU ARK
NVIDIA H200 SXM 141 GB
Экспертное сравнение
NVIDIA H200 SXM 141 GB значительно превосходит NVIDIA GRID K520 по многим параметрам. У H200 более мощная архитектура Hopper с большей численностью ядер (16896 против 1536), объемом памяти (141 ГБ HBM3e против 4 ГБ GDDR5) и пропускной способностью (4.89 ТБ/с против 160 ГБ/с). Также H200 обладает гораздо большей производительностью в FP32 вычислениях (66.91 ТФЛОПС против 2.289 ТФЛОПС) и потребляет больше энергии (700 Вт против 225 Вт). Несмотря на более высокую цену и потребление энергии, H200 идеально подходит для современных вычислений, машинного обучения и больших данных.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
+3 425%
141
ГБ
Тип памяти
Пропускная способность памяти
4.89 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
267,6
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
+2 823%
66,91
TFLOPS
FP64 (double)
+34 963%
33,45
TFLOPS
CUDA ядра
+1 000%
16 896
RT ядра
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
132
PCIe версия
Программная поддержка ML
CUDA версия
9.0
CUDA Toolkit (начало поддержки)
CUDA Toolkit (устаревшая)
CUDA Toolkit (поддержка удалена)
Статус CUDA Toolkit
Частоты и производительность
Base Clock
1 500
Boost Clock
1 980
Memory Clock
+27%
1 593
Энергопотребление
Рекомендуемый БП
-50%
550 W
Разъём питания
TDP/TGP
-68%
225 W
Рендеринг
Текстурные блоки (TMU)
+312%
528
ROP
L2 Cache
50 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (fp16)
MLPerf, llama3.1-405b (fp8)
MLPerf, llama3.1-8b (fp8)
MLPerf, deepseek-r1 (fp8)
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
SXM Module
Дата выпуска
Дисплейные порты
Арендовать в Intelion Cloud
Доступна в аренде в Intelion Cloud
