Оценка производительности
NVIDIA H200 SXM 141 GB опережает NVIDIA GeForce RTX 4090 Max-Q на 368,89% в суммарном рейтинге производительности GPU ARK
NVIDIA H200 SXM 141 GB
Экспертное сравнение
NVIDIA GeForce RTX 4090 Max-Q лучше для среднего уровня игр и творческих задач благодаря своей более низкой потребляемой мощности (80 Вт) и хорошему соотношению цены и производительности (GPI 14.4). NVIDIA H200 SXM 141 GB же значительно превосходит в мощности для вычислений и больших данных из-за огромной памяти (141 ГБ HBM3e) и высокой пропускной способности (4.89 TB/s), но при этом требует гораздо больше энергии (700 Вт) и доступен только для серверных решений.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
+781%
141
ГБ
Тип памяти
Пропускная способность памяти
4.89 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
+845%
267,6
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
+136%
66,91
TFLOPS
FP64 (double)
+7 463%
33,45
TFLOPS
CUDA ядра
+74%
16 896
RT ядра
76
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
+74%
132
PCIe версия
Программная поддержка ML
CUDA версия
9.0
CUDA Toolkit (начало поддержки)
Статус CUDA Toolkit
Частоты и производительность
Base Clock
+61%
1 500
Boost Clock
+36%
1 980
Memory Clock
+41%
2 250
Энергопотребление
Рекомендуемый БП
Разъём питания
TDP/TGP
-89%
80 W
Рендеринг
Текстурные блоки (TMU)
+74%
528
ROP
76
L2 Cache
+28%
64 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (fp16)
MLPerf, llama3.1-405b (fp8)
MLPerf, llama3.1-8b (fp8)
MLPerf, deepseek-r1 (fp8)
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
SXM Module
Дата выпуска
Дисплейные порты
Арендовать в Intelion Cloud
Доступна в аренде в Intelion Cloud
