Оценка производительности
NVIDIA H200 SXM 141 GB опережает NVIDIA B100 на 58,77% в суммарном рейтинге производительности GPU ARK
NVIDIA H200 SXM 141 GB
Экспертное сравнение
NVIDIA H200 SXM 141 GB превосходит NVIDIA B100 в пропускной способности памяти и вычислительной мощности благодаря более высокой шине данных (6144 бит против 4096 бит) и большему объему памяти (141 ГБ против 96 ГБ). Кроме того, его вычислительная мощность FP32 больше в два раза (66.91 TFLOPS против 32.95 TFLOPS). Однако B100 имеет более высокий TDP (1000 Вт против 700 Вт) и более высокую Boost частоту (1980 МГц против 975 МГц), что делает его более мощным на основе текущих характеристик. H200 SXM лучше подходит для требовательных к вычислительной мощности задач, таких как глубокое обучение и большие данные.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
+47%
141
ГБ
Тип памяти
Пропускная способность памяти
+19%
4.89 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
+103%
267,6
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
+103%
66,91
TFLOPS
FP64 (double)
+103%
33,45
TFLOPS
CUDA ядра
16 896
RT ядра
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
132
PCIe версия
Программная поддержка ML
CUDA версия
10.1
CUDA Toolkit (начало поддержки)
Статус CUDA Toolkit
Частоты и производительность
Base Clock
+114%
1 500
Boost Clock
+103%
1 980
Memory Clock
1 593
Энергопотребление
Рекомендуемый БП
-21%
1100 W
Разъём питания
TDP/TGP
-30%
700 W
Рендеринг
Текстурные блоки (TMU)
528
ROP
L2 Cache
50 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (fp16)
MLPerf, llama3.1-405b (fp8)
MLPerf, llama3.1-8b (fp8)
MLPerf, deepseek-r1 (fp8)
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
Дата выпуска
Дисплейные порты
Арендовать в Intelion Cloud
Доступна в аренде в Intelion Cloud
