Оценка производительности
NVIDIA H200 SXM 141 GB
Экспертное сравнение
Видеокарта NVIDIA H200 SXM значительно превосходит AMD Stream Processor по многим параметрам. У нее больше памяти (141 ГБ против 1024 МБ), шина памяти шире (6144 бит против 256 бит), пропускная способность выше (4.89 ТБ/с против 41.47 ГБ/с) и большая мощность (700 Вт против 165 Вт). H200 SXM также имеет более современную архитектуру Hopper и высокую производительность в FP32 (66.91 ТФЛПС). AMD Stream Processor более старый и менее эффективный вариант для современных задач, таких как глубокое обучение и вычисления на GPU.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
141
ГБ
Тип памяти
Пропускная способность памяти
4.89 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
267,6
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
66,91
TFLOPS
FP64 (double)
33,45
TFLOPS
CUDA ядра
16 896
RT ядра
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
132
PCIe версия
Программная поддержка ML
CUDA версия
CUDA Toolkit (начало поддержки)
Статус CUDA Toolkit
Частоты и производительность
Base Clock
1 500
Boost Clock
1 980
Memory Clock
+146%
1 593
Энергопотребление
Рекомендуемый БП
-59%
450 W
Разъём питания
TDP/TGP
-76%
165 W
Рендеринг
Текстурные блоки (TMU)
+3 200%
528
ROP
L2 Cache
50 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (fp16)
MLPerf, llama3.1-405b (fp8)
MLPerf, llama3.1-8b (fp8)
MLPerf, deepseek-r1 (fp8)
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
SXM Module
Дата выпуска
Дисплейные порты
Арендовать в Intelion Cloud
Доступна в аренде в Intelion Cloud
