Оценка производительности
NVIDIA H200 SXM 141 GB
Экспертное сравнение
AMD Radeon R5 Mobile Graphics 2014 года выпуска значительно уступает NVIDIA H200 SXM 2024 года по многим параметрам. H200 SXM имеет гораздо больше ядер (16896 против 256), больше памяти (141 ГБ HBM3e против системной зависимости) и гораздо большую пропускную способность (4.89 ТБ/с против системы). H200 SXM также обладает высокой производительностью в FP32 (66.91 ТФЛОПС против 0.3205 ТФЛОПС) и более высокой TDP (700 Вт против 17 Вт), что делает его более мощным для тяжелых вычислений и машинного обучения.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
141
ГБ
Тип памяти
Пропускная способность памяти
4.89 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
267,6
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
+20 777%
66,91
TFLOPS
FP64 (double)
+167 150%
33,45
TFLOPS
CUDA ядра
+6 500%
16 896
RT ядра
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
132
PCIe версия
Программная поддержка ML
CUDA версия
CUDA Toolkit (начало поддержки)
Статус CUDA Toolkit
Частоты и производительность
Base Clock
1 500
Boost Clock
1 980
Memory Clock
1 593
Энергопотребление
Рекомендуемый БП
Разъём питания
TDP/TGP
-98%
17 W
Рендеринг
Текстурные блоки (TMU)
+3 200%
528
ROP
L2 Cache
50 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (fp16)
MLPerf, llama3.1-405b (fp8)
MLPerf, llama3.1-8b (fp8)
MLPerf, deepseek-r1 (fp8)
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
SXM Module
Дата выпуска
Дисплейные порты
Арендовать в Intelion Cloud
Доступна в аренде в Intelion Cloud
