NVIDIA H100 SXM5 80 GB

NVIDIA H100 SXM5 80 GB — 80 Гб HBM3, 16,896 ядер, GPI 56.4

Loading...

Performance Rating

The H100 SXM5 80 GB is a professional graphics card by NVIDIA, launched in October 2022. Built on the 5 nm process, and based on the GH100 graphics processor, the card does not support DirectX. Since H100 SXM5 80 GB does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The GH100 graphics processor is a large chip with a die area of 814 mm² and 80,000 million transistors. It features 16896 shading units, 528 texture mapping units, and 24 ROPs. Also included are 528 tensor cores which help improve the speed of machine learning applications. NVIDIA has paired 80 GB HBM3 memory with the H100 SXM5 80 GB, which are connected using a 5120-bit memory interface. The GPU is operating at a frequency of 1590 MHz, which can be boosted up to 1980 MHz, memory is running at 1313 MHz.

H200 H200
MI325X MI325X
A100 A100

NVIDIA H100 SXM5 80 GB

56.4

NVIDIA H100 SXM5 80 GB

56.4

Memory

Memory Size

80 ГБ

Memory Type

Memory Bandwidth

3.36 TB/s

Memory Bus Width

5,120 бит

ML Performance

FP16 (Half Precision)

267.6 TFLOPS
1.1904 TFLOPS
(Intel UHD Graphics 730)

BF16 (Brain Float)

No TFLOPS
311.84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32 (TensorFloat)

Compute Power

FP32 (Single Precision)

66.91 TFLOPS

FP64 (Double Precision)

33.45 TFLOPS
1.2038 TFLOPS
(AMD Radeon RX 7900M)

CUDA Cores

Architecture & Compatibility

GPU Architecture

Hopper

SM (Streaming Multiprocessor)

PCIe Version

PCIe 5.0 x16

ML Software Support

CUDA Version

Clocks & Performance

Base Clock

Boost Clock

Memory Clock

Power Consumption

TDP/TGP

700 W
unknown
(NVIDIA CMP 70HX)

Recommended PSU

Power Connector

Rendering

Texture Units (TMU)

Benchmarks

MLPerf, mixtral-8x7b (fp8)

6 362 tokens/s
7 132 tokens/s
(NVIDIA H200 SXM 141 GB)

Additional

Slots

SXM Module
SXM Module
(NVIDIA H200 SXM 141 GB)

Release Date

Oct. 17, 2022

Display Outputs

No outputs
4x mini-DisplayPort 2.0
4x HDMI 2.1
(SPARKLE Arc A310 OmniView)

FAQ

Для каких задач подходит NVIDIA H100 SXM5 80 GB?

NVIDIA H100 SXM5 80 GB предназначена для высокопроизводительных вычислений, машинного обучения, искусственного интеллекта, научных вычислений и рендеринга. Она идеально подходит для крупных организаций, исследовательских центров и компаний, занимающихся разработкой сложных моделей и алгоритмов.

С какими конкурентами сравнить и чем отличается эта видеокарта?

Сравните NVIDIA H100 SXM5 80 GB с аналогичными продуктами от AMD, такими как Radeon Instinct MI250X или более новыми моделями серии Radeon Instinct MI300. H100 отличается высокой пропускной способностью, большим объемом памяти и более высокой эффективностью в вычислениях FP32 и FP64, что делает его предпочтительным выбором для задач машинного обучения и научных вычислений.

Достаточно ли питания и охлаждения для этой карты?

Для NVIDIA H100 SXM5 80 GB требуется мощный блок питания и надежное охлаждение. Минимальные требования к блоку питания составляют 1200 Вт, но рекомендуется использовать блок питания на 1400-1600 Вт для обеспечения стабильной работы. Охлаждение также должно быть эффективным, чтобы справиться с высоким тепловыделением карты. Рекомендуется использовать систему жидкостного охлаждения или мощную воздушную систему охлаждения.

Стоит ли брать эту карту в 2025-2026 году?

В 2025-2026 году NVIDIA H100 SXM5 80 GB будет оставаться актуальной для многих задач, особенно в области машинного обучения и научных вычислений. Однако стоит учитывать, что новые поколения видеокарт могут появиться с улучшенными характеристиками. Если вам нужны самые передовые технологии и вы не планируете обновлять оборудование в ближайшие годы, то это отличный выбор. Если же вы оцениваете текущие тренды и ожидаете скорого обновления, возможно, стоит подождать несколько месяцев.

Recommendations

Эта видеокарта идеально подходит для обработки больших объемов данных, машинного обучения и искусственного интеллекта из-за огромной памяти и высокой пропускной способности. Также она будет эффективна для научных вычислений и рендеринга сложных 3D моделей. Для гейминга или офисных задач она будет перебором.

Renting is cheaper than buying