NVIDIA H100 SXM5 64 GB

NVIDIA H100 SXM5 64 GB — 64 Гб HBM3, 16,896 ядер, GPI 46.8

Loading...

Performance Rating

The H100 SXM5 64 GB is a professional graphics card by NVIDIA, launched on March 21st, 2023. Built on the 5 nm process, and based on the GH100 graphics processor, the card does not support DirectX. Since H100 SXM5 64 GB does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The GH100 graphics processor is a large chip with a die area of 814 mm² and 80,000 million transistors. It features 16896 shading units, 528 texture mapping units, and 24 ROPs. Also included are 528 tensor cores which help improve the speed of machine learning applications. NVIDIA has paired 64 GB HBM3 memory with the H100 SXM5 64 GB, which are connected using a 3072-bit memory interface. The GPU is operating at a frequency of 1665 MHz, which can be boosted up to 1980 MHz, memory is running at 1313 MHz.

H200 H200
MI325X MI325X
A100 A100

NVIDIA H100 SXM5 64 GB

46.8

NVIDIA H100 SXM5 64 GB

46.8

Memory

Memory Size

64 ГБ

Memory Type

Memory Bandwidth

2.02 TB/s

Memory Bus Width

3,072 бит

ML Performance

FP16 (Half Precision)

267.6 TFLOPS
1.1904 TFLOPS
(Intel UHD Graphics 730)

BF16 (Brain Float)

No TFLOPS
311.84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32 (TensorFloat)

Compute Power

FP32 (Single Precision)

66.91 TFLOPS

FP64 (Double Precision)

33.45 TFLOPS
1.2038 TFLOPS
(AMD Radeon RX 7900M)

CUDA Cores

Architecture & Compatibility

GPU Architecture

Hopper

SM (Streaming Multiprocessor)

PCIe Version

PCIe 5.0 x16

ML Software Support

CUDA Version

Clocks & Performance

Base Clock

Boost Clock

Memory Clock

Power Consumption

TDP/TGP

700 W
unknown
(NVIDIA CMP 70HX)

Recommended PSU

Power Connector

8-pin EPS

Rendering

Texture Units (TMU)

Additional

Slots

SXM Module
SXM Module
(NVIDIA H200 SXM 141 GB)

Release Date

March 21, 2023

Display Outputs

No outputs
4x mini-DisplayPort 2.0
4x HDMI 2.1
(SPARKLE Arc A310 OmniView)

FAQ

Для каких задач подходит NVIDIA H100 SXM5 64 GB?

NVIDIA H100 SXM5 64 GB идеально подходит для сложных вычислений в области машинного обучения (ML) и искусственного интеллекта (AI), научных вычислений, рендеринга и других высокопроизводительных задач. Она также может использоваться для гейминга, хотя производительность в играх будет ниже, чем у специализированных игровых видеокарт.

С какими конкурентами сравнить и чем отличается эта видеокарта?

NVIDIA H100 SXM5 64 GB может быть сравнена с аналогичными продуктами от AMD, такими как Radeon Instinct MI250X. Однако, H100 SXM5 обладает более высокой пропускной способностью и большей памятью, что делает его более мощным для задач ML и AI. Также стоит сравнить его с предыдущими моделями NVIDIA, такими как A100, который имеет меньше ядер и меньшую память, но все еще является хорошим выбором для этих задач.

Достаточно ли питания и охлаждения для этой карты?

Для NVIDIA H100 SXM5 64 GB требуется значительное питание и охлаждение. Она потребляет 700 Вт, что требует мощного блока питания с высоким КПД. Охлаждение также должно быть эффективным, поскольку TDP составляет 700 Вт. Рекомендуется использовать систему с несколькими вентиляторами или жидкостное охлаждение для обеспечения стабильной работы видеокарты.

Стоит ли брать эту карту в 2025-2026 году?

На данный момент NVIDIA H100 SXM5 64 GB предназначена для корпоративных и научных приложений. В 2025-2026 годах, если технологии не изменятся, она останется актуальной для этих целей. Однако, стоит учитывать, что новые поколения видеокарт могут появиться, что может сделать H100 менее актуальным для некоторых задач. Если вам нужны последние достижения в области вычислений, стоит рассмотреть возможность обновления оборудования через несколько лет.

Совместимость с PCIe, блоком питания и корпусом

NVIDIA H100 SXM5 64 GB поддерживает протокол PCIe 5.0, что обеспечивает совместимость с современными системами. Для питания требуются блоки питания с выходной мощностью не менее 700 Вт, которые поддерживают PCIe 5.0. Касательно корпуса, он должен быть достаточно просторным для размещения видеокарты и иметь достаточное количество вентиляционных отверстий для охлаждения. Рекомендуется использовать корпус с поддержкой liquid cooling или несколькими вентиляторами для лучшей теплоотдачи.

Recommendations

Эта видеокарта идеально подходит для обработки больших объемов данных, машинного обучения и искусственного интеллекта из-за высокой пропускной способности памяти и количества ядер. Также она может использоваться для научных вычислений и рендеринга в высоком разрешении.

Renting is cheaper than buying