NVIDIA H100 SXM5 94 GB

NVIDIA H100 SXM5 94 GB — 94 Гб HBM3, 16,896 ядер, GPI 57.8

Loading...

Performance Rating

The H100 SXM5 94 GB is a professional graphics card by NVIDIA, launched on March 21st, 2023. Built on the 5 nm process, and based on the GH100 graphics processor, the card does not support DirectX. Since H100 SXM5 94 GB does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The GH100 graphics processor is a large chip with a die area of 814 mm² and 80,000 million transistors. It features 16896 shading units, 528 texture mapping units, and 24 ROPs. Also included are 528 tensor cores which help improve the speed of machine learning applications. NVIDIA has paired 94 GB HBM3 memory with the H100 SXM5 94 GB, which are connected using a 5120-bit memory interface. The GPU is operating at a frequency of 1350 MHz, which can be boosted up to 1980 MHz, memory is running at 1313 MHz.

H200 H200
MI325X MI325X
A100 A100

NVIDIA H100 SXM5 94 GB

57.8

NVIDIA H100 SXM5 94 GB

57.8

Memory

Memory Size

94 ГБ

Memory Type

Memory Bandwidth

3.36 TB/s

Memory Bus Width

5,120 бит

ML Performance

FP16 (Half Precision)

267.6 TFLOPS
998.4 TFLOPS
(Intel UHD Graphics 730)

BF16 (Brain Float)

No TFLOPS
311.84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32 (TensorFloat)

Compute Power

FP32 (Single Precision)

66.91 TFLOPS

FP64 (Double Precision)

33.45 TFLOPS
1.2038 TFLOPS
(AMD Radeon RX 7900M)

CUDA Cores

Architecture & Compatibility

GPU Architecture

Hopper

SM (Streaming Multiprocessor)

PCIe Version

PCIe 5.0 x16

ML Software Support

CUDA Version

Clocks & Performance

Base Clock

Boost Clock

Memory Clock

Power Consumption

TDP/TGP

700 W
unknown
(NVIDIA CMP 70HX)

Recommended PSU

Power Connector

8-pin EPS

Rendering

Texture Units (TMU)

NVENC / NVDEC

NVENC Generation

N/A

NVENC Chips

1

Max Encoding Sessions

N/A

Encoding (NVENC)

H.264: H.265: AV1:

NVDEC Generation

4th Gen

NVDEC Chips

1

Decoding (NVDEC)

H.264: H.265: AV1: VP9:

Benchmarks

MLPerf, llama2-70b-99.9 (fp8)

2 106 tokens/s
2 444 tokens/s
(NVIDIA H200 SXM 141 GB)

MLPerf, mixtral-8x7b (fp8)

4 714 tokens/s
7 132 tokens/s
(NVIDIA H200 SXM 141 GB)

Additional

Slots

SXM Module
SXM Module
(NVIDIA H200 SXM 141 GB)

Release Date

March 21, 2023

Display Outputs

No outputs
4x mini-DisplayPort 2.0
4x HDMI 2.1
(SPARKLE Arc A310 OmniView)

FAQ

Для каких задач подходит NVIDIA H100 SXM5 94 GB?

NVIDIA H100 SXM5 94 GB предназначена для высокопроизводительных вычислений, машинного обучения, искусственного интеллекта, научных исследований и сложных симуляций. Она также отлично подходит для гейминга с высокими требованиями и для рендеринга высококачественного контента.

С какими конкурентами сравнить и чем отличается эта видеокарта?

NVIDIA H100 SXM5 94 GB может быть сравнена с аналогичными продуктами от AMD, такими как Radeon Instinct MI250X или более старыми моделями NVIDIA, например, A100. Отличия заключаются в более высокой пропускной способности памяти, большем количестве ядер и более высокой частоте работы, что делает ее более мощным решением для задач машинного обучения и вычислений.

Достаточно ли питания и охлаждения для этой карты?

Для NVIDIA H100 SXM5 94 GB требуется значительное питание и эффективное охлаждение. Она потребляет 700 Вт, что требует мощного блока питания и надежной системы охлаждения. Рекомендуется использовать блок питания с мощностью не менее 1200 Вт и систему охлаждения с большим радиатором и несколькими вентиляторами.

Стоит ли брать эту карту в 2025-2026 году?

Конечно, стоит рассмотреть покупку NVIDIA H100 SXM5 94 GB в 2025-2026 году, если вам нужны высокие производственные характеристики для задач машинного обучения, AI и вычислений. Эта видеокарта будет актуальной и мощной до 2026 года, особенно если учитывать ее высокую пропускную способность и инновационные технологии.

Recommendations

Эта видеокарта идеально подходит для высокопроизводительных задач, таких как обработка больших данных (ML/AI), научные вычисления и рендеринг. Она также может использоваться для геймлинга, хотя это не её основное назначение.

Renting is cheaper than buying