NVIDIA H100 SXM5 94 GB

NVIDIA H100 SXM5 94 GB — 94 Гб HBM3, 16 896 ядер, GPI 57,8

Загружаемся...

Оценка производительности

GPU от NVIDIA на процессоре GH100. NVIDIA H100 SXM5 94 GB содержит 94 Гб видеопамяти HBM3. Шина 5120 бит, пропускная способность 3.36 TB/s. NVIDIA H100 SXM5 94 GB имеет 16896 CUDA ядер. 5 nm техпроцесс в TSMC.

H200 H200
MI325X MI325X
A100 A100

NVIDIA H100 SXM5 94 GB

57,8

NVIDIA H100 SXM5 94 GB

57,8

Память

Объем памяти

94 ГБ

Тип памяти

Пропускная способность памяти

3.36 TB/s

Ширина шины памяти

5 120 бит
8 192 бит
(AMD Radeon Instinct MI325X)

ML-производительность

FP16 (half)

267,6 TFLOPS
998,4 TFLOPS
(Intel UHD Graphics 730)

BF16

Нет TFLOPS
311,84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32

Нет

Вычислительная мощность

FP32 (float)

66,91 TFLOPS
1 425,0 TFLOPS
(Matrox D1480 Quad DisplayPort)

FP64 (double)

33,45 TFLOPS
1 204 000,0 TFLOPS
(AMD Radeon RX 7900M)

CUDA ядра

RT ядра

Архитектура и совместимость

Архитектура GPU

Hopper

SM (Streaming Multiprocessor)

PCIe версия

PCIe 5.0 x16

Программная поддержка ML

CUDA версия

Частоты и производительность

Base Clock

1 350

Boost Clock

Memory Clock

1 313

Энергопотребление

TDP/TGP

700 W
unknown
(NVIDIA CMP 70HX)

Рекомендуемый БП

Разъём питания

8-pin EPS

Рендеринг

Текстурные блоки (TMU)

NVENC / NVDEC

NVENC поколение

N/A

NVENC чипов

1

Макс. сессий кодирования

N/A

Кодирование (NVENC)

H.264: H.265: AV1:

NVDEC поколение

4th Gen

NVDEC чипов

1

Декодирование (NVDEC)

H.264: H.265: AV1: VP9:

Бенчмарки

MLPerf, llama2-70b-99.9 (fp8)

2 106 tokens/s
2 444 tokens/s
(NVIDIA H200 SXM 141 GB)

MLPerf, mixtral-8x7b (fp8)

4 714 tokens/s
7 132 tokens/s
(NVIDIA H200 SXM 141 GB)

Дополнительно

Слоты

SXM Module
SXM Module
(NVIDIA H200 SXM 141 GB)

Дата выпуска

21 марта 2023 г.
11 марта 2026 г.
(NVIDIA GeForce RTX 5070 Ti SUPER)

Дисплейные порты

No outputs
4x mini-DisplayPort 2.0
4x HDMI 2.1
(SPARKLE Arc A310 OmniView)

Часто задаваемые вопросы

Для каких задач подходит NVIDIA H100 SXM5 94 GB?

NVIDIA H100 SXM5 94 GB предназначена для высокопроизводительных вычислений, машинного обучения, искусственного интеллекта, научных исследований и сложных симуляций. Она также отлично подходит для гейминга с высокими требованиями и для рендеринга высококачественного контента.

С какими конкурентами сравнить и чем отличается эта видеокарта?

NVIDIA H100 SXM5 94 GB может быть сравнена с аналогичными продуктами от AMD, такими как Radeon Instinct MI250X или более старыми моделями NVIDIA, например, A100. Отличия заключаются в более высокой пропускной способности памяти, большем количестве ядер и более высокой частоте работы, что делает ее более мощным решением для задач машинного обучения и вычислений.

Достаточно ли питания и охлаждения для этой карты?

Для NVIDIA H100 SXM5 94 GB требуется значительное питание и эффективное охлаждение. Она потребляет 700 Вт, что требует мощного блока питания и надежной системы охлаждения. Рекомендуется использовать блок питания с мощностью не менее 1200 Вт и систему охлаждения с большим радиатором и несколькими вентиляторами.

Стоит ли брать эту карту в 2025-2026 году?

Конечно, стоит рассмотреть покупку NVIDIA H100 SXM5 94 GB в 2025-2026 году, если вам нужны высокие производственные характеристики для задач машинного обучения, AI и вычислений. Эта видеокарта будет актуальной и мощной до 2026 года, особенно если учитывать ее высокую пропускную способность и инновационные технологии.

Рекомендации

Эта видеокарта идеально подходит для высокопроизводительных задач, таких как обработка больших данных (ML/AI), научные вычисления и рендеринг. Она также может использоваться для геймлинга, хотя это не её основное назначение.

Арендовать дешевле, чем покупать