GIGABYTE AORUS RTX 5090 INFINITY vs NVIDIA H100 NVL 94 GB

Comparison GIGABYTE AORUS RTX 5090 INFINITY with 32 GB GDDR7 and 21,760 cores vs NVIDIA H100 NVL 94 GB with 94 GB HBM3 and 16,896 cores.

Loading...

Performance Rating

NVIDIA H100 NVL 94 GB outperforms GIGABYTE AORUS RTX 5090 INFINITY by 21.28% in the overall GPU ARK performance rating

A100 A100
H200 H200
MI325X MI325X

GIGABYTE AORUS RTX 5090 INFINITY

47.2

GIGABYTE AORUS RTX 5090 INFINITY

47.2
RX 7900 XTX RX 7900 XTX
MI250 MI250
Instinct MI300X Instinct MI300X

NVIDIA H100 NVL 94 GB

57.2

NVIDIA H100 NVL 94 GB

57.2

Expert Comparison

GIGABYTE AORUS RTX 5090 INFINITY обладает большей памятью (32 ГБ против 94 ГБ у NVIDIA H100 NVL) и более высокой пропускной способностью (1.79 ТБ/с против 3.94 ТБ/с), что делает её лучшим выбором для задач с большим объемом данных и высокими требованиями к скорости обработки, таких как машинное обучение и рендеринг. Однако NVIDIA H100 NVL предлагает больше ядер (16896 против 21760) и значительно большую вычислительную мощность в FP32 (60.32 ТФЛОПС против 118.8 ТФЛОПС), что делает его предпочтительным для сложных вычислительных задач и искусственного интеллекта.

Contents:

Memory ML Performance Compute Power Architecture & Compatibility ML Software Support Clocks & Performance Power Consumption Rendering Additional

Memory

Memory Size

32 GB
🔥 +194% 94 ГБ

Memory Type

GDDR7 HBM3

Memory Bandwidth

1.79 TB/s
🔥 +120% 3.94 TB/s

Memory Bus Width

512 бит 6,016 бит

ML Performance

FP16 (Half Precision)

118.8 TFLOPS
🔥 +103% 241.3 TFLOPS

BF16 (Brain Float)

No No

TF32 (TensorFloat)

No No

Compute Power

FP32 (Single Precision)

🔥 +97% 118.8 TFLOPS
60.32 TFLOPS

FP64 (Double Precision)

1.856 TFLOPS
🔥 +1,525% 30.16 TFLOPS

CUDA Cores

🔥 +29% 21,760
16,896

RT Cores

🔥 170
No

Architecture & Compatibility

GPU Architecture

Blackwell 2.0 Hopper

SM (Streaming Multiprocessor)

🔥 +29% 170
132

PCIe Version

PCIe 5.0 x16 PCIe 5.0 x16

ML Software Support

CUDA Version

🔥 12.0
9.0

CUDA Toolkit (first supported)

v12 v12

CUDA Toolkit status

Supported Supported

Clocks & Performance

Base Clock

🔥 +87% 2,017
1,080

Boost Clock

🔥 +53% 2,730
1,785

Memory Clock

🔥 +34% 1,750
1,310

Power Consumption

Recommended PSU

950 W
🔥 -16% 800 W

Power Connector

1x 16-pin 8-pin EPS

TDP/TGP

575 W
🔥 -30% 400 W

Rendering

Texture Units (TMU)

🔥 +29% 680
528

ROP

🔥 170
No

L2 Cache

🔥 +92% 96 MB
50 MB

Additional

Slots

Triple-slot Dual-slot

Release Date

Jan. 30, 2025 March 21, 2023

Display Outputs

1x HDMI 2.1b
3x DisplayPort 2.1b
No outputs

Renting is cheaper than buying