NVIDIA H100 SXM5 96 GB vs SPARKLE Arc A310 OmniView

Сравнение NVIDIA H100 SXM5 96 GB с 96 Гб HBM3 и 16 896 ядрами против SPARKLE Arc A310 OmniView с 4 Гб GDDR6 и 768 ядрами.

Загружаемся...

Оценка производительности

NVIDIA H100 SXM5 96 GB опережает SPARKLE Arc A310 OmniView на 2 533,64% в суммарном рейтинге производительности GPU ARK

A100 A100
H200 H200
MI325X MI325X

NVIDIA H100 SXM5 96 GB

57,9

NVIDIA H100 SXM5 96 GB

57,9
RX 7900 XTX RX 7900 XTX
MI250 MI250
Instinct MI300X Instinct MI300X

SPARKLE Arc A310 OmniView

2,2

SPARKLE Arc A310 OmniView

2,2

Содержание:

Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки Дополнительно

Память

Объем памяти

🔥 +2 300% 96 ГБ
4 GB

Тип памяти

HBM3 GDDR6

Пропускная способность памяти

🔥 3.36 TB/s
124.0 GB/s

Ширина шины памяти

5 120 бит 64 бит

ML-производительность

FP16 (half)

🔥 +4 255% 267,6 TFLOPS
6,144 TFLOPS

BF16

Нет Нет

TF32

Нет Нет

Вычислительная мощность

FP32 (float)

🔥 +2 078% 66,91 TFLOPS
3,072 TFLOPS

FP64 (double)

🔥 +4 255% 33,45 TFLOPS
0,768 TFLOPS

CUDA ядра

🔥 +2 100% 16 896
768

RT ядра

Нет
🔥 6

Архитектура и совместимость

Архитектура GPU

Hopper Xe-HPG

SM (Streaming Multiprocessor)

🔥 132
Нет

PCIe версия

PCIe 5.0 x16 PCIe 4.0 x8

Программная поддержка ML

CUDA версия

9.0 Нет

Частоты и производительность

Base Clock

1 350
🔥 +48% 2 000

Boost Clock

1 980
🔥 +1% 2 000

Memory Clock

1 313
🔥 +48% 1 937

Энергопотребление

Рекомендуемый БП

1100 W
🔥 -77% 250 W

Разъём питания

8-pin EPS None

TDP/TGP

700 W
🔥 -89% 75 W

Рендеринг

Текстурные блоки (TMU)

🔥 +1 550% 528
32

ROP

Нет
🔥 6

L2 Cache

🔥 +1 150% 50 MB
4 MB

Бенчмарки

llama.cpp, llama 7B Q4_0

248.8 tokens/s

llama.cpp, llama-2-7b-Q4_0

280.7 tokens/s

Дополнительно

Слоты

🔥 SXM Module
Single-slot

Дата выпуска

21 марта 2023 г. 18 ноября 2024 г.

Дисплейные порты

No outputs
4x mini-DisplayPort 2.0
4x HDMI 2.1

Арендовать дешевле, чем покупать