AMD Radeon R2E Mobile Graphics vs NVIDIA H200 SXM 141 GB

Comparison AMD Radeon R2E Mobile Graphics and 128 cores vs NVIDIA H200 SXM 141 GB with 141 GB HBM3e and 16,896 cores.

Loading...

Performance Rating

A100 A100
H200 H200
MI325X MI325X

AMD Radeon R2E Mobile Graphics

AMD Radeon R2E Mobile Graphics

RX 7900 XTX RX 7900 XTX
MI250 MI250
Instinct MI300X Instinct MI300X

NVIDIA H200 SXM 141 GB

67.4

NVIDIA H200 SXM 141 GB

67.4

Expert Comparison

Видеокарта NVIDIA H200 SXM значительно превосходит AMD Radeon R2E Mobile Graphics по всем параметрам. У неё гораздо больше ядер (16896 против 128), большая память (141 ГБ HBM3e против отсутствия указания) и высокая пропускная способность (4.89 ТБ/с против системы зависимой пропускной способности). Также она имеет высокую производительность в FP32 (66.91 ТФЛОПС против 0.1536 ТФЛОПС) и мощную TDP (700 Вт против 15 Вт). NVIDIA H200 SXM предназначена для вычислительных задач высокой сложности, в то время как AMD Radeon R2E Mobile Graphics больше подходит для мобильных устройств или легких задач.

Contents:

Memory ML Performance Compute Power Architecture & Compatibility ML Software Support Clocks & Performance Power Consumption Rendering Benchmarks Additional

Memory

Memory Size

No
🔥 141 ГБ

Memory Type

System Shared HBM3e

Memory Bandwidth

System Dependent
🔥 4.89 TB/s

Memory Bus Width

No 6,144 бит

ML Performance

FP16 (Half Precision)

0.1536 TFLOPS
🔥 +174,119% 267.6 TFLOPS

BF16 (Brain Float)

No No

TF32 (TensorFloat)

No No

Compute Power

FP32 (Single Precision)

0.1536 TFLOPS
🔥 +43,461% 66.91 TFLOPS

FP64 (Double Precision)

0.0096 TFLOPS
🔥 +348,338% 33.45 TFLOPS

CUDA Cores

128
🔥 +13,100% 16,896

RT Cores

No No

Architecture & Compatibility

GPU Architecture

GCN 3.0 Hopper

SM (Streaming Multiprocessor)

No
🔥 132

PCIe Version

IGP PCIe 5.0 x16

ML Software Support

CUDA Version

No 9.0

CUDA Toolkit (first supported)

v12

CUDA Toolkit status

Supported Supported

Clocks & Performance

Base Clock

200
🔥 +650% 1,500

Boost Clock

600
🔥 +230% 1,980

Memory Clock

No
🔥 1,593

Power Consumption

Recommended PSU

No 1100 W

Power Connector

None 8-pin EPS

TDP/TGP

🔥 -98% 15 W
700 W

Rendering

Texture Units (TMU)

8
🔥 +6,500% 528

ROP

No No

L2 Cache

No
🔥 50 MB

Benchmarks

MLPerf, llama2-70b-99.9 (UNSET)

3 534 tokens/s

MLPerf, llama2-70b-99.9 (fp16)

3 553 tokens/s

MLPerf, llama2-70b-99.9 (fp8)

2 444 tokens/s

MLPerf, llama3.1-405b (fp16)

40.8 tokens/s

MLPerf, llama3.1-405b (fp8)

25.3 tokens/s

MLPerf, llama3.1-8b (fp8)

5 161 tokens/s

MLPerf, deepseek-r1 (fp8)

1 113 tokens/s

MLPerf, mixtral-8x7b (fp8)

7 132 tokens/s

Additional

Slots

IGP
🔥 SXM Module

Release Date

June 1, 2016 Nov. 18, 2024

Display Outputs

Portable Device Dependent
No outputs

Rent on Intelion Cloud

H200 (141GB)

Available for rent on Intelion Cloud

from 375.0 RUB/hour Rent
Pay-as-you-go, per-second billing
Prices include 22% VAT
EDI & closing documents
Server ready in 3 minutes
Russian-speaking support
Card, SBP or invoice