AMD Radeon Instinct MI325X

AMD Radeon Instinct MI325X — 288 Гб HBM3e, 19,456 ядер, GPI 100.0

Loading...

Performance Rating

The Radeon Instinct MI325X is a professional graphics card by AMD, launched in October 2024. Built on the 5 nm process, and based on the Aqua Vanjaram graphics processor, the card does not support DirectX. Since Radeon Instinct MI325X does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The Aqua Vanjaram graphics processor is a large chip with a die area of 1017 mm² and 153,000 million transistors. It features 19456 shading units, 1216 texture mapping units, and 0 ROPs. Also included are 1216 tensor cores which help improve the speed of machine learning applications. AMD has paired 288 GB HBM3e memory with the Radeon Instinct MI325X, which are connected using a 8192-bit memory interface. The GPU is operating at a frequency of 1000 MHz, which can be boosted up to 2100 MHz, memory is running at 2525 MHz.

A100 A100
H200 H200
MI325X MI325X

AMD Radeon Instinct MI325X

100.0

AMD Radeon Instinct MI325X

100.0

Memory

Memory Size

288 GB

Memory Type

Memory Bandwidth

10.3 TB/s

Memory Bus Width

8,192 бит

ML Performance

FP16 (Half Precision)

653.7 TFLOPS

BF16 (Brain Float)

No TFLOPS
311.84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32 (TensorFloat)

Compute Power

FP32 (Single Precision)

81.72 TFLOPS

FP64 (Double Precision)

81.72 TFLOPS

CUDA Cores

Architecture & Compatibility

GPU Architecture

SM (Streaming Multiprocessor)

PCIe Version

PCIe 5.0 x16

ML Software Support

CUDA Version

Clocks & Performance

Base Clock

Boost Clock

Memory Clock

Power Consumption

Recommended PSU

Power Connector

None

TDP/TGP

1000 W
unknown
(NVIDIA CMP 70HX)

Rendering

Texture Units (TMU)

L2 Cache

16 MB

Benchmarks

MLPerf, llama2-70b-99.9 (Dummy)

3 596 tokens/s

MLPerf, llama2-70b-99.9 (fp8)

1 946 tokens/s
2 444 tokens/s
(NVIDIA H200 SXM 141 GB)

llama.cpp, llama-2-7b-Q4_0

22.4 tokens/s
280.7 tokens/s
(NVIDIA H100 SXM5 96 GB)

MLPerf, mixtral-8x7b (fp8)

6 975 tokens/s
7 132 tokens/s
(NVIDIA H200 SXM 141 GB)

Additional

Slots

OAM Module
SXM Module
(NVIDIA B300)

Release Date

Oct. 12, 2024
March 12, 2026
(Intel Arc B770)

Display Outputs

No outputs
Portable Device Dependent
(NVIDIA GeForce RTX 5090 Mobile)

FAQ

Для каких задач подходит Radeon Instinct MI325X?

Radeon Instinct MI325X предназначен для задач машинного обучения и искусственного интеллекта, особенно для вычислений высокой точности. Его мощные вычислительные возможности делают его подходящим для тренировки больших моделей нейронных сетей и других требовательных к вычислениям задач AI. Также он может использоваться для научных расчетов и симуляций.

С какими конкурентами сравнить и чем отличается Radeon Instinct MI325X?

Radeon Instinct MI325X можно сравнить с NVIDIA A100 и аналогичными моделями от других производителей. Основное отличие заключается в использовании технологии HBM3e, что обеспечивает высокую пропускную способность памяти. Это делает Radeon Instinct MI325X более эффективным для задач с большим объемом данных и высокими требованиями к памяти.

Достаточно ли питания и охлаждения для этой карты?

Для Radeon Instinct MI325X требуется значительная мощность, так как TDP составляет 1000 Вт. Убедитесь, что ваш блок питания способен обеспечить достаточное питание, а также что система охлаждения вашего компьютера или сервера способна справиться с высокой тепловыделением. Рекомендуется использовать систему охлаждения с достаточной емкостью и эффективностью для предотвращения перегрева.

Стоит ли брать эту карту в 2025-2026 году?

Конечно, Radeon Instinct MI325X будет актуальным для использования в 2025-2026 годах, особенно для задач машинного обучения и AI. Однако стоит учитывать, что рынок быстро развивается, и новые модели могут появиться, предлагая еще более высокие характеристики. Если вам необходима стабильность и надежность, то эта модель будет отличным выбором. Если вы хотите следовать последним тенденциям и получить самую передовую технологию, возможно, стоит подождать новых анонсов.

Recommendations

Эта видеокарта отлично подходит для вычислительно-интенсивных задач, таких как машинное обучение (ML) и искусственный интеллект (AI), благодаря своей мощной архитектуре CDNA 3.0 и обширной памяти. Она также может использоваться для научных вычислений и высокопроизводительного рендеринга, но для игр или офисных задач она будет перебором.

Renting is cheaper than buying