AMD Radeon Instinct MI325X

AMD Radeon Instinct MI325X — 288 Гб HBM3e, 19 456 ядер, GPI 100,0

Загружаемся...

Оценка производительности

GPU от AMD на процессоре Aqua. AMD Radeon Instinct MI325X содержит 288 Гб видеопамяти HBM3e. Шина 8192 бит, пропускная способность 10.3 TB/s. 5 nm техпроцесс в TSMC. Выпущена 12.10.2024.

A100 A100
H200 H200
MI325X MI325X

AMD Radeon Instinct MI325X

100,0

AMD Radeon Instinct MI325X

100,0

Память

Объем памяти

288 GB

Тип памяти

Пропускная способность памяти

10.3 TB/s

Ширина шины памяти

8 192 бит
8 192 бит
(AMD Radeon Instinct MI325X)

ML-производительность

FP16 (half)

653,7 TFLOPS

BF16

Нет TFLOPS
311,84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32

Нет

Вычислительная мощность

FP32 (float)

81,72 TFLOPS

FP64 (double)

81,72 TFLOPS
1 166 000,0 TFLOPS
(XFX XFX QICKSILVER MagAir RX 7800 XT)

CUDA ядра

RT ядра

Архитектура и совместимость

Архитектура GPU

SM (Streaming Multiprocessor)

PCIe версия

PCIe 5.0 x16

Программная поддержка ML

CUDA версия

Нет

Частоты и производительность

Base Clock

1 000

Boost Clock

Memory Clock

2 525

Энергопотребление

Рекомендуемый БП

Разъём питания

None

TDP/TGP

1000 W
unknown
(NVIDIA CMP 70HX)

Рендеринг

Текстурные блоки (TMU)

1 216

L2 Cache

16 MB

Бенчмарки

MLPerf, llama2-70b-99.9 (Dummy)

3 596 tokens/s

MLPerf, llama2-70b-99.9 (fp8)

1 946 tokens/s
2 444 tokens/s
(NVIDIA H200 SXM 141 GB)

llama.cpp, llama-2-7b-Q4_0

22.4 tokens/s
280.7 tokens/s
(NVIDIA H100 SXM5 96 GB)

MLPerf, mixtral-8x7b (fp8)

6 975 tokens/s
7 132 tokens/s
(NVIDIA H200 SXM 141 GB)

Дополнительно

Слоты

OAM Module
SXM Module
(NVIDIA B300)

Дата выпуска

12 октября 2024 г.
12 марта 2026 г.
(Intel Arc B770)

Дисплейные порты

No outputs
Portable Device Dependent
(NVIDIA GeForce RTX 5090 Mobile)

Часто задаваемые вопросы

Для каких задач подходит Radeon Instinct MI325X?

Radeon Instinct MI325X предназначен для задач машинного обучения и искусственного интеллекта, особенно для вычислений высокой точности. Его мощные вычислительные возможности делают его подходящим для тренировки больших моделей нейронных сетей и других требовательных к вычислениям задач AI. Также он может использоваться для научных расчетов и симуляций.

С какими конкурентами сравнить и чем отличается Radeon Instinct MI325X?

Radeon Instinct MI325X можно сравнить с NVIDIA A100 и аналогичными моделями от других производителей. Основное отличие заключается в использовании технологии HBM3e, что обеспечивает высокую пропускную способность памяти. Это делает Radeon Instinct MI325X более эффективным для задач с большим объемом данных и высокими требованиями к памяти.

Достаточно ли питания и охлаждения для этой карты?

Для Radeon Instinct MI325X требуется значительная мощность, так как TDP составляет 1000 Вт. Убедитесь, что ваш блок питания способен обеспечить достаточное питание, а также что система охлаждения вашего компьютера или сервера способна справиться с высокой тепловыделением. Рекомендуется использовать систему охлаждения с достаточной емкостью и эффективностью для предотвращения перегрева.

Стоит ли брать эту карту в 2025-2026 году?

Конечно, Radeon Instinct MI325X будет актуальным для использования в 2025-2026 годах, особенно для задач машинного обучения и AI. Однако стоит учитывать, что рынок быстро развивается, и новые модели могут появиться, предлагая еще более высокие характеристики. Если вам необходима стабильность и надежность, то эта модель будет отличным выбором. Если вы хотите следовать последним тенденциям и получить самую передовую технологию, возможно, стоит подождать новых анонсов.

Рекомендации

Эта видеокарта отлично подходит для вычислительно-интенсивных задач, таких как машинное обучение (ML) и искусственный интеллект (AI), благодаря своей мощной архитектуре CDNA 3.0 и обширной памяти. Она также может использоваться для научных вычислений и высокопроизводительного рендеринга, но для игр или офисных задач она будет перебором.

Арендовать дешевле, чем покупать