Оценка производительности
AMD Radeon Instinct MI300X опережает NVIDIA GeForce RTX 4090 48 GB на 164,47% в суммарном рейтинге производительности GPU ARK
NVIDIA GeForce RTX 4090 48 GB
Экспертное сравнение
AMD Radeon Instinct MI300X имеет значительно большую память (192 ГБ HBM3 против 48 ГБ GDDR6X) и пропускную способность (10.3 TB/s против 1.01 TB/s), что делает его лучшим выбором для вычислительных задач, таких как машинное обучение и симуляции. В то же время, NVIDIA GeForce RTX 4090 48 GB предлагает более высокую общую производительность FP32 (82.58 TFLOPS против 81.72 TFLOPS) и более низкое TDP (450 Вт против 750 Вт), что делает его предпочтительным для игр и менее требовательных вычислительных задач.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
+300%
192
ГБ
Тип памяти
Пропускная способность памяти
+920%
10.3 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
+692%
653,7
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
+1%
82,58
TFLOPS
FP64 (double)
81,72
TFLOPS
CUDA ядра
+19%
19 456
RT ядра
128
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
128
PCIe версия
Программная поддержка ML
CUDA версия
CUDA Toolkit (начало поддержки)
Статус CUDA Toolkit
Частоты и производительность
Base Clock
+124%
2 235
Boost Clock
+20%
2 520
Memory Clock
+92%
2 525
Энергопотребление
Рекомендуемый БП
-26%
850 W
Разъём питания
TDP/TGP
-40%
450 W
Рендеринг
Текстурные блоки (TMU)
+138%
1 216
ROP
128
L2 Cache
+350%
72 MB
Бенчмарки
MLPerf, llama2-70b-99.9 (UNSET)
MLPerf, llama2-70b-99.9 (fp16)
MLPerf, llama2-70b-99.9 (fp8)
MLPerf, llama3.1-405b (UNSET)
MLPerf, llama3.1-405b (fp16)
llama.cpp, llama-2-7b-Q4_0
MLPerf, mixtral-8x7b (fp8)
Дополнительно
Слоты
Дата выпуска
Дисплейные порты
Арендовать в Intelion Cloud
Доступна в аренде в Intelion Cloud
