Оценка производительности
GIGABYTE AORUS RTX 5090 INFINITY опережает NVIDIA Tesla T4 на 632,76% в суммарном рейтинге производительности GPU ARK
NVIDIA Tesla T4
Экспертное сравнение
GIGABYTE AORUS RTX 5090 INFINITY обладает значительно большей производительностью благодаря большим количеству ядер (21760 против 2560), большей памяти (32 ГБ против 16 ГБ) и более высокой пропускной способности (1.79 ТБ/с против 320 ГБ/с). Подходит для гейминга, тяжелых вычислений и машинного обучения. NVIDIA Tesla T4, хотя и старше, более энергоэффективен (TDP 70 Вт против 575 Вт) и лучше подходит для серверных задач и AI-приложений из-за более низкой энергопотребляемости и адаптированности под данные центры.
Содержание:
Память ML-производительность Вычислительная мощность Архитектура и совместимость Программная поддержка ML Частоты и производительность Энергопотребление Рендеринг Бенчмарки ДополнительноПамять
Объем памяти
+100%
32
ГБ
Тип памяти
Пропускная способность памяти
1.79 TB/s
Ширина шины памяти
ML-производительность
FP16 (half)
+82%
118,8
TFLOPS
BF16
TF32
Вычислительная мощность
FP32 (float)
+1 359%
118,8
TFLOPS
FP64 (double)
+630%
1,856
TFLOPS
CUDA ядра
+750%
21 760
RT ядра
+325%
170
Архитектура и совместимость
Архитектура GPU
SM (Streaming Multiprocessor)
+325%
170
PCIe версия
Программная поддержка ML
CUDA версия
12.0
CUDA Toolkit (начало поддержки)
Статус CUDA Toolkit
Частоты и производительность
Base Clock
+245%
2 017
Boost Clock
+72%
2 730
Memory Clock
+40%
1 750
Энергопотребление
Рекомендуемый БП
-74%
250 W
Разъём питания
TDP/TGP
-88%
70 W
Рендеринг
Текстурные блоки (TMU)
+325%
680
ROP
+325%
170
L2 Cache
+2 300%
96 MB
Бенчмарки
LLM Perf, Llama-2-7b-hf (bnb)
LLM Perf, Llama-2-7b-hf (gptq)
LLM Perf, Llama-2-7b-hf (unquantized)
LLM Perf, Llama-3.1-8B-Instruct (awq)
LLM Perf, Llama-3.1-8B-Instruct (bnb)
LLM Perf, Llama-3.1-8B-Instruct (gptq)
LLM Perf, Meta-Llama-3-8B (awq)
LLM Perf, Meta-Llama-3-8B (bnb)
LLM Perf, Meta-Llama-3-8B (gptq)
LLM Perf, Meta-Llama-3-8B-Instruct (awq)
LLM Perf, Meta-Llama-3-8B-Instruct (bnb)
LLM Perf, Meta-Llama-3-8B-Instruct (gptq)
llama.cpp, llama-2-7b-Q4_0
LLM Perf, Mistral-7B-Instruct-v0.2 (gptq)
LLM Perf, Mistral-7B-v0.1 (bnb)
LLM Perf, Mistral-7B-v0.1 (gptq)
LLM Perf, Mistral-7B-v0.1 (unquantized)
Дополнительно
Слоты
Дата выпуска
Дисплейные порты
Арендовать дешевле, чем покупать
H200 (141GB)
NVIDIA
Первая GPU с памятью HBM3e (141 ГБ) на архитектуре Hopper. Создана для генеративного ИИ и HPC задач. До 2X быстрее для LLM inference по сравнению с H100. Поддерживает FP8, FP16, TF32 и другие форматы точности.
от 375,0 руб/час
H100 80Gb PCIe (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
от 299,11 руб/час
H100 80Gb SXM (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3 в форм-факторе SXM. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
от 299,11 руб/час
Tesla A100 (80GB)
NVIDIA
Видеокарта для исследований на пике современных алгоритмов LLM, CV и пр. Создана специально для ML вычислений.
от 200,89 руб/час
RTX 4090 (48GB)
NVIDIA
Десктопная карта с аппаратной поддержкой Ray Tracing, DLSS 3.5, кодеками H.264/H.265/AV1 и увеличенной видеопамятью 48 ГБ GDDR6X.
от 81,85 руб/час
RTX 3090 (24GB)
NVIDIA
Десктопная карта с аппаратной поддержкой Ray Tracing, DLSS, H.264, H.265
от 34,23 руб/час
RTX A5000 (24GB)
NVIDIA
Создана для обработки видеопотоков, готова к виртуализации. Профессиональная карта с аппаратной поддержкой Ray Tracing, DLSS, H.264, H.265
от 31,25 руб/час
Tesla A10 (24GB)
NVIDIA
Видеокарта идеальная для инференса ИИ, обработки видео, CAD и BIM проектирования, CAE исследований, поддерживающих вычисления на GPU.
от 26,79 руб/час
