NVIDIA Tesla T4

NVIDIA Tesla T4 — 16 Гб GDDR6, 2 560 ядер, GPI 6,4

Загружаемся...

Оценка производительности

GPU от NVIDIA на процессоре TU104. NVIDIA Tesla T4 содержит 16 Гб видеопамяти GDDR6. Шина 256 бит, пропускная способность 320.0 GB/s. NVIDIA Tesla T4 имеет 2560 CUDA ядер. В карте также есть 40 ядер ускорения трассировки лучей.

A100 A100
H200 H200
MI325X MI325X

NVIDIA Tesla T4

6,4

NVIDIA Tesla T4

6,4

Память

Объем памяти

16 GB

Тип памяти

Пропускная способность памяти

320.0 GB/s

Ширина шины памяти

256 бит
8 192 бит
(AMD Radeon Instinct MI325X)

ML-производительность

FP16 (half)

65,13 TFLOPS

BF16

Нет TFLOPS
311,84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32

Нет

Вычислительная мощность

FP32 (float)

8,141 TFLOPS

FP64 (double)

0,2544 TFLOPS
1 166 000,0 TFLOPS
(XFX XFX QICKSILVER MagAir RX 7800 XT)

CUDA ядра

Архитектура и совместимость

Архитектура GPU

SM (Streaming Multiprocessor)

PCIe версия

PCIe 3.0 x16

Программная поддержка ML

CUDA версия

Частоты и производительность

Base Clock

Boost Clock

Memory Clock

1 250

Энергопотребление

Рекомендуемый БП

Разъём питания

None

TDP/TGP

70 W
unknown
(NVIDIA CMP 70HX)

Рендеринг

Текстурные блоки (TMU)

L2 Cache

Бенчмарки

LLM Perf, Llama-2-7b-hf (bnb)

8.55 tokens/s

LLM Perf, Llama-2-7b-hf (gptq)

33.6 tokens/s

LLM Perf, Llama-2-7b-hf (unquantized)

16.7 tokens/s

LLM Perf, Llama-3.1-8B-Instruct (awq)

22.0 tokens/s

LLM Perf, Llama-3.1-8B-Instruct (bnb)

7.68 tokens/s

LLM Perf, Llama-3.1-8B-Instruct (gptq)

28.8 tokens/s

LLM Perf, Meta-Llama-3-8B (awq)

22.4 tokens/s

LLM Perf, Meta-Llama-3-8B (bnb)

7.96 tokens/s

LLM Perf, Meta-Llama-3-8B (gptq)

28.8 tokens/s

LLM Perf, Meta-Llama-3-8B-Instruct (awq)

22.3 tokens/s

LLM Perf, Meta-Llama-3-8B-Instruct (bnb)

7.76 tokens/s

LLM Perf, Meta-Llama-3-8B-Instruct (gptq)

29.1 tokens/s

llama.cpp, llama-2-7b-Q4_0

46.4 tokens/s
280.7 tokens/s
(NVIDIA H100 SXM5 96 GB)

LLM Perf, Mistral-7B-Instruct-v0.2 (gptq)

26.4 tokens/s

LLM Perf, Mistral-7B-v0.1 (bnb)

8.01 tokens/s

LLM Perf, Mistral-7B-v0.1 (gptq)

25.7 tokens/s

LLM Perf, Mistral-7B-v0.1 (unquantized)

15.5 tokens/s

Дополнительно

Слоты

Single-slot
SXM Module
(NVIDIA B300)

Дата выпуска

13 сентября 2018 г.
12 марта 2026 г.
(Intel Arc B770)

Дисплейные порты

No outputs
Portable Device Dependent
(NVIDIA GeForce RTX 5090 Mobile)

Часто задаваемые вопросы

Для каких задач подходит NVIDIA Tesla T4?

NVIDIA Tesla T4 подходит для задач машинного обучения (ML), искусственного интеллекта (AI), виртуализации и облачных вычислений. Его производительность и энергоэффективность делают его хорошим выбором для средних нагрузок в данных областях.

С какими конкурентами сравнить и чем отличается Tesla T4?

Tesla T4 можно сравнить с GeForce RTX 2080 Ti или Quadro RTX 8000. Главное отличие Tesla T4 заключается в оптимизации для специфических задач AI и ML, а также более низком энергопотреблении по сравнению с GeForce иQuadro. Однако, он не предназначен для игровых задач.

Достаточно ли питания и охлаждения для этой карты?

Для NVIDIA Tesla T4 достаточно стандартного питания 6-pin PCIe. В плане охлаждения также достаточно простого решения, так как она потребляет всего 70 Вт. Однако, если вы планируете использовать ее в сложных условиях или для интенсивной работы, рекомендуется использовать более эффективное охлаждение и надежный источник питания.

Стоит ли брать эту карту в 2025-2026 году?

В 2025-2026 годах NVIDIA Tesla T4 может стать менее актуальной из-за развития новых моделей, таких как A100 или H100. Тем не менее, если вам нужны определенные функции AI и ML, которые не поддерживаются более современными моделями, то Tesla T4 все еще может быть полезным решением. Важно учитывать, что его цена будет ниже по сравнению с новыми моделями.

Рекомендации

Эта видеокарта NVIDIA Tesla T4 идеально подходит для задач машинного обучения (ML) и искусственного интеллекта (AI), а также для рендеринга и вычислений в облаке. Она не предназначена для игр или офисных задач.

Арендовать дешевле, чем покупать