NVIDIA Tesla T4

NVIDIA Tesla T4 — 16 Гб GDDR6, 2 560 ядер, GPI 6,4

Загружаемся...

Оценка производительности

GPU от NVIDIA на процессоре TU104. NVIDIA Tesla T4 содержит 16 Гб видеопамяти GDDR6. Шина 256 бит, пропускная способность 320.0 GB/s. NVIDIA Tesla T4 имеет 2560 CUDA ядер. В карте также есть 40 ядер ускорения трассировки лучей.

H200 H200
MI325X MI325X
A100 A100

NVIDIA Tesla T4

6,4

NVIDIA Tesla T4

6,4

Память

Объем памяти

16 ГБ

Тип памяти

Пропускная способность памяти

320.0 GB/s

Ширина шины памяти

256 бит
8 192 бит
(AMD Radeon Instinct MI325X)

ML-производительность

FP16 (half)

65,13 TFLOPS
998,4 TFLOPS
(Intel UHD Graphics 730)

BF16

Нет TFLOPS
311,84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32

Нет

Вычислительная мощность

FP32 (float)

8,141 TFLOPS
1 425,0 TFLOPS
(Matrox D1480 Quad DisplayPort)

FP64 (double)

0,2544 TFLOPS
1 204 000,0 TFLOPS
(AMD Radeon RX 7900M)

CUDA ядра

Архитектура и совместимость

Архитектура GPU

Turing

SM (Streaming Multiprocessor)

PCIe версия

PCIe 3.0 x16

Программная поддержка ML

CUDA версия

Частоты и производительность

Base Clock

Boost Clock

Memory Clock

1 250

Энергопотребление

TDP/TGP

70 W
unknown
(NVIDIA CMP 70HX)

Рекомендуемый БП

Разъём питания

Рендеринг

Текстурные блоки (TMU)

NVENC / NVDEC

NVENC поколение

7th Gen

NVENC чипов

1

Макс. сессий кодирования

Unrestricted

Кодирование (NVENC)

H.264: H.265: AV1:

NVDEC поколение

4th Gen

NVDEC чипов

1

Декодирование (NVDEC)

H.264: H.265: AV1: VP9:

Бенчмарки

LLM Perf, Llama-2-7b-hf (bnb)

8.55 tokens/s

LLM Perf, Llama-2-7b-hf (gptq)

33.6 tokens/s

LLM Perf, Llama-2-7b-hf (unquantized)

16.7 tokens/s

LLM Perf, Llama-3.1-8B-Instruct (awq)

22.0 tokens/s

LLM Perf, Llama-3.1-8B-Instruct (bnb)

7.68 tokens/s

LLM Perf, Llama-3.1-8B-Instruct (gptq)

28.8 tokens/s

LLM Perf, Meta-Llama-3-8B (awq)

22.4 tokens/s

LLM Perf, Meta-Llama-3-8B (bnb)

7.96 tokens/s

LLM Perf, Meta-Llama-3-8B (gptq)

28.8 tokens/s

LLM Perf, Meta-Llama-3-8B-Instruct (awq)

22.3 tokens/s

LLM Perf, Meta-Llama-3-8B-Instruct (bnb)

7.76 tokens/s

LLM Perf, Meta-Llama-3-8B-Instruct (gptq)

29.1 tokens/s

llama.cpp, llama-2-7b-Q4_0

46.4 tokens/s
280.7 tokens/s
(NVIDIA H100 SXM5 96 GB)

LLM Perf, Mistral-7B-Instruct-v0.2 (gptq)

26.4 tokens/s

LLM Perf, Mistral-7B-v0.1 (bnb)

8.01 tokens/s

LLM Perf, Mistral-7B-v0.1 (gptq)

25.7 tokens/s

LLM Perf, Mistral-7B-v0.1 (unquantized)

15.5 tokens/s

Дополнительно

Слоты

Single-slot
SXM Module
(NVIDIA H200 SXM 141 GB)

Дата выпуска

13 сентября 2018 г.
11 марта 2026 г.
(NVIDIA GeForce RTX 5070 Ti SUPER)

Дисплейные порты

No outputs
4x mini-DisplayPort 2.0
4x HDMI 2.1
(SPARKLE Arc A310 OmniView)

Часто задаваемые вопросы

Для каких задач подходит NVIDIA Tesla T4?

NVIDIA Tesla T4 подходит для задач машинного обучения (ML), искусственного интеллекта (AI), виртуализации и облачных вычислений. Его производительность и энергоэффективность делают его хорошим выбором для средних нагрузок в данных областях.

С какими конкурентами сравнить и чем отличается Tesla T4?

Tesla T4 можно сравнить с GeForce RTX 2080 Ti или Quadro RTX 8000. Главное отличие Tesla T4 заключается в оптимизации для специфических задач AI и ML, а также более низком энергопотреблении по сравнению с GeForce иQuadro. Однако, он не предназначен для игровых задач.

Достаточно ли питания и охлаждения для этой карты?

Для NVIDIA Tesla T4 достаточно стандартного питания 6-pin PCIe. В плане охлаждения также достаточно простого решения, так как она потребляет всего 70 Вт. Однако, если вы планируете использовать ее в сложных условиях или для интенсивной работы, рекомендуется использовать более эффективное охлаждение и надежный источник питания.

Стоит ли брать эту карту в 2025-2026 году?

В 2025-2026 годах NVIDIA Tesla T4 может стать менее актуальной из-за развития новых моделей, таких как A100 или H100. Тем не менее, если вам нужны определенные функции AI и ML, которые не поддерживаются более современными моделями, то Tesla T4 все еще может быть полезным решением. Важно учитывать, что его цена будет ниже по сравнению с новыми моделями.

Рекомендации

Эта видеокарта NVIDIA Tesla T4 идеально подходит для задач машинного обучения (ML) и искусственного интеллекта (AI), а также для рендеринга и вычислений в облаке. Она не предназначена для игр или офисных задач.

Арендовать дешевле, чем покупать