Performance Rating
The Tesla T4 was a professional graphics card by NVIDIA, launched on September 13th, 2018. Built on the 12 nm process, and based on the TU104 graphics processor, in its TU104-895-A1 variant, the card supports DirectX 12 Ultimate. The TU104 graphics processor is a large chip with a die area of 545 mm² and 13,600 million transistors. Unlike the fully unlocked GeForce RTX 2080 SUPER, which uses the same GPU but has all 3072 shaders enabled, NVIDIA has disabled some shading units on the Tesla T4 to reach the product's target shader count. It features 2560 shading units, 160 texture mapping units, and 64 ROPs. Also included are 320 tensor cores which help improve the speed of machine learning applications. The card also has 40 raytracing acceleration cores. NVIDIA has paired 16 GB GDDR6 memory with the Tesla T4, which are connected using a 256-bit memory interface. The GPU is operating at a frequency of 585 MHz, which can be boosted up to 1590 MHz, memory is running at 1250 MHz (10 Gbps effective).
Contents:
Memory ML Performance Compute Power Architecture & Compatibility ML Software Support Clocks & Performance Power Consumption Rendering Benchmarks AdditionalMemory
Memory Size
Memory Type
Memory Bandwidth
Memory Bus Width
ML Performance
FP16 (Half Precision)
BF16 (Brain Float)
TF32 (TensorFloat)
Compute Power
FP32 (Single Precision)
FP64 (Double Precision)
CUDA Cores
RT Cores
Architecture & Compatibility
GPU Architecture
SM (Streaming Multiprocessor)
PCIe Version
ML Software Support
CUDA Version
Clocks & Performance
Base Clock
Boost Clock
Memory Clock
Power Consumption
Recommended PSU
Power Connector
TDP/TGP
Rendering
Texture Units (TMU)
ROP
L2 Cache
Benchmarks
LLM Perf, Llama-2-7b-hf (bnb)
LLM Perf, Llama-2-7b-hf (gptq)
LLM Perf, Llama-2-7b-hf (unquantized)
LLM Perf, Llama-3.1-8B-Instruct (awq)
LLM Perf, Llama-3.1-8B-Instruct (bnb)
LLM Perf, Llama-3.1-8B-Instruct (gptq)
LLM Perf, Meta-Llama-3-8B (awq)
LLM Perf, Meta-Llama-3-8B (bnb)
LLM Perf, Meta-Llama-3-8B (gptq)
LLM Perf, Meta-Llama-3-8B-Instruct (awq)
LLM Perf, Meta-Llama-3-8B-Instruct (bnb)
LLM Perf, Meta-Llama-3-8B-Instruct (gptq)
llama.cpp, llama-2-7b-Q4_0
LLM Perf, Mistral-7B-Instruct-v0.2 (gptq)
LLM Perf, Mistral-7B-v0.1 (bnb)
LLM Perf, Mistral-7B-v0.1 (gptq)
LLM Perf, Mistral-7B-v0.1 (unquantized)
Additional
Slots
Release Date
Display Outputs
FAQ
NVIDIA Tesla T4 подходит для задач машинного обучения (ML), искусственного интеллекта (AI), виртуализации и облачных вычислений. Его производительность и энергоэффективность делают его хорошим выбором для средних нагрузок в данных областях.
Tesla T4 можно сравнить с GeForce RTX 2080 Ti или Quadro RTX 8000. Главное отличие Tesla T4 заключается в оптимизации для специфических задач AI и ML, а также более низком энергопотреблении по сравнению с GeForce иQuadro. Однако, он не предназначен для игровых задач.
Для NVIDIA Tesla T4 достаточно стандартного питания 6-pin PCIe. В плане охлаждения также достаточно простого решения, так как она потребляет всего 70 Вт. Однако, если вы планируете использовать ее в сложных условиях или для интенсивной работы, рекомендуется использовать более эффективное охлаждение и надежный источник питания.
В 2025-2026 годах NVIDIA Tesla T4 может стать менее актуальной из-за развития новых моделей, таких как A100 или H100. Тем не менее, если вам нужны определенные функции AI и ML, которые не поддерживаются более современными моделями, то Tesla T4 все еще может быть полезным решением. Важно учитывать, что его цена будет ниже по сравнению с новыми моделями.
Recommendations
Эта видеокарта NVIDIA Tesla T4 идеально подходит для задач машинного обучения (ML) и искусственного интеллекта (AI), а также для рендеринга и вычислений в облаке. Она не предназначена для игр или офисных задач.
Renting is cheaper than buying
H100 80Gb SXM (80GB)
NVIDIA
Флагманская GPU на архитектуре Hopper с 80 ГБ памяти HBM3 в форм-факторе SXM. Создана для обучения и инференса больших языковых моделей, HPC задач. Поддерживает FP64, FP32, TF32, FP16, BF16, FP8 и INT8 вычисления с Tensor Cores 4-го поколения.
from 299.11 RUB/hour
