Видеокарты NVIDIA для искусственного интеллекта

Видеокарты NVIDIA для искусственного интеллекта: Pascal — Blackwell Ultra

Сравнение NVIDIA GPU, которые представляют интерес для искусственного интеллекта, машинного обучения, инференса, локальных LLM, генерации изображений, CUDA и серверных AI-систем.

АрхитектураGPUГодCUDA-ядерTensor CoresVRAMТип памятиШинаBandwidthFP32TDPCompute CapabilityОсновное применение
PascalTesla P420162560—8 GBGDDR5256-bit192 GB/s5.5 TFLOPS50–75 W6.1AI inference, серверы, видео
PascalTesla P4020163840—24 GBGDDR5384-bit346 GB/s12 TFLOPS250 W6.1LLM inference, AI inference
PascalTesla P10020163584—16 GBHBM24096-bit732 GB/s9.3 TFLOPS250 W6.0HPC, training, inference
PascalQuadro P600020163840—24 GBGDDR5X384-bit432 GB/s12.6 TFLOPS250 W6.1Workstation AI, CUDA
VoltaTesla V100 16GB2017512064016 GBHBM24096-bit900 GB/s14 TFLOPS250–300 W7.0AI training, inference, HPC
VoltaTesla V100 32GB2017512064032 GBHBM24096-bit900 GB/s14 TFLOPS250–300 W7.0LLM, training, inference
TuringTesla T42018256032016 GBGDDR6256-bit320 GB/s8.1 TFLOPS70 W7.5Inference, AI, видео
TuringQuadro RTX 60002018460857624 GBGDDR6384-bit672 GB/s16.3 TFLOPS250 W7.5AI, workstation, CUDA
TuringQuadro RTX 80002018460857648 GBGDDR6384-bit672 GB/s16.3 TFLOPS260 W7.5Большие AI-модели, workstation
AmpereTesla A102020921628824 GBGDDR6384-bit600 GB/s31.2 TFLOPS150 W8.6AI inference, graphics
AmpereTesla A302021358422424 GBHBM23072-bit933 GB/s10.3 TFLOPS165 W8.0AI inference, training
AmpereTesla A4020201075233648 GBGDDR6384-bit696 GB/s37.4 TFLOPS300 W8.6AI, rendering, LLM
AmpereTesla A100 40GB2020691243240 GBHBM25120-bit1555 GB/s19.5 TFLOPS250–400 W8.0Training, inference, HPC
AmpereTesla A100 80GB2020691243280 GBHBM2e5120-bit2039 GB/s19.5 TFLOPS300–400 W8.0Большие LLM, training
AmpereRTX 309020201049632824 GBGDDR6X384-bit936 GB/s35.6 TFLOPS350 W8.6Домашний AI, LLM, Stable Diffusion
AmpereRTX A50002021819225624 GBGDDR6384-bit768 GB/s27.8 TFLOPS230 W8.6Workstation AI
AmpereRTX A600020201075233648 GBGDDR6 ECC384-bit768 GB/s38.7 TFLOPS300 W8.6LLM, AI, workstation
Ada LovelaceL42023742424024 GBGDDR6192-bit300 GB/s30.3 TFLOPS72 W8.9Inference, видео, сервер
Ada LovelaceL4020221817656848 GBGDDR6384-bit864 GB/s90.5 TFLOPS300 W8.9AI, rendering, inference
Ada LovelaceL40S20231817656848 GBGDDR6384-bit864 GB/s91.6 TFLOPS350 W8.9LLM, inference, training
Ada LovelaceRTX 409020221638451224 GBGDDR6X384-bit1008 GB/s82.6 TFLOPS450 W8.9LLM, image generation, AI
HopperH100 PCIe20221459245680 GBHBM2e5120-bit2039 GB/s60 TFLOPS350 W9.0AI training, LLM, HPC
HopperH100 SXM20221689652880 GBHBM35120-bit3350 GB/s67 TFLOPS700 W9.0AI training, LLM
HopperH200202416896528141 GBHBM3e6144-bit4.8 TB/s67 TFLOPS700 W9.0Большие LLM, inference, training
BlackwellRTX 509020252176068032 GBGDDR7512-bit1792 GB/s104.8 TFLOPS575 W10.0LLM, генерация изображений, AI
BlackwellRTX 508020251075233616 GBGDDR7256-bit960 GB/s56.3 TFLOPS360 W10.0AI, LLM, генерация
BlackwellB2002024——180 GBHBM3e—до 8 TB/s—до 1000 W10.0AI training, LLM, inference
BlackwellRTX PRO 6000 Blackwell202524064—96 GBGDDR7 ECC512-bit1597–1792 GB/s120–125 TFLOPS300–600 W10.0Профессиональный AI, LLM, workstation
Blackwell UltraB3002025/2026——288 GBHBM3e—до 8 TB/s—до 1400 W10.0AI reasoning, LLM, inference
Blackwell UltraGB300 NVL72 GPU2026——288 GB HBM3e / GPUHBM3e—до 8 TB/s—~1000+ W10.0AI reasoning, massive LLM

Примечание: характеристики могут отличаться между PCIe, SXM, OEM и серверными версиями одной модели. FP32 приведён как теоретическая пиковая производительность и не является прямым показателем скорости LLM.

Для LLM особенно важны объём VRAM, пропускная способность памяти, Tensor Cores, поддерживаемые форматы вычислений и архитектура CUDA.

У серверных GPU H200, B200 и B300 характеристики существенно зависят от конкретного SXM/NVL-платформенного исполнения. Например, NVIDIA указывает для H200 141 GB HBM3e и 4.8 TB/s, для B200 180 GB HBM3e и до 8 TB/s, а для B300 288 GB HBM3e и до 8 TB/s.