Видеокарты NVIDIA для искусственного интеллекта
Видеокарты NVIDIA для искусственного интеллекта: Pascal — Blackwell Ultra
Сравнение NVIDIA GPU, которые представляют интерес для искусственного интеллекта, машинного обучения, инференса, локальных LLM, генерации изображений, CUDA и серверных AI-систем.
| Архитектура | GPU | Год | CUDA-ядер | Tensor Cores | VRAM | Тип памяти | Шина | Bandwidth | FP32 | TDP | Compute Capability | Основное применение |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Pascal | Tesla P4 | 2016 | 2560 | — | 8 GB | GDDR5 | 256-bit | 192 GB/s | 5.5 TFLOPS | 50–75 W | 6.1 | AI inference, серверы, видео |
| Pascal | Tesla P40 | 2016 | 3840 | — | 24 GB | GDDR5 | 384-bit | 346 GB/s | 12 TFLOPS | 250 W | 6.1 | LLM inference, AI inference |
| Pascal | Tesla P100 | 2016 | 3584 | — | 16 GB | HBM2 | 4096-bit | 732 GB/s | 9.3 TFLOPS | 250 W | 6.0 | HPC, training, inference |
| Pascal | Quadro P6000 | 2016 | 3840 | — | 24 GB | GDDR5X | 384-bit | 432 GB/s | 12.6 TFLOPS | 250 W | 6.1 | Workstation AI, CUDA |
| Volta | Tesla V100 16GB | 2017 | 5120 | 640 | 16 GB | HBM2 | 4096-bit | 900 GB/s | 14 TFLOPS | 250–300 W | 7.0 | AI training, inference, HPC |
| Volta | Tesla V100 32GB | 2017 | 5120 | 640 | 32 GB | HBM2 | 4096-bit | 900 GB/s | 14 TFLOPS | 250–300 W | 7.0 | LLM, training, inference |
| Turing | Tesla T4 | 2018 | 2560 | 320 | 16 GB | GDDR6 | 256-bit | 320 GB/s | 8.1 TFLOPS | 70 W | 7.5 | Inference, AI, видео |
| Turing | Quadro RTX 6000 | 2018 | 4608 | 576 | 24 GB | GDDR6 | 384-bit | 672 GB/s | 16.3 TFLOPS | 250 W | 7.5 | AI, workstation, CUDA |
| Turing | Quadro RTX 8000 | 2018 | 4608 | 576 | 48 GB | GDDR6 | 384-bit | 672 GB/s | 16.3 TFLOPS | 260 W | 7.5 | Большие AI-модели, workstation |
| Ampere | Tesla A10 | 2020 | 9216 | 288 | 24 GB | GDDR6 | 384-bit | 600 GB/s | 31.2 TFLOPS | 150 W | 8.6 | AI inference, graphics |
| Ampere | Tesla A30 | 2021 | 3584 | 224 | 24 GB | HBM2 | 3072-bit | 933 GB/s | 10.3 TFLOPS | 165 W | 8.0 | AI inference, training |
| Ampere | Tesla A40 | 2020 | 10752 | 336 | 48 GB | GDDR6 | 384-bit | 696 GB/s | 37.4 TFLOPS | 300 W | 8.6 | AI, rendering, LLM |
| Ampere | Tesla A100 40GB | 2020 | 6912 | 432 | 40 GB | HBM2 | 5120-bit | 1555 GB/s | 19.5 TFLOPS | 250–400 W | 8.0 | Training, inference, HPC |
| Ampere | Tesla A100 80GB | 2020 | 6912 | 432 | 80 GB | HBM2e | 5120-bit | 2039 GB/s | 19.5 TFLOPS | 300–400 W | 8.0 | Большие LLM, training |
| Ampere | RTX 3090 | 2020 | 10496 | 328 | 24 GB | GDDR6X | 384-bit | 936 GB/s | 35.6 TFLOPS | 350 W | 8.6 | Домашний AI, LLM, Stable Diffusion |
| Ampere | RTX A5000 | 2021 | 8192 | 256 | 24 GB | GDDR6 | 384-bit | 768 GB/s | 27.8 TFLOPS | 230 W | 8.6 | Workstation AI |
| Ampere | RTX A6000 | 2020 | 10752 | 336 | 48 GB | GDDR6 ECC | 384-bit | 768 GB/s | 38.7 TFLOPS | 300 W | 8.6 | LLM, AI, workstation |
| Ada Lovelace | L4 | 2023 | 7424 | 240 | 24 GB | GDDR6 | 192-bit | 300 GB/s | 30.3 TFLOPS | 72 W | 8.9 | Inference, видео, сервер |
| Ada Lovelace | L40 | 2022 | 18176 | 568 | 48 GB | GDDR6 | 384-bit | 864 GB/s | 90.5 TFLOPS | 300 W | 8.9 | AI, rendering, inference |
| Ada Lovelace | L40S | 2023 | 18176 | 568 | 48 GB | GDDR6 | 384-bit | 864 GB/s | 91.6 TFLOPS | 350 W | 8.9 | LLM, inference, training |
| Ada Lovelace | RTX 4090 | 2022 | 16384 | 512 | 24 GB | GDDR6X | 384-bit | 1008 GB/s | 82.6 TFLOPS | 450 W | 8.9 | LLM, image generation, AI |
| Hopper | H100 PCIe | 2022 | 14592 | 456 | 80 GB | HBM2e | 5120-bit | 2039 GB/s | 60 TFLOPS | 350 W | 9.0 | AI training, LLM, HPC |
| Hopper | H100 SXM | 2022 | 16896 | 528 | 80 GB | HBM3 | 5120-bit | 3350 GB/s | 67 TFLOPS | 700 W | 9.0 | AI training, LLM |
| Hopper | H200 | 2024 | 16896 | 528 | 141 GB | HBM3e | 6144-bit | 4.8 TB/s | 67 TFLOPS | 700 W | 9.0 | Большие LLM, inference, training |
| Blackwell | RTX 5090 | 2025 | 21760 | 680 | 32 GB | GDDR7 | 512-bit | 1792 GB/s | 104.8 TFLOPS | 575 W | 10.0 | LLM, генерация изображений, AI |
| Blackwell | RTX 5080 | 2025 | 10752 | 336 | 16 GB | GDDR7 | 256-bit | 960 GB/s | 56.3 TFLOPS | 360 W | 10.0 | AI, LLM, генерация |
| Blackwell | B200 | 2024 | — | — | 180 GB | HBM3e | — | до 8 TB/s | — | до 1000 W | 10.0 | AI training, LLM, inference |
| Blackwell | RTX PRO 6000 Blackwell | 2025 | 24064 | — | 96 GB | GDDR7 ECC | 512-bit | 1597–1792 GB/s | 120–125 TFLOPS | 300–600 W | 10.0 | Профессиональный AI, LLM, workstation |
| Blackwell Ultra | B300 | 2025/2026 | — | — | 288 GB | HBM3e | — | до 8 TB/s | — | до 1400 W | 10.0 | AI reasoning, LLM, inference |
| Blackwell Ultra | GB300 NVL72 GPU | 2026 | — | — | 288 GB HBM3e / GPU | HBM3e | — | до 8 TB/s | — | ~1000+ W | 10.0 | AI reasoning, massive LLM |
Примечание: характеристики могут отличаться между PCIe, SXM, OEM и серверными версиями одной модели. FP32 приведён как теоретическая пиковая производительность и не является прямым показателем скорости LLM.
Для LLM особенно важны объём VRAM, пропускная способность памяти, Tensor Cores, поддерживаемые форматы вычислений и архитектура CUDA.
У серверных GPU H200, B200 и B300 характеристики существенно зависят от конкретного SXM/NVL-платформенного исполнения. Например, NVIDIA указывает для H200 141 GB HBM3e и 4.8 TB/s, для B200 180 GB HBM3e и до 8 TB/s, а для B300 288 GB HBM3e и до 8 TB/s.
