NVLink: что это и как устроен
⚡ NVLink: что это и как устроен электрически
NVLink — это высокоскоростная последовательная межсоединительная шина, разработанная NVIDIA для прямого обмена данными между графическими процессорами (GPU), а также между GPU и CPU. Она используется для создания вычислительных кластеров, которые работают как единый мощный ускоритель, и обеспечивает значительно более высокую пропускную способность и низкую задержку по сравнению с PCI Express.
⚡ Электрическая структура NVLink
На электрическом уровне NV Link представляет собой многоканальный (multi-lane) последовательный интерфейс, который организует передачу данных через дифференциальные пары проводников. Вот как устроена его иерархия:
- Дифференциальная пара: Это базовая единица физического уровня. Каждый канал передачи данных состоит из двух проводников, по которым передаются противофазные сигналы. Это обеспечивает высокую помехоустойчивость и позволяет достигать огромных скоростей.
- Sub-link (Подканал): Несколько дифференциальных пар объединяются в один подканал. В разных поколениях NVLink количество пар в подканале меняется:
- В NVLink 1.0 и 2.0 подканал состоял из 8 дифференциальных пар.
- Начиная с NVLink 3.0, количество пар в подканале сократили до 4, что позволило увеличить скорость передачи на одну пару.
- Link (Линк/Канал): Это полнодуплексное соединение, которое образуется из двух подканалов: один для передачи данных в одну сторону, другой — в обратную.
- Скорость передачи: Скорость передачи данных по одной дифференциальной паре растет с каждым поколением. Например, в NVLink 1.0 она составляла 20 Гбит/с, в NVLink 3.0 — 50 Гбит/с, а в NVLink 4.0 — уже 100 Гбит/с.
📊 Как это выглядит в цифрах
Чтобы понять масштаб, вот как менялась пропускная способность одного GPU в разных поколениях NVLink:
| Поколение | Архитектура (пример) | Скорость на пару | Пар в подканале | Всего линков на GPU | Общая двунаправленная пропускная способность |
|---|---|---|---|---|---|
| NV Link 1.0 | Pascal (P100) | 20 Гбит/с | 8 | 4 | ~160 ГБ/с |
| NV Link 2.0 | Volta (V100) | 25 Гбит/с | 8 | 6 | ~300 ГБ/с |
| NV Link 3.0 | Ampere (A100) | 50 Гбит/с | 4 | 12 | ~600 ГБ/с |
| NV Link 4.0 | Hopper (H100) | 100 Гбит/с | 4 | 18 | ~900 ГБ/с |
| NV Link 5.0 | Blackwell (B200) | 200 Гбит/с | 4 | 18 | ~1.8 ТБ/с |
Современные системы используют модуляцию PAM4, которая позволяет кодировать 2 бита данных в одном символе, что дополнительно удваивает эффективную скорость передачи.
💡 Зачем это нужно
Такая электрическая архитектура позволяет решить главную проблему традиционных серверов: «бутылочное горлышко» PCIe. Когда несколько GPU работают над одной задачей (например, обучением нейросети), им нужно постоянно обмениваться огромными массивами данных. PCIe не справляется с этим эффективно, а NVLink создает прямой «мост» между GPU, позволяя им обмениваться данными на скоростях, сопоставимых со скоростью доступа к собственной памяти.