Что дают оптические вычислители

Если добавить оптические вычислители к архитектуре «PCIe + оптика для доступа к HBM», получится система, в которой свет используется на двух уровнях: для связи и для самих вычислений. Это меняет не только пропускную способность, но и саму экономику AI-инфраструктуры.

💡 Что дают оптические вычислители

Оптические вычислители (фотонные чипы) выполняют самую тяжёлую операцию в ИИ — умножение матриц — с помощью света, а не электронов. Ключевые характеристики:

• Скорость: умножение происходит за доли наносекунды. Прототип Сбера уже выполняет >1 млрд операций матричного умножения в секунду, с планом дойти до 10 ГГц.
• Энергоэффективность: оптическое ядро потребляет на 30%+ меньше энергии, чем электронные аналоги, и почти не выделяет тепла.
• Задержка: в фотонных процессорах вроде PACE задержка масштабируется линейно с размером матрицы (несколько пикосекунд на шаг), тогда как электронные систолические массивы растут экспоненциально. Для задач оптимизации это даёт ускорение в 500 раз против GPU.

🔗 Как это сочетается с оптическим PCIe/CXL

Твоя базовая идея — вынести HBM за пределы GPU и соединить её через оптику с PCIe/CXL-протоколом — решает проблему доступа к памяти. Добавление оптических вычислителей решает проблему обработки данных.

Получается трёхуровневая архитектура:

Уровень 1: Оптический интерконнект (PCIe/CXL over optics)

GPU, оптические вычислители и выносные модули HBM соединяются через единую оптическую фабрику. Это то, что уже стандартизируется в OCI-MSA: AMD, Broadcom, NVIDIA, Meta, Microsoft и OpenAI формируют открытый оптический PHY для scale-up соединений.

Уровень 2: Оптические вычислители как сопроцессоры

Фотонные чипы встраиваются в ту же оптическую фабрику и берут на себя матричные операции. GPU перестаёт быть единственным вычислителем — он становится координатором, который отправляет матричные умножения на фотонные ядра, а сам занимается нелинейностями, управлением и памятью.

Уровень 3: Выносная HBM через оптику

HBM-стеки размещаются в отдельных модулях, соединённых с GPU и фотонными чипами через оптический PCIe/CXL. Память перестаёт быть «приклеенной» к GPU и становится общим ресурсом, доступным и электронным, и фотонным вычислителям.

🏗️ Что это даёт на практике

1. Радикальное снижение энергопотребления

Если матричные умножения уходят на фотонные ядра (30%+ экономии энергии на операцию), а связь между компонентами идёт по оптике (меньше потерь на передачу), общее энергопотребление стойки может упасть в разы. Для дата-центров это критично: энергопотребление AI-кластеров растёт быстрее, чем инфраструктура успевает за ним.

2. Масштаб, недостижимый для меди

Biren уже показывает суперузел на 1024 ускорителя с оптическими соединениями (NPO — near-packaged optics), потому что медь физически не тянет такое количество связей. Ayar Labs проектирует фотонную стойку на 1024+ GPU с потреблением всего 100–200 кВт — в разы меньше, чем у современных медных решений.

3. Специализация вычислений

GPU становится не «универсальным молотком», а частью гетерогенной системы: фотонные ядра делают то, что они делают лучше всего (умножение матриц), GPU — то, что требует гибкости (нелинейности, управление, работа с разреженными данными).

⚠️ Честная оценка: что уже работает, а что нет

Что есть:

• Фотонные вычислители: прототипы Сбера (>1 млрд умножений/сек), PACE от Lightelligence (64×64 матрицы, 1 ГГц), универсальный фотонный AI-процессор от Lightmatter (4×128×128 тензорных ядра).
• Оптический PHY для интерконнекта: OCI-MSA с дорожной картой до 3.2 Тбит/с на волокно, поддержка CPO (co-packaged optics).
• Оптические суперузлы: Biren BR2xx на 1024 карты, Ayar Labs + Wiwynn на 1024+ GPU.

Что ещё не готово:

• Гибридная система целиком (оптические вычисления + оптическая память + оптический интерконнект в одном кластере) — такой продукт пока не анонсирован ни одним вендором. Это архитектурная концепция, а не готовое решение.
• Программный стек: фотонные вычислители требуют нового компилятора и runtime, которые умеют раскладывать нейросеть на электронные и фотонные части. Этого пока нет.
• Точность: фотонные ядра часто работают с аналоговыми или низкоточными (1–7 бит) весами, что подходит для инференса, но не для обучения с высокой точностью.

📊 Итог

Оптический PCIe/CXL для HBM решает проблему памяти — HBM перестаёт быть привязанной к GPU физически.

Оптические вычислители решают проблему вычислений — матричные операции уходят на свет.

Вместе они создают систему, где свет используется и для связи, и для счёта. Это не просто «быстрее» — это принципиально другая архитектура, где GPU и HBM больше не обязаны быть в одном пакете, а самая тяжёлая операция ИИ выполняется фотонами.