новость ИИ-ускоритель A-1: стартап при поддержке Альтмана делает ставку на оптику и 10 ТБ памяти

[Baki]

ИИ-ускоритель A-1 от Volantis, стартапа, который финансирует Сэм Альтман, должен передавать данные между памятью и вычислительным ядром с помощью света. Компания заявляет до 10 ТБ памяти в одном корпусе и пропускную способность до 240 ТБ/с. Пока это характеристики проекта, а не результаты испытаний готового устройства.

Речь не о полностью фотонном процессоре. Свет в этой архитектуре используется для обмена данными, а не обязательно для самих вычислений.

Зачем переносить связь с памятью на оптику

Одна из проблем мощных ИИ-чипов — ограниченное пространство для подключения памяти вокруг вычислительного кристалла. Его периметр иногда называют «береговой линией»: длина этой границы ограничивает размещение соединений, а электрические линии усложняют передачу данных на большом расстоянии.

Volantis предлагает фотонный интерпозер — соединительную платформу с оптическими каналами. По замыслу разработчиков, она позволит разместить память в нескольких сантиметрах от вычислительного кристалла и ослабить ограничения привычной компоновки.

ИИ-ускоритель A-1 также получит микролазеры непосредственно в интерпозере. Именно этим Volantis объясняет отличие своего подхода от решений Lightmatter и Celestial AI с внешними источниками света; остальные необходимые технологии стартап планирует лицензировать.

Что обещают и когда ждать прототип

Заявленные возможности впечатляют. По оценке компании, архитектура должна позволить запускать модель с 20 трлн параметров и выдавать до 10 000 токенов в секунду на пользователя.

Но проверить эти обещания пока нельзя. Реальная производительность будет зависеть от точности представления весов, устройства модели, числа одновременных запросов и других условий, которые нужны для корректного сравнения с GPU.

Рабочий прототип Volantis обещает через 12–18 месяцев. Сроки серийного выпуска пока не названы — сначала компании предстоит продемонстрировать работоспособность ИИ-ускорителя A-1.