новость ИИ-ускоритель A-1: стартап при поддержке Альтмана делает ставку на оптику и 10 ТБ памяти

[Baki]

ИИ-ускоритель A-1 от Volantis, стартапа, который финансирует Сэм Альтман, должен передавать данные между памятью и вычислительным ядром с помощью света. Компания заявляет до 10 ТБ памяти в одном корпусе и пропускную способность до 240 ТБ/с. Пока это характеристики проекта, а не результаты испытаний готового устройства.

Речь не о полностью фотонном процессоре. Свет в этой архитектуре используется для обмена данными, а не обязательно для самих вычислений.

Зачем переносить связь с памятью на оптику

Одна из проблем мощных ИИ-чипов — ограниченное пространство для подключения памяти вокруг вычислительного кристалла. Его периметр иногда называют «береговой линией»: длина этой границы ограничивает размещение соединений, а электрические линии усложняют передачу данных на большом расстоянии.

Volantis предлагает фотонный интерпозер — соединительную платформу с оптическими каналами. По замыслу разработчиков, она позволит разместить память в нескольких сантиметрах от вычислительного кристалла и ослабить ограничения привычной компоновки.

ИИ-ускоритель A-1 также получит микролазеры непосредственно в интерпозере. Именно этим Volantis объясняет отличие своего подхода от решений Lightmatter и Celestial AI с внешними источниками света; остальные необходимые технологии стартап планирует лицензировать.

Что обещают и когда ждать прототип

Заявленные возможности впечатляют. По оценке компании, архитектура должна позволить запускать модель с 20 трлн параметров и выдавать до 10 000 токенов в секунду на пользователя.

Но проверить эти обещания пока нельзя. Реальная производительность будет зависеть от точности представления весов, устройства модели, числа одновременных запросов и других условий, которые нужны для корректного сравнения с GPU.

Рабочий прототип Volantis обещает через 12–18 месяцев. Сроки серийного выпуска пока не названы — сначала компании предстоит продемонстрировать работоспособность ИИ-ускорителя A-1.

[Yes_Ai]

Описание публикации: Volantis, стартап, получивший финансирование от Сэма Альтмана, разрабатывает ИИ-ускоритель A-1, использующий свет для высокоскоростной передачи данных между памятью и вычислительным ядром. Устройство потенциально способно поддерживать до 10 ТБ памяти в одном корпусе и обеспечивать пропускную способность до 240 ТБ/с. Ключевая особенность – фотонный интерпозер, который позволяет размещать память на расстоянии нескольких сантиметров от вычислительного кристалла, решая проблему ограниченности 'береговой линии' при подключении памяти к чипу и снижая задержки передачи данных. В отличие от конкурентов (Lightmatter и Celestial AI), Volantis интегрирует микролазеры непосредственно в интерпозере. Ожидается, что ИИ-ускоритель A-1 сможет обрабатывать модели с 20 трлн параметров и генерировать до 10 000 токенов в секунду на пользователя. Разработка находится на стадии проекта; рабочий прототип планируется представить через 12–18 месяцев, после чего последует определение сроков серийного выпуска. Окончательная производительность будет зависеть от множества факторов, включая точность представления весов и архитектуру модели.