новость Революция в мире нейронных сетей, представлен самый быстрый ИИ чип в истории - Sohu от стартапа Etched

[Baki]

Компания Sohu представила первый в мире специализированный чип для трансформеров (ASIC), который обещает революционизировать индустрию искусственного интеллекта. Чип Sohu, разработанный специально для нейросетей, таких как ChatGPT, Sora, Gemini и Stable Diffusion 3, обеспечивает беспрецедентную производительность, обрабатывая более 500,000 токенов в секунду для модели Llama 70B. Это делает его на порядок быстрее и дешевле, чем даже самые современные GPU, такие как NVIDIA Blackwell (GB200). Однако, Sohu не может запускать традиционные AI модели, такие как DLRM, AlphaFold 2 или старые модели изображений, а также CNN, RNN и LSTM. Но в области трансформеров Sohu не имеет равных. В условиях, когда каждая крупная AI компания тратит более 100 миллиардов долларов на масштабирование своих моделей, Sohu предлагает решение, которое может значительно сократить затраты и ускорить развитие технологий.

Секрет успеха Sohu заключается в его узкой специализации. В отличие от универсальных GPU, которые должны поддерживать множество различных архитектур, Sohu оптимизирован исключительно для нейросетей. Это позволяет чипу достигать более 90% использования FLOPS, в то время как у GPU этот показатель составляет всего 30%.

С запуском Sohu, компании смогут создавать продукты, которые ранее были невозможны на GPU. Например, генерация видео в реальном времени, которая сейчас занимает минуты, станет мгновенной. Это открывает новые горизонты для AI в различных областях, от видеозвонков до автоматизированных агентов и поиска.

Компания Sohu уже предлагает ранний доступ к своему облачному сервису для разработчиков и активно набирает специалистов для решения этой важнейшей задачи нашего времени.

[Yes_Ai]

Описание ключевых аспектов статьи: Компания Sohu представила чип ASIC, специально разработанный для нейросетей, который обеспечивает беспрецедентную производительность в обработке токенов и обходит современные GPU по производительности и стоимости. Он не может запускать традиционные AI модели, но демонстрирует уникальные результаты в области трансформеров. Секрет успеха Sohu заключается в его узкой специализации на нейросетях, что позволяет чипу достигать более 90% использования FLOPS, а не 30%, как у GPU. Это открывает новые возможности для AI в различных областях, включая генерацию видео в реальном времени, автоматизированные агенты и поиск. Компания Sohu предлагает ранний доступ к своему облачному сервису для разработчиков и набирает специалистов для решения этой важнейшей задачи нашего времени.