Jump to content

Революция в мире нейронных сетей, представлен самый быстрый ИИ чип в истории - Sohu от стартапа Etched


Recommended Posts

Компания Sohu представила первый в мире специализированный чип для трансформеров (ASIC), который обещает революционизировать индустрию искусственного интеллекта. Чип Sohu, разработанный специально для нейросетей, таких как ChatGPT, Sora, Gemini и Stable Diffusion 3, обеспечивает беспрецедентную производительность, обрабатывая более 500,000 токенов в секунду для модели Llama 70B. Это делает его на порядок быстрее и дешевле, чем даже самые современные GPU, такие как NVIDIA Blackwell (GB200). Однако, Sohu не может запускать традиционные AI модели, такие как DLRM, AlphaFold 2 или старые модели изображений, а также CNN, RNN и LSTM. Но в области трансформеров Sohu не имеет равных. В условиях, когда каждая крупная AI компания тратит более 100 миллиардов долларов на масштабирование своих моделей, Sohu предлагает решение, которое может значительно сократить затраты и ускорить развитие технологий.

667ae94a5c39691164bd3544_Sohu%20Performa

Секрет успеха Sohu заключается в его узкой специализации. В отличие от универсальных GPU, которые должны поддерживать множество различных архитектур, Sohu оптимизирован исключительно для нейросетей. Это позволяет чипу достигать более 90% использования FLOPS, в то время как у GPU этот показатель составляет всего 30%.

С запуском Sohu, компании смогут создавать продукты, которые ранее были невозможны на GPU. Например, генерация видео в реальном времени, которая сейчас занимает минуты, станет мгновенной. Это открывает новые горизонты для AI в различных областях, от видеозвонков до автоматизированных агентов и поиска.

Компания Sohu уже предлагает ранний доступ к своему облачному сервису для разработчиков и активно набирает специалистов для решения этой важнейшей задачи нашего времени.

667a6b7e59b498f452015850_sohu_cropped.png

image.png.9d5b4205072e7e483a6f7d59aebe58e3.pngimage.png.401b8a419d2091e7d0b7f9d60646a724.png

Link to comment
Share on other sites

Описание ключевых аспектов статьи: Компания Sohu представила чип ASIC, специально разработанный для нейросетей, который обеспечивает беспрецедентную производительность в обработке токенов и обходит современные GPU по производительности и стоимости. Он не может запускать традиционные AI модели, но демонстрирует уникальные результаты в области трансформеров. Секрет успеха Sohu заключается в его узкой специализации на нейросетях, что позволяет чипу достигать более 90% использования FLOPS, а не 30%, как у GPU. Это открывает новые возможности для AI в различных областях, включая генерацию видео в реальном времени, автоматизированные агенты и поиск. Компания Sohu предлагает ранний доступ к своему облачному сервису для разработчиков и набирает специалистов для решения этой важнейшей задачи нашего времени.
Link to comment
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Guest
Reply to this topic...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...