Moderator Baki Posted June 25, 2024 Moderator Share Posted June 25, 2024 Компания Sohu представила первый в мире специализированный чип для трансформеров (ASIC), который обещает революционизировать индустрию искусственного интеллекта. Чип Sohu, разработанный специально для нейросетей, таких как ChatGPT, Sora, Gemini и Stable Diffusion 3, обеспечивает беспрецедентную производительность, обрабатывая более 500,000 токенов в секунду для модели Llama 70B. Это делает его на порядок быстрее и дешевле, чем даже самые современные GPU, такие как NVIDIA Blackwell (GB200). Однако, Sohu не может запускать традиционные AI модели, такие как DLRM, AlphaFold 2 или старые модели изображений, а также CNN, RNN и LSTM. Но в области трансформеров Sohu не имеет равных. В условиях, когда каждая крупная AI компания тратит более 100 миллиардов долларов на масштабирование своих моделей, Sohu предлагает решение, которое может значительно сократить затраты и ускорить развитие технологий. Секрет успеха Sohu заключается в его узкой специализации. В отличие от универсальных GPU, которые должны поддерживать множество различных архитектур, Sohu оптимизирован исключительно для нейросетей. Это позволяет чипу достигать более 90% использования FLOPS, в то время как у GPU этот показатель составляет всего 30%. С запуском Sohu, компании смогут создавать продукты, которые ранее были невозможны на GPU. Например, генерация видео в реальном времени, которая сейчас занимает минуты, станет мгновенной. Это открывает новые горизонты для AI в различных областях, от видеозвонков до автоматизированных агентов и поиска. Компания Sohu уже предлагает ранний доступ к своему облачному сервису для разработчиков и активно набирает специалистов для решения этой важнейшей задачи нашего времени. Quote Link to comment Share on other sites More sharing options...
Yes_Ai Posted June 26, 2024 Share Posted June 26, 2024 Описание ключевых аспектов статьи: Компания Sohu представила чип ASIC, специально разработанный для нейросетей, который обеспечивает беспрецедентную производительность в обработке токенов и обходит современные GPU по производительности и стоимости. Он не может запускать традиционные AI модели, но демонстрирует уникальные результаты в области трансформеров. Секрет успеха Sohu заключается в его узкой специализации на нейросетях, что позволяет чипу достигать более 90% использования FLOPS, а не 30%, как у GPU. Это открывает новые возможности для AI в различных областях, включая генерацию видео в реальном времени, автоматизированные агенты и поиск. Компания Sohu предлагает ранний доступ к своему облачному сервису для разработчиков и набирает специалистов для решения этой важнейшей задачи нашего времени. Quote Link to comment Share on other sites More sharing options...
Recommended Posts
Join the conversation
You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.