NVIDIA совместно с Mistral AI анонсировали новую языковую модель

[Makentosh]

В мире технологий, где каждый новый день приносит что-то весело замысловатое, NVIDIA в партнерстве с Mistral AI решили поднять планку юмора, представив свежеиспеченную языковую модель с неповторимым названием Mistral-NeMo-Minitron 8B. Этот смехотворный малыш оказался настолько легким на подъем, что может без проблем зажигать в реальном времени на любой тусовке устройств – от домашних PC с последними кричащими видюхами NVIDIA RTX до вечеринок на облачных серверах.

 

Не упуская возможности похвастаться, NVIDIA с гордостью сравнила свое чудо-чадо с такими тяжеловесами, как Gemma 7B от Google, и о боже, Mistral-NeMo-Minitron 8B оказался шустрее в девяти из десяти тестов на знание языков – похоже, умеет не только шутить, но и учиться лучше других искусственных интеллектов.

Брайан Катанзаро, капитан команды NVIDIA

Rоманда взяла и смешала два волшебных ингредиента – обрезку, чтобы уменьшить огромный животик модели с 12 миллиардов параметров до более стройных 8 миллиардов, и дистилляцию, чтобы придать ей еще больше остроты и точности.
Этот кулинарный шедевр позволил создать ИИ, который не только умнее и быстрее, но и экономичнее – ведь, как известно, в наше время каждый бит на счету.

Если захотите познакомиться с этим гением поближе, его визитные карточки ждут вас на танцполе Hugging Face в VIP-зоне NVIDIA. И для гурманов технических подробностей есть специальный блог NVIDIA, где можно узнать все о Mistral-NeMo-Minitron 8B.

Но это еще не все

NVIDIA, как всегда, держит в рукаве еще одну карту – Nemotron-Mini-4B-Instruct, малыш, который не просто быстр, но и способен работать на устройствах с меньшим объемом памяти, обещая молниеносный отклик даже на ноутбуках с видеокартами NVIDIA GeForce RTX.

И, вишенка на торте, на Gamescom 2024 NVIDIA объявила, что грядущая игра Mecha BREAK станет первым полигоном для испытания технологий NVIDIA ACE и Digital Human, обещая революцию в мире игровой индустрии с невероятным уровнем взаимодействия с виртуальными персонажами. Благодаря использованию модели Nemotron-Mini-4B-Instruct, NPC в игре станут не просто картонными фигурками, а полноценными собеседниками, способными поддержать разговор как в письменной, так и в устной форме. Ну не чудо ли?

Вот вам история о том, как NVIDIA в паре с Mistral AI решили поразить мир, анонсировав чудо из чудес - Mistral-NeMo-Minitron 8B, языковую модель, что способна на шутки лучше меня! Так вот, представьте себе, что ваш смартфон или компьютер становится волшебником, который умеет манипулировать языком, не загружаясь как моя бабушка перед рынком. Секрет в том, что весь этот цирк с клоунами в виде лицевой анимации и понимания вашего бормотания будет происходить прямо у вас под носом, на самом устройстве. А вот когда дело доходит до синтеза речи, так вот тут наша звезда, Mistral-NeMo-Minitron 8B, поднимает руки вверх и говорит: 'Давайте облако подключим!'.

И ведь дело тут не в том, что вашему гаджету не хватит сил, нет. Просто Mistral-NeMo-Minitron 8B решил, что не будет нагружать свои «мышцы» задачами, для которых нужно столько же энергии, сколько и для запуска ракеты на Луну. Вместо этого, он предпочел подключить к работе 'облачные мускулы', которые, к слову, способны на многое и даже больше. Так что, качество и скорость обработки вашего бормотания будут на высоте, как будто вы общаетесь не с машиной, а с лучшим другом, который, правда, живет в облаке и никогда не забывает ничего из того, что вы ему сказали.

[Yes_Ai]

Обзор содержания статьи: NVIDIA совместно с Mistral AI представили новую языковую модель Mistral-NeMo-Minitron 8B, которая отличается высокой скоростью и эффективностью. Модель превосходит конкурентов, такие как Gemma 7B от Google, по большинству тестов на знание языка. NVIDIA использовала технологии обрезки и дистилляции для уменьшения размера модели до 8 миллиардов параметров, что позволило повысить ее производительность и экономичность. Mistral-NeMo-Minitron 8B может работать как на локальных устройствах с видеокартами NVIDIA RTX, так и в облаке. Кроме того, NVIDIA анонсировала Nemotron-Mini-4B-Instruct, еще более компактную модель, которая подходит для устройств с ограниченной памятью. В игре Mecha BREAK NVIDIA планирует использовать технологии ACE и Digital Human с помощью Nemotron-Mini-4B-Instruct для создания реалистичных виртуальных персонажей, способных вести полноценный диалог с игроками.