NVIDIA выпустила Nemotron 3.5 Super VL

Моя цель - предложение широкого ассортимента товаров и услуг на постоянно высоком качестве обслуживания по самым выгодным ценам.

NVIDIA представила Nemotron 3.5 Super VL — модель с открытыми весами на 120 млрд параметров, из которых 12 млрд активируются при обработке каждого токена. Она работает с текстом, изображениями и видео, умеет рассуждать и вызывать инструменты. Основной сценарий — агенты, которые выполняют многошаговые задачи без постоянного участия человека.

В зрительной части модель ориентирована на работу с документами: распознавание текста, таблиц, графиков, веб-страниц и PDF. Она также обрабатывает видео длительностью до двух минут. Это может пригодиться для извлечения данных из отчётов, анализа экранных записей и автоматизации процессов, в которых нужно одновременно учитывать текстовую и визуальную информацию.

Гибрид Mamba-2 и Transformer

В основе Nemotron 3.5 Super VL лежит гибридная архитектура Mamba-2 и Transformer со смесью MoE. NVIDIA также использует спекулятивное декодирование для ускорения генерации.

Компания опубликовала и сжатую версию — Nemotron 3.5 Bolt 74B-A9B. В ней 74 млрд параметров, из которых активны 9 млрд. NVIDIA рассчитала эту версию на запуск в пределах 24 ГБ памяти, в частности на системах RTX и DGX Spark. Для полноценной Super VL требования существенно выше: четыре H100 или две GB200.

Что показывают тесты

В опубликованных NVIDIA результатах Super VL набрала 89,5 балла на GPQA Diamond против 86,7 у Qwen3.5-122B-A10B. Но на SWE-bench Verified, который проверяет решение реальных задач из репозиториев GitHub, результаты почти одинаковые: 71,1 против 71,9.

На Terminal-Bench 2.1 модель получила 60,7 балла. Для сравнения, у Qwen3.8-Flash-Next результат составляет 85,8, у GLM-5.3-Flash — 82,7.

Nemotron 3.5 Super VL и Bolt доступны с открытыми весами. NVIDIA также опубликовала технические отчёты и материалы для развёртывания.

Источник: https://habr.com/ru/companies/bothub/news/1095494/


Интересные статьи

Интересные статьи

REST Битрикс24 можно удобно использовать из Python — для интеграций, миграций, аналитики и служебных скриптов. Разбираем библиотеку a24wh: шесть функций, которые упрощают запросы, пагинацию, batc...
После очередного обновления коробочного портала Битрикс 24 в марте 2023г, в бизнес процессах, перестала работать модификация типов при присвоении значения строковым переменным.Например, при присвоении...
Загрузка Linux с VHD может пригодиться в различных сценариях, например, когда на компьютере установлена Windows и есть необходимость в Linux, но WSL или виртуальной машины с Linux недоста...
Маркетплейс – это сервис от 1С-Битрикс, который позволяет разработчикам делиться своими решениями с широкой аудиторией, состоящей из клиентов и других разработчиков.
Этот текст задуман и написан как дополнение к «Чему я научился за 10 лет на Stack Overflow».Сразу скажу, что я согласен с Мэттом Бирнером фактически во всем. Но у меня есть несколько дополнений, ...