Модель для мультимодальных задач

NVIDIA выпустила Nemotron 3.5 Super VL — открытую модель на 120 млрд параметров, которая, по заявлению компании, обрабатывает PDF-файлы, диаграммы, таблицы, изображения и веб-страницы, следует инструкциям и использует инструменты. Она рассчитана, в частности, на ИИ-агентов, которым нужно извлекать сведения из документов и применять к ним заданные правила.

Вместе с ней NVIDIA представила две компактные модели семейства Nemotron. Nemotron 3.5 Bolt 74B-A9B предназначена для локальных задач — например, программирования, исследований и других многоэтапных сценариев. Bolt E4B объёмом 4 ГБ ориентирована на разговорных и встроенных агентов; компания планирует выпустить её 23 октября.

По словам NVIDIA, организации могут дообучать Super VL на собственных данных, инструментах и правилах, а затем выбирать инфраструктуру с учётом требований безопасности и хранения данных. Bolt, в свою очередь, предлагает более компактный вариант для запуска отдельных задач на локальных системах.

Что показывают результаты дообучения

NVIDIA сообщает, что десятки организаций адаптируют Super VL для собственных задач. Среди приведённых компанией примеров — агент Scale AI для финансовой работы Skydance, система EY для проверки сделок слияния и поглощения, а также решение AfterQuery для анализа кредитных договоров Hebbia. Результаты на специализированных тестах относятся к разным дообученным версиям модели, а не к универсальному преимуществу базовой Super VL.

В графике NVIDIA показаны пять оценок: анализ документов, устойчивость к атакам, извлечение данных из финансовых чеков, научные эксперименты и обработка медицинских страховых заявок. Компания указывает, что после дообучения улучшение относительно базовой модели составило от 9 до 44%. В медицинском тесте точность, согласно графику, выросла примерно с 28% до 72%; результат Claude Opus 5 там составил около 38%. В оценке устойчивости к атакам показатель поднялся примерно с 35% до 76%, тогда как у GPT-6.1 Sol он составил около 66%.

Это результаты, представленные NVIDIA, а не независимое подтверждение общего превосходства модели. Компания не раскрыла определения задач, размеры выборок и протокол тестирования, поэтому результаты не позволяют напрямую судить о качестве работы на данных конкретного заказчика.

Скорость генерации и ограничения сравнения

NVIDIA также заявляет, что Super VL может быть до пяти раз быстрее сопоставимой открытой модели. В графике сравниваются индекс Artificial Analysis Intelligence Index и скорость генерации при 100 000 входных токенов. По данным NVIDIA, Super VL выдаёт около 625 токенов в секунду при значении индекса примерно 26; для сравнения компания приводит Inkling Small с близким значением индекса и скоростью около 125 токенов в секунду. Результат Super VL измеряли на четырёх ускорителях Blackwell B200.

Это сравнение касается скорости генерации при указанных условиях, а не времени выполнения всего процесса работы агента. На него также влияют чтение входных данных, вызовы внешних инструментов, проверка ответов и исправление ошибок. Индекс объединяет 10 оценок, но сам по себе не измеряет все возможности модели при чтении документов; в рейтинге на графике Super VL получила около 26 баллов, ниже некоторых других открытых моделей.

Bolt рассчитана на локальный запуск

Bolt 74B-A9B содержит 74 млрд параметров, из которых одновременно активны 9 млрд. NVIDIA утверждает, что благодаря сжатию до 2 бит модель помещается в 24 ГБ памяти и может работать вместе с другими приложениями на системах RTX Spark и DGX Spark. Компания называет её лучшей открытой моделью своего класса в PinchBench и второй в BrowseComp, однако не приводит в объявлении баллы и определение класса сравнения.

Модель доступна на Hugging Face с поддержкой llama.cpp, Ollama, LM Studio и vLLM. NVIDIA также перечисляет среди совместимых систем ПК с GeForce RTX, DGX Station и рабочие станции RTX PRO. Bolt E4B рассчитана на устройства с 4 ГБ памяти, включая системы GeForce RTX, Jetson и RTX/DGX Spark, и предназначена для голосовых помощников, интерактивных персонажей и встроенных интерфейсов.

Доступ, лицензия и стоимость для организаций

Веса Nemotron 3.5 Super VL доступны на Hugging Face; NVIDIA также указывает OpenRouter, ModelScope и NIM как варианты доступа. Компания сообщает, что модели распространяются по лицензии OpenMDW, допускающей коммерческое использование, дообучение и распространение. Она также публикует рецепты обучения и наборы данных, а для настройки предлагает инструменты NeMo.

Для разработки доступен API NVIDIA с ограничением частоты запросов без оплаты. Партнёры предлагают размещённые API по собственным тарифам. Для производственного использования NVIDIA указывает цену лицензии AI Enterprise — 4 500 долларов за GPU в год. Это стоимость программной лицензии, а не общие расходы на ускорители, размещение и эксплуатацию. По данным компании, Super VL оптимизирована для систем Blackwell и Hopper, а также может работать на GPU поколения Ampere.

Покупателям предстоит самостоятельно проверить, насколько модель точно извлекает нужные сведения и следует внутренним правилам, а затем сопоставить результат с затратами. Приведённые NVIDIA примеры партнёров и показатели тестов могут помочь определить, что именно проверять, но не гарантируют тех же результатов в каждом внедрении.