Nemotron 3.5 Super VL 120B-A12B

Nemotron 3.5 Super VL 120B-A12B — мультимодальная модель NVIDIA, выпущенная 15 октября 2026 года. По техническому описанию это смесь экспертов на 120 миллиардах параметров всего, в которой на токен активируются около 12 миллиардов. Модель рассчитана на задачи, где нужно соединять текст и визуальные материалы: читать документы и диаграммы, анализировать изображения и видео, работать с кодом, инструментами и многошаговыми агентными сценариями. Эти свойства делают её кандидатом для специализированного прототипа, но не гарантируют корректную работу с любым корпоративным форматом.

В описании NVIDIA перечисляет несколько технических компонентов оптимизации и поддерживаемых вариантов весов, включая NVFP4. Квантованный вариант может снизить требования к памяти относительно BF16, однако это не означает, что запуск становится лёгким: нужны совместимое оборудование, подходящий inference-движок, стабильный мониторинг и команда, которая проверит качество после каждого обновления. Важно отдельно смотреть карточку именно того checkpoint, который будет использоваться: разные форматы весов, API и движки могут иметь собственные ограничения.

Перед пилотом выберите одну задачу и соберите контрольную выборку. Для документов подойдут скан с печатью, таблица, диаграмма и составной PDF, где важный пункт находится не на первой странице. Для видео добавьте короткие клипы с конкретным событием и требуйте временную метку. Для работы с инструментами ограничьте доступ тестовым окружением, не подключая реальные ключи, платёжные системы или рабочую файловую систему. Проверьте, может ли модель показать, что именно послужило основанием вывода, а не только пересказать документ.

Заявленные NVIDIA результаты на отдельных бенчмарках и пропускной способности полезны как гипотеза для выбора, но не как прогноз вашей производительности. Зафиксируйте входы, версию, длину контекста, квантование, batch size, оборудование и критерий успешного ответа. Считайте долю правильных извлечений, пропуски, выдуманные детали, задержку первого токена, общую задержку, устойчивость при нагрузке и стоимость корректного результата. Если тестируем русский язык, включите в выборку сокращения, сканы низкого качества, смешанную кириллицу и латиницу.

Проверьте лицензионные условия конкретной версии, правила для коммерческого использования и обработку запросов выбранным способом развёртывания. «Открытые веса» не равны отсутствию обязательств и не отменяют оценку рисков безопасности. При подключении агентных инструментов задайте принцип наименьших привилегий: модель должна видеть лишь нужный файл или функцию и не иметь права выполнять опасные действия без подтверждения человека.

Редакционная оценка: сильная сторона Nemotron 3.5 Super VL — сочетание визуального анализа и агентных возможностей в одной модели; потенциальный плюс — варианты оптимизации и открытые материалы для настройки. Главные ограничения — высокая стоимость полноценного развёртывания, зависимость от совместимой инфраструктуры и необходимость независимого тестирования заявленных преимуществ. Для небольшого проекта разумно сначала сравнить доступный hosted endpoint и собственный тестовый сервер на одинаковых входах.

Визуальную часть полезно проверять раздельными наборами. Для сканов измеряйте точность конкретных полей и сохранение порядка строк; для графиков — корректное чтение осей, легенды и единиц измерения; для видеоклипов — нахождение события в заданном временном диапазоне. Если система должна отвечать на вопрос по нескольким типам данных, проверяйте цепочку целиком: документ может быть прочитан верно, а итоговая сводка всё равно перепутает страницу, дату или объект. Для каждого теста храните исходник, эталон, версию весов и условия обработки.

При добавлении модели в агентный контур заранее ограничьте файловые операции, сетевой доступ и инструменты. Разрешайте чтение только из тестовой папки, запись — в отдельный каталог, а отправку писем и изменение записей оставляйте за подтверждением человека. Отслеживайте не только среднюю задержку, но и редкие долгие запросы, сбои чтения, расход памяти и повторные вызовы. Успешный запуск на одной видеокарте не доказывает стабильность при параллельной нагрузке. До решения о закупке оборудования проведите короткий тест с ожидаемым числом пользователей, размерами файлов и допустимым временем ответа.

Для пилота задайте порог остановки: например, серия нераспознанных страниц, выход за бюджет задержки или попытка обратиться к неразрешённому файлу должна прерывать автоматическую цепочку и передавать случай оператору. Сравните модель с более простым OCR-процессом и ручной проверкой на одних и тех же примерах. Если сложная мультимодальная система не улучшает точность или не сокращает время контроля, её вычислительная стоимость может быть неоправданной. Запишите, кто отвечает за обновление модели и повторную проверку после смены версии.