Devstral Small 2
Devstral Small 2 — второе поколение специализированной кодинг-модели Mistral AI, заточенной под агентную разработку. Главная особенность — сочетание достойного качества с крайне низкими требованиями к железу: 24 млрд параметров, лицензия Apache 2.0 (можно использовать как угодно, в том числе коммерчески), контекст 256 тысяч токенов.
На бенчмарке SWE-bench Verified (реальные задачи из репозиториев) модель показывает 68,0% — для модели такого размера это сильный результат, вплотную к куда более тяжёлым решениям. При этом запускается локально: в квантовании Q4 нужно около 14 ГБ видеопамяти, то есть достаточно одной RTX 4090, RTX 3090 или Mac с 32 ГБ памяти.
Это именно агентная модель, а не автодополнялка: она хорошо тянет многошаговые задачи — рефакторинг сразу по нескольким файлам, автономный поиск и исправление багов, следование сложным инструкциям. Поддерживает и вызов функций Mistral, и XML-формат, поэтому встраивается в разные агентные обвязки.
Открытая и работает в России, данные не уходят наружу при локальном запуске — это ключевое преимущество для тех, кому нельзя отправлять код во внешние сервисы. Оговорка: 24 млрд — это «малая» модель, и на самых сложных архитектурных задачах она уступит топовым закрытым флагманам. Её ниша — рутина и агентные сценарии на своём железе, а не замена самой мощной модели на рынке.
- ✓Запускается локально на одной видеокарте (~14 ГБ в Q4)
- ✓Лицензия Apache 2.0 — свободное коммерческое использование
- ✓Контекст 256 тысяч токенов
- ✓68% на SWE-bench — сильно для размера
- ✓Открытая, работает в РФ, код не уходит наружу
- ✓Заточена под агентные задачи, а не только автодополнение
- ✕На сложной архитектуре уступает топовым флагманам
- ✕Для качественного вывода в Q8 нужно ~26 ГБ видеопамяти
- ✕Требует настройки агентной обвязки — не готовый продукт