Sakana AI показала MASS: модель учится на работе собственной команды агентов

12 октября Sakana AI и исследователи Калифорнийского университета в Беркли представили MASS — Multi-Agent Self-Supervision. В этой работе модель не просто получает ответы нескольких агентов и выбирает лучший. Одна базовая модель заполняет три роли: выполняет исследовательскую задачу, ищет более удачную организацию команды и оценивает получившиеся траектории. Затем на отобранной работе команд её дообучают и повторяют цикл. Публикация интересна не обещанием «ИИ улучшает себя без людей», а конкретным способом получить обучающий сигнал из коллективной работы, а также признанием риска: если оценщик и исполнитель разделяют ошибку, повторение может её усилить.

Как устроен один цикл

Сначала исследователи задают открытые задачи, для которых недостаточно одной проверяемой формулы ответа. Модель действует как команда виртуальных исполнителей: распределяет роли, предлагает варианты, сопоставляет и выбирает ход работы. Отдельный поиск перебирает конфигурации команды. Пока идёт этот поиск, веса модели не меняются. После выбора траекторий, которые собственный оценщик признал полезными, модель дообучают. Обновлённая версия снова становится исполнителем, организатором и оценщиком следующего круга.

Эта последовательность принципиальна. Если просто запустить несколько копий одной модели одновременно, можно получить больше текста и затрат, но не обязательно более способную одиночную модель. Здесь коллективная работа служит источником данных для следующего этапа обучения. Авторы называют это извлечением опыта команды обратно в общие веса.

Исходная модель в опубликованном коде — Qwen3.6-27B. Это не объявление о выпуске новой универсальной версии Qwen и не утверждение, что любой чат-бот самовольно меняет собственные параметры. Эксперимент требует специально подготовленных задач, вычислений, отбора данных и отдельного процесса дообучения.

Что показывают результаты

Авторы провели два цикла на синтетических открытых исследовательских задачах. По их сообщению, после второго цикла показатель результата на один выходной токен в четырёх исследовательских бенчмарках составил примерно 1,2–1,6 значения исходной модели. Такой показатель полезен: длинный ответ может выглядеть содержательным, но потреблять несопоставимо больше ресурсов. Одновременно это не означает улучшение качества всех ответов на 20–60 процентов и не даёт гарантии на обычных рабочих задачах.

Исследование проверяет также перенос между ролями: обучение на данных исполнителя могло улучшать работу модели как организатора и оценщика. Авторы отдельно отмечают, что ограничением может быть способность находить хорошие схемы командной работы, а не только способность оценивать готовый результат. Это позволяет сформулировать более точный вопрос для будущих повторений: улучшилась ли сама модель или команда подстроилась под особенности внутреннего судьи?

В материале о британских пилотах ИИ для киберзащиты мы разбирали различие между сообщением об обнаружении проблемы и подтверждённым исправлением. Для MASS это различие тоже важно: оценка работы внутри цикла должна опираться на воспроизводимые свидетельства, а не на красивый рассказ агента о собственной эффективности.

Где проходит граница доверия

Когда модель одновременно предлагает решение и судит его, может возникнуть общий слепой угол. Команда агентов не обязательно устраняет эту проблему: её участники основаны на одних и тех же весах. Несколько одинаково ошибающихся исполнителей иногда создают убедительный консенсус. Sakana AI прямо указывает на необходимость исследовать такие сбои и сохранять внешние способы их обнаружить и остановить.

Для читателя это означает, что число из авторского бенчмарка следует рассматривать как результат определённой экспериментальной постановки. Нужно знать, какие задачи исключили из обучения, как устроен судья, сколько вычислений потрачено на поиск команды, какие результаты держались на независимой выборке и повторяется ли эффект при иной базовой модели. Открытый код помогает проверить часть условий, но не заменяет независимой репликации.

Если подобный подход предлагают внедрить в продукт, полезно требовать журнал исходных задач, входных данных и траекторий, версию модели до и после цикла, отдельный набор контрольных задач и право остановить развёртывание. Гайд по проверке формул ИИ в таблице показывает тот же принцип в меньшем масштабе: улучшение текста нельзя считать доказательством правильного вычисления.

Что важно запомнить

MASS — исследовательский метод организации и дообучения системы, а не новая кнопка «сделать модель умнее» для всех пользователей. Его сильная сторона — подробное описание цикла и измерение результата с учётом цены вывода. Главный открытый вопрос — независимость оценки. К улучшению на авторских задачах стоит относиться серьёзно, но нельзя переносить его без проверки на медицину, финансы или рабочие данные компании. Для обычного пользователя практический вывод проще: коллективное обсуждение агентов полезно лишь тогда, когда итог подтверждается внешними данными и доступен для перепроверки.

Частые вопросы

MASS выпустила новую модель для общего чата?

Нет. Авторы представили метод и результаты эксперимента с открытой базовой моделью. Это не анонс нового коммерческого ассистента с гарантированно лучшими ответами на любые вопросы.

Модель обучается во время обычного разговора?

Нет. Описан отдельный исследовательский цикл: поиск командной схемы, отбор траекторий, дообучение весов и повторное измерение. Разговор с чат-ботом сам по себе его не запускает.

Почему несколько агентов могут ошибиться одинаково?

Они используют общую базовую модель и могут разделять её предположения. Независимость ролей в инструкции не равна независимости знаний и оценок.

По какому признаку сравнивать подобные исследования?

Смотрите независимую тестовую выборку, цену вычислений, качество оценки, доступность кода и результаты внешнего повторения. Один итоговый процент без этих условий почти ничего не объясняет.