FunctionGemma 270M IT

FunctionGemma 270M IT — специализированная версия Gemma 3 270M для function calling. Она получает описание доступных функций и пользовательскую команду, а в ответ формирует структурированный вызов с аргументами. Разработчик прямо предупреждает: это не разговорный помощник и не готовая универсальная агентная модель. Основной сценарий — дальнейшее дообучение на командах, инструментах и форматах конкретного приложения.

Небольшой размер позволяет рассматривать модель для локального или периферийного запуска, где важны задержка и отсутствие постоянного облачного запроса. Это не означает, что она одинаково хорошо заработает на любом телефоне. Итог зависит от формата весов, квантования, runtime и памяти устройства. В официальном примере автономного обучения Google использовала модель для мобильных действий и отдельно оптимизировала её на своём наборе. Переносить результат этого эксперимента на собственное приложение без проверки нельзя.

Контекст в карточке модели указан как 32K на весь запрос и вывод; фактически доступный вывод уменьшается на размер инструкции, истории и схем функций. Для вызова инструментов это обычно достаточно, но десятки громоздких JSON-схем быстро съедают окно и усложняют выбор. Практичнее показывать только функции, допустимые на текущем экране, давать короткие однозначные описания и валидировать аргументы обычным кодом.

Первый тест строится вокруг 100–300 реальных обезличенных команд. В набор включают опечатки, отрицания, неполные значения, две просьбы в одном сообщении и команды, которые нельзя выполнять. Проверяют правильность имени функции, каждого обязательного аргумента, типы, корректный отказ и отсутствие лишнего вызова. Текстовое объяснение не компенсирует неверное действие. Любая операция с деньгами, удалением или отправкой требует технических ограничений и подтверждения человеком.

Доступ к исходным файлам может требовать принятия лицензии Gemma. Перед коммерческим внедрением нужно прочитать актуальные условия, допустимые сценарии и правила распространения производной модели. Дообученная версия также требует собственной карточки: данные, ограничения, языки, тестовый набор и известные ошибки. Русские команды надо проверять отдельно; наличие многоязычных примеров в базовой модели не гарантирует качество на терминах компании.

FunctionGemma интересна не как дешёвая замена большой LLM во всех задачах, а как узкий диспетчер. Если список действий стабилен и поток большой, маленькая модель может снизить задержку и стоимость. Если инструменты часто меняются, команды неоднозначны, а данных для обучения мало, облачная модель с жёсткой схемой быстрее даст рабочий пилот. Решение принимают по числу безопасно выполненных команд, а не по размеру файла.