Что такое обучение и инференс нейросети простыми словами

В новостях про ИИ постоянно мелькают два слова — обучение (training) и инференс (inference). Например, чипы Microsoft Maia 200 «заточены под инференс». Разберём простыми словами, что это за два режима и чем они отличаются.

Два этапа жизни нейросети

Любая нейросеть проходит через две принципиально разные стадии:

1. Обучение (training) — модель «учится» на огромных данных.
2. Инференс (inference) — обученная модель «работает»: отвечает на ваши запросы.

Аналогия: обучение — это годы в университете, а инференс — это когда специалист уже применяет знания на работе. Учатся один раз (долго и дорого), работают потом постоянно.

Обучение (training)

Это создание модели «с нуля»:

• модели показывают терабайты текста, картинок, кода;
• она миллиарды раз корректирует свои внутренние «веса», чтобы лучше предсказывать;
• это очень дорого и долго — недели и месяцы на тысячах видеокарт, миллионы (и миллиарды) долларов.

Обучение делают редко — когда выпускают новую версию модели (например, GPT-5.6 или Claude Opus 4.8).

Инференс (inference)

Это использование уже готовой модели:

• вы отправляете запрос — модель прогоняет его через свои веса и выдаёт ответ;
• каждый ваш вопрос в ChatGPT, каждая сгенерированная картинка — это инференс;
• один запрос дешёвый, но запросов миллиарды в день, поэтому в сумме инференс — огромная статья расходов.

Почему это разделяют

Ключевая мысль: обучение и инференс — разные по нагрузке задачи, и под них выгодно делать разное железо.

• Для обучения нужны максимально мощные и универсальные чипы (топовые GPU Nvidia).
• Для инференса важнее не абсолютная мощность, а цена за ответ и энергоэффективность — тут выигрывают специализированные чипы (Google TPU, Amazon Trainium/Inferentia, Microsoft Maia, Meta Iris).

Поэтому компании массово делают собственные чипы для инференса: обучение можно провести раз на дорогом железе, а вот отвечать пользователям миллиарды раз в день дешевле на своём, оптимизированном кремнии.

Почему это важно вам

• Цена ИИ для вас зависит от инференса. Дешевле инференс — дешевле API и подписки.
• Скорость ответа — это тоже про инференс (насколько быстро железо прогоняет запрос).
• «Reasoning»-модели тратят на инференс больше (они «думают» перед ответом) — отсюда борьба за экономный инференс.

Итог

Обучение — это разовое дорогое «воспитание» модели, инференс — её ежедневная «работа» по ответам на запросы. Почти вся видимая вам стоимость и скорость ИИ — это про инференс, поэтому вокруг него сейчас разворачивается настоящая гонка чипов. Какие модели быстрее и дешевле в работе — смотрите в нашем каталоге, а про «думающий» режим — в гайде про reasoning.