Что такое эмбеддинги и векторный поиск — как ИИ понимает смысл, а не слова

Обычный поиск ищет слова. Вы вводите «починить кран» — он находит документы со словами «починить» и «кран». Если в нужной статье написано «устранение течи смесителя», обычный поиск её не найдёт: ни одно слово не совпало, хотя речь ровно о том же.

Векторный поиск находит. И работает он на эмбеддингах — той самой технологии, без которой не существовало бы ни RAG, ни умного поиска по вашим документам.

Эмбеддинг простыми словами

Эмбеддинг — это превращение текста в список чисел, который отражает его смысл.

Специальная модель (не та, что генерирует текст, а отдельная — эмбеддинг-модель) берёт фразу и выдаёт массив из нескольких сотен или тысяч чисел. Например, 1536 чисел для одной из популярных моделей OpenAI. Выглядит это так:

"починить кран"  →  [0.021, -0.187, 0.443, ... ещё 1533 числа]

Само по себе бессмысленно. Вся суть — в расстоянии между такими списками.

Главная идея: близкий смысл = близкие числа

Представьте карту. Не географическую, а карту смыслов. На ней «кот» и «кошка» стоят вплотную. «Кот» и «собака» — рядом, но чуть дальше (оба животные, но разные). «Кот» и «бухгалтерия» — на разных концах карты.

Эмбеддинг — это координаты точки на такой карте. Только измерений не два, как на бумажной карте, а полторы тысячи. Человек такое вообразить не может, а математике всё равно: расстояние между точками считается одной формулой (обычно косинусное сходство).

Отсюда и магия поиска:

1. Заранее превращаем все свои документы в эмбеддинги и складываем в базу.
2. Приходит запрос «починить кран» — превращаем и его в эмбеддинг.
3. Ищем в базе точки, ближайшие к точке запроса.
4. Статья «устранение течи смесителя» оказывается рядом — потому что смысл близкий, хотя слова разные.

Ни одного совпавшего слова, а документ найден.

Что такое векторная база

Когда документов десяток, можно тупо перебрать все и посчитать расстояние до каждого. Когда их десять миллионов — перебор займёт вечность.

Векторная база данных — это хранилище, заточенное ровно под одну задачу: быстро находить ближайшие точки среди миллионов. Внутри — хитрые индексы (чаще всего алгоритм HNSW), которые ищут не идеально точно, зато в тысячи раз быстрее полного перебора.

Популярные варианты:

• Pinecone, Weaviate, Qdrant — специализированные векторные базы (Qdrant, кстати, сделан выходцами из России).
• Chroma — простая, популярна для прототипов и обучения.
• pgvector — расширение для PostgreSQL. Если у вас уже есть Postgres, часто это самый разумный выбор: не надо тащить в проект отдельную систему.
• FAISS — библиотека от Meta, не база: работает прямо в памяти вашего приложения.

Где это используется на практике

• RAG — та самая схема «дай нейросети найти ответ в моих документах». Векторный поиск отбирает нужные куски текста, модель формулирует по ним ответ.
• Поиск по базе знаний компании — сотрудник спрашивает своими словами, находит нужный регламент.
• Рекомендации — «похожие товары», «похожие статьи» считаются как ближайшие точки.
• Дедупликация — найти почти одинаковые тексты, отличающиеся формулировками.
• Кластеризация — автоматически разложить тысячи отзывов по темам.

Чего эмбеддинги не умеют

Три честных ограничения, о которых стоит знать заранее:

1. Точные совпадения — не их конёк. Ищете артикул «XR-4471-B» или конкретную фамилию? Векторный поиск может промахнуться, а обычный поиск по слову — нет. Поэтому на практике их часто комбинируют (это называется гибридный поиск) — и это почти всегда работает лучше, чем любой из двух по отдельности.
2. Смысл ≠ правда. «Земля плоская» и «Земля круглая» — очень близкие эмбеддинги: обе фразы про форму Земли. Модель считает похожесть темы, а не истинность.
3. Мусор на входе — мусор на выходе. Если разбить документы на куски неудачно (порезав мысль пополам), поиск будет находить обрывки без контекста. Нарезка текста (chunking) — половина успеха RAG.

Что запомнить

• Эмбеддинг — это координаты смысла текста в виде списка чисел.
• Близкий смысл = близкие координаты, поэтому поиск работает без совпадения слов.
• Векторная база быстро находит ближайшие точки среди миллионов.
• Это фундамент RAG, умного поиска и рекомендаций.
• Для точных артикулов и имён комбинируйте с обычным поиском по словам.

Как из этого собирается полноценная система «нейросеть отвечает по вашим документам» — в гайде про RAG простыми словами. А что такое токены, на которые всё это режется, — здесь.