NeonLib: локальный поиск по заметкам и PDF на Android — что проверить до установки
Десяток сохранённых инструкций и PDF быстро превращается в архив, где проще спросить ИИ, чем помнить название файла. Разработчик NeonLib 3 ноября представил Android-библиотеку для поиска по документам на устройстве: текстовые представления строятся с EmbeddingGemma 300M через LiteRT, а найденные фрагменты можно открыть в исходнике. Это пока описание автора, а не наш лабораторный тест. Поэтому полезнее сразу выяснить, что именно происходит с данными и как проверить найденный ответ.
Поиск и генерация — разные вещи
Локальная модель представлений помогает найти близкие по смыслу фрагменты. Она не пишет длинный ответ как чат-модель. В описании проекта генерация названа отдельной опцией: для неё может потребоваться загруженная локальная языковая модель либо выбранный онлайн-провайдер. Не путайте «поиск выполняется на телефоне» с «каждое действие приложения всегда офлайн». Перед импортом личного архива просмотрите разрешения приложения, резервное копирование и настройки внешнего провайдера.
Автор упоминает импорт заметок, документов и распознавание текста с фото либо сканов. Для русскоязычного корпуса результат нужно измерить отдельно: в опубликованном описании нет независимого сравнения именно на русских PDF с таблицами и плохим OCR. Если в скане цифра распознана неверно, хороший семантический поиск вернёт неверную цифру из испорченного текста. Поэтому тестируйте не только удобство поиска, но и связь ответа с исходной страницей.
Пятнадцатиминутная проверка
Создайте тестовую папку без персональных данных: три короткие заметки, один PDF с таблицей и один скан. Запишите пять вопросов с точной страницей и ожидаемым фрагментом. Импортируйте файлы, дождитесь индексации и проверьте каждый результат по первоисточнику. Добавьте вопрос, ответа на который в папке нет: корректный результат — отсутствие подтверждённого фрагмента, а не правдоподобная догадка. Потом включите авиарежим и повторите поиск, чтобы проверить заявленную локальность именно используемого вами сценария.
Если приложение предлагает сгенерировать итоговый ответ, сравните его с текстом найденного фрагмента. Отмечайте отдельно скорость поиска, точность ссылки на страницу, ошибки OCR и объём памяти. Метод выбора между локальным индексом и облачным чатом разобран в отдельном сравнении; общие правила проверки ссылок см. в гайде по источникам.
Кому полезен, а кому рано
Для личных заметок и небольшого корпуса идея выглядит практичной: человек получает фрагмент, который можно открыть и прочесть. Для документов компании сначала нужны проверка лицензии, политики хранения, управляемость устройств и испытание на реальном языке. Не устанавливайте новый проект на телефон с рабочими секретами только потому, что в названии есть «локальный». Начните с тестового устройства и копий документов.
Это полноценная модель для беседы? Нет, основной маршрут — поиск. Нужен ли интернет после установки? Возможности загрузки моделей и выбранной генерации могут отличаться; проверяйте конкретный режим. Подтверждена ли точность на русском? Нет независимых данных, поэтому без собственного теста обещать её нельзя.