Умный поиск по товарам без трат на GPU: как ускорить обновление каталога в 20 раз

Задача

Требовался ИИ-поиск на естественном языке по базе из 100 000 товаров с сохранением 100% точности числовой фильтрации и обновлением данных в пределах 5 минут. Классическая RAG-архитектура не подходила: индексация занимала до 60 минут, требовала GPU-серверов и давала галлюцинации.

Решение

Отказались от векторной RAG-архитектуры. Написали потоковый парсер XML, который без построения DOM-дерева отправляет данные в MongoDB. LLM используется только как транслятор: переводит запрос покупателя в структурированный JSON, по которому база данных выполняет детерминированную фильтрацию, а затем модель формирует ответ на основе 3–5 найденных позиций.