RAG для IT-интегратора: семантический поиск, оценка LLM и интеграция с системами

Задача

IT-интеграторы тратили 65% времени инженеров на ручной поиск в тысячах PDF/DOCX-файлов, устаревшие данные в разрозненных источниках приводили к ошибкам, а скорость обработки запросов достигала 10 минут.

Решение

Создана модульная RAG-платформа с семантическим поиском, тестированием LLM и автоматизацией работы с документами. Система парсит документы, векторизует их через Sentence-BERT, выполняет поиск по векторному индексу PostgreSQL и генерирует ответы через GPT-4. Встроен модуль тестирования LLM с замерами точности и производительности, интеграция с CRM, Telegram-бот и дашборды аналитики.