RAG-платформа для Синто: семантический поиск и тестирование LLM

Задача

Инженеры тратили 65% времени на ручной поиск в тысячах файлов, устаревшие данные приводили к ошибкам, а обработка запросов занимала до 10 минут. Требовалось ускорить доступ к технической документации и внедрить инструмент для тестирования LLM-моделей в реальной инфраструктуре.

Решение

Создали модульную платформу с семантическим поиском на базе Sentence-BERT и pgvector, генерацией ответов через GPT-4 и кастомной моделью оценки релевантности. Интегрировали её с внутренней CRM на Django, Telegram-ботом и BI-системами, добавили автоматическую проверку актуальности документов и дашборды для анализа проблемных разделов и рейтинга LLM.