Корпоративная AI-инфраструктура в контуре 152-ФЗ для Orange DM

Задача

Требовалось создать защищённую и легальную среду для использования ИИ-инструментов (чат-ботов, квалификаторов лидов, RAG-систем) без передачи данных за рубеж, с возможностью официальной оплаты и стабильной работой без VPN.

Решение

На базе Yandex Cloud развернули гибридную архитектуру: self-hosted n8n в Docker-контейнерах для автоматизации, подключение LLM по API внутри контура и векторные базы данных для RAG. Настроили распределение ресурсов и гибридную схему моделей: лёгкие задачи — на быстрые модели, сложные — на тяжёлые с контекстом до 27 млн токенов.