Главное о кейсе
ГК ФСК интегрировала смарт-систему для внешних и внутренних пользователей, чтобы ускорить рабочие процессы и быстрее взаимодействовать с поставщиками.
AI-платформа от red_mad_robot представляет собой смарт-базу знаний, которая позволяет быстро и эффективно искать информацию по внутренним документам компании. Решение включает набор инструментов, среди которых AI-ассистент для сотрудников ФСК и еще один — для внешних поставщиков.
Основные результаты проекта:
1. ГК ФСК внедрила ИИ для управления коммуникацией
с контрагентами и знаниями внутри компании.
2. Создана смарт-платформа с двумя ИИ-агентами
для автоматизации FAQ и работы с документами.
3. Снижение нагрузки на поддержку и коммерческий департамент на 30–40% благодаря искусственному интеллекту.
4. Достигнута точность ответов до 90-98% с помощью RAG-технологии.
5. Система развёрнута локально для полной безопасности данных.
Как проект изменил жизнь пользователей
ГК ФСК одна из первых в отрасли внедрила в свои процессы искусственный интеллект. Компания фактически меняет внутренний порядок работы и «делегирует» ИИ коммуникацию с контрагентами. Также ФСК полностью меняет процесс управления знаниями в компании: ИИ-агент red_mad_robot агрегирует информацию из разных источников обо всех ЖК застройщика в единую базу знаний.
Предполагается, что цифровой ассистент позволит ФСК сделать процесс заключения сделок купли-продажи более прозрачным и быстрым, а также увеличит эффективность сотрудников и персональных менеджеров.
Специалисты поддержки и закупок компании ФСК уже ощутили на себе снижение нагрузки. Точность ответов системы по вопросам тендерной документации достигает 96%.
Бизнес-задача и ее решение
ГК ФСК интегрировала смарт-систему для внешних и внутренних пользователей, чтобы ускорить рабочие процессы и быстрее взаимодействовать с поставщиками.
Чат для сотрудников
У компании большое количество объектов недвижимости, это сотни страниц презентаций и технических документов. Поиск ответов на вопросы покупателей мог занимать более суток.
Решение: мы интегрировали агента умной базы знаний в корпоративное мобильное приложение «Кнопка» для помощи отделам ФСК по быстрому поиску информации о действующих
и строящихся ЖК.
Чат для подрядчиков
Тендерные и закупочные процедуры — сложный и длительный процесс, требующий внимательного отношения к регламентам. У девелоперов особенно высокая потребность в подрядчиках — они закупают от многотонных металлоконструкций до услуг по уборке мусора.
Решение: мы интегрировали агента умной базы знаний на сайт компании для помощи подрядчикам по аккредитации
и тендерным процедурам.
Мы разработали продвинутый пайплайн для чат-бота RPA на базе GenRPA, который сильно поднимает планку в области RAG-Агентов.
Задача стояла не просто сделать агента знаний на основе RAG, но и настроить умный роутинг к узким доменам знаний. Мы реализовали это на базе structured output: применили подход мультиагентной системы, где супервизор на входе определяет область знаний, к которой обращается пользователь.
Крафт (мастерство), реализация, технические детали
Инновационность проекта заключается в использовании гибридного поискового подхода, системы автотестирования RAGAS и роутинг-агента.
Ключевой технологией смарт-платформы является RAG-подход на базе большой языковой модели Llama 3. Сама модель при этом обучена и работает на собственной базе данных red_mad_robot. RAG (Retrieval Augmented Generation, генерация с дополненной выборкой) позволяет без дообучения модели использовать внутренние документы компании при генерации ответа для пользователя. В решении также применяется гибридный подход к поиску информации, который включает многоступенчатый процесс фильтрации, очистки и приоритезации, что повышает точность ответов до 95–100%.
Важной частью платформы является система защиты от галлюцинаций и ответов на вопросы (модуль Guardrails), а также механизм обратной связи для оценки качества работы на сгенерированных ответах (модуль RAGAS), что позволяет системе самообучаться и улучшаться в процессе использования.
Сам же агент знаний с RAG работает по следующему принципу:
1. Сначала мы добавили structured output к локальным моделям — это когда модель выдаёт чёткий JSON и чтение логитов и замена маски токенов не галлюцинируют.
2. На входе и выходе поставили наш собственный агентский GuardRails на базе (Сhain of thought prompting). Его мы дополнительно дообучили на синтетическом датасете через LoRA.
3. Для аннотирования чанков применили хитрый подход, который существенно повышает контекстуальность нашего RAG. Агент на базе моделей 70b создал дополнительные структуры описания.
4. В поиске используем гибридную схему: re-ranking model + vector search с косинусным сходством. Это даёт нам максимально релевантные куски документов.
5. LLM генерирует финальные ответы, но перед этим Reranker ещё раз прогоняет лучшие результаты из векторного поиска.
6. Для автотестирования качества мы добавили агентский RAGAS также на базе structured output: теперь у нас есть возможность постоянно мониторить ответы системы.
7. Поставили защиту от нежелательного контента на разных этапах: и на вход GuardRails, и на выход.
Получилась действительно мощная и безопасная система благодаря множеству этапов проверок и балансов.
Инсайты, гипотезы, процесс создания и взаимодействия с заказчиком
В планах ФСК масштабировать ИИ-платформу вместе с red_mad_robot и внедрить её в бэк-офис, фронт-офис, строительство и другие подразделения. Предполагается, что цифровой ассистент позволит ФСК сделать процесс заключения сделок купли-продажи более прозрачным и быстрым, а также увеличит эффективность сотрудников и персональных менеджеров.
Скриншоты