Диджитал Гуру — бот-помощник для бизнеса, обученный на материалах агентских конференций

Главное о кейсе

В IT-отрасли регулярно проходят конференции, митапы, онлайн-мероприятия, на которых специалисты обмениваются опытом и делятся полезными наработками. К сожалению, не все доклады становятся статьями на vc или Хабре и ценные знания не доходят до тех, кто в них нуждается.

Специалисты Doubletapp задумались над тем, как создать полезный продукт для индустрии: аккумулировать контент с агентских конференций, сделать его доступным для всех специалистов, а также запустить умный «поисковик» по видеозаписям докладов. Для этого мы создали диалоговый ассистент Диджитал Гуру, обучили его на нескольких сотнях докладов и упаковали в сервис для диалогового общения — в виде бота и веб-версии.

Как проект изменил жизнь пользователей

Диджитал Гуру Бот доступен по ссылке: https://t.me/dt_digital_guru_bot

В чате задайте Гуру любой вопрос про ведение бизнеса, командообразование, планирование, повышение личной эффективности, финансы и т. д. И получите ответ в текстовом виде, а также ссылку на полную видеоверсию доклада, из которого извлечена информация.

Диджитал Гуру помогает IT-сообществу круглосуточно и бесплатно, мы продолжаем его совершенствовать и примем к сведению дельные замечания о том, какими знаниями нужно обогатить нашего ИИ-помощника.

Бизнес-задача и ее решение

Мы презентовали бот на крупном отраслевом ивенте Agency Growth Days в Екатеринбурге, где традиционно выступаем партнерами — отвечаем за дизайн-составляющую, а также помогаем гостям конференции с помощью ML-технологий — готовим в реальном времени краткие сводки только что прочитанных докладов с помощью Doubletapp Meeting Notes: https://t.me/doubletapp_meeting_notes_bot и тут же публикуем их в соцсетях мероприятия. Так мы помогаем участникам быстро сориентироваться в темах и основных тезисах докладов и обеспечиваем более глубокий нетворкинг.

Диджитал Гуру стал логичным продолжением этого направления: мы помогли пользователям быстро находить информацию с предыдущих конференций, а также узнавать, как спикеры решали интересующие их проблемы и на каких конференциях обсуждались эти темы.

В итоге в Диджитал Гуру зарегистрировались 17,6% участников и они задали 121 вопрос.

Продвигая на конференции свои ML-сервисы, мы стремимся повысить в отрасли интерес и осведомленность в сфере больших языковых моделей, а также продемонстрировать свою экспертность в этом направлении и ассоциироваться в индустрии с этим комплексом работ.

Крафт (мастерство), реализация, технические детали

Решение представляет собой RAG, Retrieval augmented generation — технологию, которая позволяет находить релевантную информацию в хранилище данных и генерировать текст с помощью языковой модели.

Как Диджитал Гуру быстро находит ответы в своей базе знаний?
1. Мы собрали несколько сотен видеозаписей докладов за последние 2 года.
2. Доклады транскрибировали и нарезали на небольшие куски (чанки)
3. Чанки прогнали через модель, которая выделяет из них смысловые признаки и кладет в вектор. Такая модель называется эмбеддер, а вектор признаков — эмбеддинг.
4. Упаковали сервис в web-интерфейс и телеграм-бот.
5. Теперь пользователь может написать боту в чате свой вопрос.
6. Вопрос превращается в смысловой вектор (эмбеддинг).
7. Находятся куски информации, которые близки к вектору вопроса.
8. Подбираются целиком те доклады, в которых больше всего близких кусков (до 5 докладов).
9. Отправляем в LLM промпт, который в сильно упрощенном виде выглядит так: «Вот вопрос, вот контекст, где нужно найти ответ. Найди и напиши ответ».
10. Получаем ответ и отправляем его пользователю.

Используемые технологии: Python, LangChain, Chroma DB, ChatGPT LLM.

Инсайты, гипотезы, процесс создания и взаимодействия с заказчиком

Диджитал Гуру — диалоговый ассистент. Он способен в базе знаний находить релевантную информацию и на ее основе ее генерировать ответ на вопрос пользователя. В сервисе в качестве базы знаний выступают доклады с диджитал-мероприятий, но это лишь один из возможных способов применения технологии.

Для клиентов мы готовы разработать автоматизированные бизнес-решения на основе их корпоративных баз знаний, обучающих курсов, справочных материалов и т.д., чтобы ускорить работу, сэкономить время сотрудников (например, снизить нагрузку на первую линию техподдержки) и дать время на решение сложных задач и глубокую работу с людьми.

Скриншоты

Видео