Это наши цифровые помощники, нейро-косультанты с искусственным интеллектом (ИИ), цифровые агенты, обученные на ваших текстовых данных о компании, ее продукции и услугах или о вас.
Они помогают в решении ежедневных задач как сотрудникам, так и клиентам, оптимизируя ваше время и время ваших сотрудников. Они могут общаться с клиентами, консультировать, отвечать на вопросы, обучать и создавать контент 24/7.
Почти годовое обучение на курсе «ChatGPT Professional» в Университете искусственного интеллекта в 2023 и 2024 годах, а также предыдущий многолетний опыт в программировании помогли нам погрузиться в новый для нас стек технологий и начать собственные разработки в сфере использования ИИ для решения задач бизнеса и не только в наиболее близкой нам сфере работы с информацией.
Мы разрабатываем ИИ-помощников на основе т.н. RAG-технологии, позволяющей использовать существующие модели ИИ вместе с собственными базами знаний, собранными из различных источников. Подробнее о RAG можно прочесть здесь. В качестве ИИ-модели мы используем GigaChat API от Сбера.
Это позволяет оплачивать используемые ресурсы рублями, избавляет от необходимости применения шлюзов, а также больших вычислительных мощностей (ИИ-модель GigaChat работает на серверах Сбера). При этом нет никаких препятствий подключить, например, и одну из моделей ChatGPT, используя российский шлюз с оплатой в рублях и проксированием через их серверы.
Такой помощник может быть реализован как всплывающее окно для чата на сайте, Телеграм-бот или как API-сервис, подключаемый к различным no-code конструкторам чат-ботов (например, BotHelp, SaluteBot + Jivo), дающих свободу в создании разнообразных маркетинговых сценариев людям, не владеющим программированием, а также возможность подключения к другим мессенджерам и группам в соцсетях.
Технологии
Основная программная часть ИИ-помощника написана на языке Python с использованием фреймворков с открытым исходным кодом LangChain и LangGraph, и разворачивается на собственном VPS с минимально доступными ресурсами и недорогим тарифом, которых вполне хватает для нормальной работы. В качестве интерфейсной части могут быть использованы собственные скрипты для HTML-страницы на JavaScript в различной реализации, богатое по своим возможностям готовое решение SaluteBot, позволяющее подключить различные мессенджеры, и, наконец, мессенджер Телеграм.
Варианты реализации
На текущий момент реализованы следующие варианты ИИ-консультантов на базе GigaChat API:
- Чат для сайта (см. небольшое демо на ванильном JavaScript + Alpine.js)
- Чат для сайта на базе SaluteBot
- Телеграм-бот, понимающий текстовые и голосовые сообщения (с использованием SaluteSpeech)
- API-сервис, подключаемый к low-code конструкторам чат-ботов
Презентация о возможностях нейро-консультантов
В презентации дается общее представление о том, зачем нужны ИИ-консультанты или нейро-консультанты и нейро-сотрудники. В презентации упоминается GigaChat от Сбера, однако при желании вполне может быть использован и ChatGPT.
См. также: