В данном демо-чате с нейро-консультантом в качестве его базы знаний используется текст первых двух глав книги. В качестве базы знаний может быть использован любой текст, извлеченный из документов различных форматов. Окошко диалога с нейро-консультантом открывается при клике по кнопке «Консультант» в правой нижней части экрана.
Для очистки диалога используйте команду /reset
Серверная часть чат-бота реализована на языке Python и фреймворке FastAPI. RAG-система собрана на базе фреймворка LangChain и использует для формулировки конечных ответов обращения к GigaChat API. Векторное хранилище базы знаний собрано на FAISS. Посредником между клиентской и серверной частью сервиса выступает сервер Nginx, работающий в качестве обратного прокси. К нему подключено доменное имя и установлен самообновляемый бесплатный SSL-сертификат от Let's Encrypt. Сервис запускается в контейнере Docker, однако мог бы работать и без него.
См. также: