Комментарии 3
Не плохая статья. Мне как разработчику хотелось бы побольше технических деталей, однако для ознакомления с темой вполне.
Я создавал похожие проекты, правда для не коммерческого использования и могу подсказать полезную идею - хранение контекста для каждой модели (для одного пользователя, можно поставить ограничение в количестве контекстов) и отображение количества токенов в самом сообщении ответа.
Да, данных в базе станет в разы больше, но подход станет более гибким для пользователя и удобным в использовании. Особенно когда пользователь хочет использовать несколько контекстов с разными моделями.
к боту можно обратиться в любое время дня и ночи и получить мгновенные ответы неопределённой степени правильности
There, FTFY.
Молодец. Я вообще не разработчик. Но даже мне интересно, и может дажп и понятно.
Спастбо.
Как я своего чат-бота создать попробовал. Мой опыт