DIY: свой бесплатный чат-бот в Telegram

[monowar]

С запятыми в заголовке кажется перебор. За инструкцию спасибо!

[pol_pot]

В телеграме очень много подводных камней для ИИ чатботов. Подавляющее большинство таких ботов, даже те у кого миллионы юзеров, не обучены элементарному, как донести текст от юзера до ллм и обратно не испортив.

Самый простой пример - юзер кидает текст размером 5000 символов, телеграм режет его на 2 части и в бота прилетает почти одновременно 2 сообщения от юзера. Дальше большинство ботов отвечают на первую часть а вторую отбрасывают, либо отвечают на обе но раздельно.

[kotov666]

Собираем входящие сообщения от одного пользователя/чата в буфер с небольшим таймаутом (debounce). Если в течение таймаута приходят новые сообщения — объединяем. Когда пауза больше таймаута или достигнут лимит — шлём единый текст в LLM. При этом нужно отменять/перезапускать таймер при каждом новом куске.

[alliumnsk]

так это проблема телеграма, который пользователя даже не предупреждает, что он будет разбивать текст, а не бота

[kurdlyplot]

Это проблема ботоделов которые хотят сделать хорошо а не навайбкодить и в кусты. Везде есть нюансы которые надо учитывать.

Это еще мелочь по сравнению с маркдауном адом телеграма. Он там ставит палки в колеса сразу в обе стороны + на разрывах.

[kalapanga]

И с апи телеграм и с опенроутером предполагается работа по https, но в статье нет ни слова о том, как научить этому ESP. И в коде тоже.

Автор, у Вас действительно работает этот код?

[RealZel]

Код исправен. Сообщение, опубликованное в статье, как раз было сделано через него.

[neodavinchi]

Стоит добавить, что использование бесплатных llm на openrouter ограничено 50 запросами в сутки (либо 1000, если на счету лежит $10)

[LLeonov]

На каждый api ключ разве? Нафига я ротацию делал..

[SiberianMouse]

Объясните, зачем в этой цепочке есп?

[riky]

Автономный веб клиент. Для тех у кого нет нормального постоянно запущенного компьютера или сервера. С крошечным энергопотреблением. Используя tools его можно заставить ещё и какие нибудь команды в реальном мире выполнять.

[Dremkin]

Спасибо за вопрос, листал чтобы его увидеть )

[lonya_547]

а есп тут зачем

[LLeonov]

Колбэк url я так понимаю

[413x]

За провайдера спасибо, 50 запросов в сутки бесплатно вполне неплохо, пригодится

[PEMOK]

Для себя любимого, есть бесплатный чатгпт с удобным веб интерфейсом. Непонимаю зачем все всегда все усложняют?

[HELLSP4RK]

Затем, что по API можно навайбкодить не просто чат бота, а что-то более интересное. И в некоторых ситуациях бот в Telegram может быть удобнее, например

Это как сказать "Зачем мне покупать продукты и готовить, если для себя любимого можно заказать доставку готовой еды?". Цели разные

[nero211]

Только один вопрос: а зачем это на esp32? Он же не используется. Неужели нет свободной виртуалки или домашнего круглоскточнораьотающегокомпа, где это будет тупораьотать в фоне?

По поводу бесплатных токенов: можно спокойно дёргать апишку гемини лайт. Она как раз бесплатна и ограничения сводятся к периодичности запросов