проэтому у меня отправка через try - except, если не прошло отправляю без parse_mode, но это не так часто случается, примерно один раз из 20-30 сообщений
Groq тут не при чём, это модель решает на каком отвечать. Пишите в системный промпт Always answer in Russian. Это всё, что можно сделать. Всё равно будет перескакивать на английский, но меньше.
Подробно в следующей статье напишу, а если коротко, то используйте function calling и опрашивайте DuckDuckGo, результат поиска подставляете в системный пропт и снова опрашивате модель, примеров как это сделать очень много. Для голосовых сообщений надо где то запускать Whisper или платить внешним провайдерам. В Телеграме забираете голосовое сообщение ввиде аудиофайла, через Whisper делаете текст и дальше все как обычно.
Заголовок над скриншотом видели?
Пример диалога с ботом (его код далее...)
Это скрин бота код которого приведен.
это виспер без ограничений
распознавание чего?
ChromaDB отлично работает, хранит всё в SqLite3, никаких проблем.
с документами уже RAG начинается с базой данных и прочей пургой, кода будет слишком много
в 99% YouTube видео больших текстов не быват, даже 3х часовое видео влазит в обыный промпт.
проэтому у меня отправка через
try - except, если не прошло отправляю без parse_mode, но это не так часто случается, примерно один раз из 20-30 сообщенийпри отправке сообщения надо указывать телеграм боту
parse_mode="Markdown"модель форматирует текст используя Markdown (не HTML), иногда она ошибается и форматирование слетает
Хороший код выложен, спасибо.
Не вникал в DDG AI Chat?
https://github.com/deedy5/duckduckgo_search?tab=readme-ov-file#1-chat---ai-chat
не знал про trafilatura,
спасибо, крутая штука
я спросил разрешения у Llama 3, он разрешила, могу скрин показать
не, не работает
для европейского ip пишет: User location is not supported for the API use without a billing account linked.
* Free tier is not available in EEA (including EU), UK and CH
да, интересное предложение, надо попробовать...
потому, что это Llama
можно и не городить
Всё надо настраивать, само не работает.
С прокси, думаю, получится.
Groq тут не при чём, это модель решает на каком отвечать. Пишите в системный промпт Always answer in Russian.
Это всё, что можно сделать. Всё равно будет перескакивать на английский, но меньше.
Забанят.
Подробно в следующей статье напишу, а если коротко, то используйте function calling и опрашивайте DuckDuckGo, результат поиска подставляете в системный пропт и снова опрашивате модель, примеров как это сделать очень много.
Для голосовых сообщений надо где то запускать Whisper или платить внешним провайдерам. В Телеграме забираете голосовое сообщение ввиде аудиофайла, через Whisper делаете текст и дальше все как обычно.