Телеграмм боты для кодинга с гпт это максимально неудачный вариант.
Во первых стоимость через api намного больше чем через подписку и сайт. Даже с новым gpt 4o mini получается не очень дёшево. Россиянам надо всего лишь найти впн и способ платить за заграничные сервисы что бы получить нормального качества услугу.
Во вторых в телеграмме сразу 2 неудобных ограничения на размер сообщений и свой маркдаун не полностью совместимый с гпт. Скорее всего ни один из ботов из статьи не сможет принять и обработать как цельный запрос текст размером больше 4т символов, это не сложно реализовать но им вообще пофиг на юзабилити, они все созданы для перепродажи токенов а не для работы.
ИИ мне написал софтину с гуем для шиндоуса которая висит в трее и позволяет переключаться между автохоткей скриптами. Каждый день пользуюсь. Пользуюсь и плачу, глобальный хоткей ни ИИ ни я добавить не смогли, приходится мышкой тыкать
Странно что среднестатистическая ллм до сих пор не умеет пользоваться инструментами, даже простым калькулятором. Их можно прикрутить сбоку через апи и механизам запуска функций но это сложно и не стабильно.
Вместо библиотеки openai можно использовать litellm, код почти такой же но легким движением руки можно будет заменить chatgpt на клода, джемини итп, и можно даже сделать фолбек, если один не ответил передать запрос другому.
from litellm import completion
import os
## set ENV variables
os.environ["OPENAI_API_KEY"] = "your-openai-key"
os.environ["COHERE_API_KEY"] = "your-cohere-key"
messages = [{ "content": "Hello, how are you?","role": "user"}]
# openai call
response = completion(model="gpt-3.5-turbo", messages=messages)
# cohere call
response = completion(model="command-nightly", messages=messages)
print(response)
В русском встречаются ошибки свойственные крошечным моделям типа мелкой ламы и gemma, мусор в виде "иероглифов".
Сестру Шелдона Купера зовут Миссис "Мисси" Купер. В сериале "Теория большого взрыва" ее персонаж появляется в нескольких эпизодах, и ее играет актриса Зендая. Мисси изображена как более приземленная и общительная الشخصية по сравнению с Шелдоном, что создает интересный контраст между ними. Если у вас есть дополнительные вопросы, дайте знать!
Император Калигула, который правлел в 37-41 гг. н.э., был известен своими эксцентричными поступками. Одним из самых известных его поступков было стремление сделать свою любимую лошадь, Инцитатуса, консулом.
В древнем Риме существовал обычай, связанный с культом богини Весты. Девушки, посвященные богине, становились весталами и обязаны были сохранять девственность в течение 30 лет.
Они считают каждый токен, почти что каждую букву. Не может быть что бы они выполняли гигантские запросы по файлам и не считали этого.
Если считать интерпретатор кода обычной функцией то запрос должен работать в несколько шагов. Первый запрос должен включать в себя все участвующие файлы как обычный текст(то есть очень много токенов) + запрос юзера, и первый ответ будет - я бы использовал тут функцию такую то.
Дальше должен отработать интерпретатор, тут можно не брать денег за работу потому что она копеечная по своей сути.
Дальше должен последовать дешевый запрос в котором есть только результаты работы интерпретатора и запрос от юзера, и ответ модели.
Почему контрабандный. Почему ничего не несет. Они закупаются оптом у разных поставщиков и продают всё в одном месте одним способом. Простой понятный бизнес.
Кроме клода с гпт существуют и другие поставщики со своими фишками.
Использую гугл транслейт с фолбеком на ллм для автоперевода сообщений от телеграм бота на все языки. Пробовал вместо него юзать deepl - получилось сильно заметно хуже.
Смысл - ты имеешь дело с 1 окошком а не с несколькими, это если тебе надо больше одного то удобно. Вна россии еще есть дополнительный смысл - платить можно без крипты и итп костылей. Больше никакого смысла нет.
Без денег уныло, клод тебя попросит за порог после пары десятков бесплатных запросов. Гпт даст побольше но тоже быстро попросит пройти вон.
Обычный он код даёт не надо себя накручивать. Последнее что с ним делал - банальный парсер. Надо было вывод команды edge-tts --list-voices загнать в словарь, так что б пары получились нормальные. Это был цирк с конями. Конь сильно упирался и попал в петлю. Выглядело это так будто он не в состоянии запомнить или понять больше 2 условий. Пришлось вести его за ручку. В итоге бесплатные запросы закончились а подписки у меня нет, пришлось доделывать в гугл джемини.
А как считаются токены в таких запросах. Все токены из файла + запрос и ответ + вызовы функций под капотом, наверное очень дорого такое делать через апи.
Думаете это может быть правдой? У меня что гпт что клод, примерно одинаково выдают нерабочий код даже в простейших случаях, ну или рабочий но делающий не совсем то что надо, и дотянуть его до релиза не вмешиваясь и не понимая как он работает просто копируя туда обратно вывод с ошибками это прям челендж. Я уж молчу про то что запускать код для проверки, собирать его это тоже уметь надо.
Телеграмм боты для кодинга с гпт это максимально неудачный вариант.
Во первых стоимость через api намного больше чем через подписку и сайт. Даже с новым gpt 4o mini получается не очень дёшево. Россиянам надо всего лишь найти впн и способ платить за заграничные сервисы что бы получить нормального качества услугу.
Во вторых в телеграмме сразу 2 неудобных ограничения на размер сообщений и свой маркдаун не полностью совместимый с гпт. Скорее всего ни один из ботов из статьи не сможет принять и обработать как цельный запрос текст размером больше 4т символов, это не сложно реализовать но им вообще пофиг на юзабилити, они все созданы для перепродажи токенов а не для работы.
Никакой подписки, токенов и рукалецо GPT 3.5
https://t.me/ChatGPT_Habr_community
@NashGPTbot
Хотите сказать что Gemma 9b будет нормально работать не на 10гб памяти а меньше чем на 2? Звучит абсолютно нереалистично.
Несколько видеокарт в один сервер под одну задачу можно. И у этих видеокарт по 80гб видеопамяти.
ИИ мне написал софтину с гуем для шиндоуса которая висит в трее и позволяет переключаться между автохоткей скриптами. Каждый день пользуюсь. Пользуюсь и плачу, глобальный хоткей ни ИИ ни я добавить не смогли, приходится мышкой тыкать
Странно что среднестатистическая ллм до сих пор не умеет пользоваться инструментами, даже простым калькулятором. Их можно прикрутить сбоку через апи и механизам запуска функций но это сложно и не стабильно.
Хайку против гпт мини
Битва титанов
И ведь каждый раз говорят что новая модель считает пальцы в 5 раз лучше старой.
Интересно. Что бы файл проанализировать надо на него взглянуть, потом программу написать... И только потом можно будет получить результаты.
Каждый раз одно и тоже [враньё]. Опережает оно всех ага
Вместо библиотеки openai можно использовать litellm, код почти такой же но легким движением руки можно будет заменить chatgpt на клода, джемини итп, и можно даже сделать фолбек, если один не ответил передать запрос другому.
В русском встречаются ошибки свойственные крошечным моделям типа мелкой ламы и gemma, мусор в виде "иероглифов".
Сестру Шелдона Купера зовут Миссис "Мисси" Купер. В сериале "Теория большого взрыва" ее персонаж появляется в нескольких эпизодах, и ее играет актриса Зендая. Мисси изображена как более приземленная и общительная الشخصية по сравнению с Шелдоном, что создает интересный контраст между ними. Если у вас есть дополнительные вопросы, дайте знать!
Император Калигула, который правлел в 37-41 гг. н.э., был известен своими эксцентричными поступками. Одним из самых известных его поступков было стремление сделать свою любимую лошадь, Инцитатуса, консулом.
В древнем Риме существовал обычай, связанный с культом богини Весты. Девушки, посвященные богине, становились весталами и обязаны были сохранять девственность в течение 30 лет.
У открытых моделей может быть больше одного поставщика и тут агрегатор уже в роли биржи выступает балансируя спрос и предложение.
Они считают каждый токен, почти что каждую букву. Не может быть что бы они выполняли гигантские запросы по файлам и не считали этого.
Если считать интерпретатор кода обычной функцией то запрос должен работать в несколько шагов. Первый запрос должен включать в себя все участвующие файлы как обычный текст(то есть очень много токенов) + запрос юзера, и первый ответ будет - я бы использовал тут функцию такую то.
Дальше должен отработать интерпретатор, тут можно не брать денег за работу потому что она копеечная по своей сути.
Дальше должен последовать дешевый запрос в котором есть только результаты работы интерпретатора и запрос от юзера, и ответ модели.
Почему контрабандный. Почему ничего не несет. Они закупаются оптом у разных поставщиков и продают всё в одном месте одним способом. Простой понятный бизнес.
Кроме клода с гпт существуют и другие поставщики со своими фишками.
Использую гугл транслейт с фолбеком на ллм для автоперевода сообщений от телеграм бота на все языки. Пробовал вместо него юзать deepl - получилось сильно заметно хуже.
Смысл - ты имеешь дело с 1 окошком а не с несколькими, это если тебе надо больше одного то удобно. Вна россии еще есть дополнительный смысл - платить можно без крипты и итп костылей. Больше никакого смысла нет.
Без денег уныло, клод тебя попросит за порог после пары десятков бесплатных запросов. Гпт даст побольше но тоже быстро попросит пройти вон.
Обычный он код даёт не надо себя накручивать. Последнее что с ним делал - банальный парсер. Надо было вывод команды
edge-tts --list-voicesзагнать в словарь, так что б пары получились нормальные. Это был цирк с конями. Конь сильно упирался и попал в петлю. Выглядело это так будто он не в состоянии запомнить или понять больше 2 условий. Пришлось вести его за ручку. В итоге бесплатные запросы закончились а подписки у меня нет, пришлось доделывать в гугл джемини.А как считаются токены в таких запросах. Все токены из файла + запрос и ответ + вызовы функций под капотом, наверное очень дорого такое делать через апи.
Думаете это может быть правдой? У меня что гпт что клод, примерно одинаково выдают нерабочий код даже в простейших случаях, ну или рабочий но делающий не совсем то что надо, и дотянуть его до релиза не вмешиваясь и не понимая как он работает просто копируя туда обратно вывод с ошибками это прям челендж. Я уж молчу про то что запускать код для проверки, собирать его это тоже уметь надо.
Разобрался. Думал что вы будете свою функцию писать а оказалось что есть встроенная.