Комментарии 13
То есть если грамотно формулировать вопросы и писать ему по 20-50 сообщений в день, то будет стоить около 10-15$/мес - обычная цена месячной подписки многих сервисов. Но я пока использовал его только чтобы поиграться. Реально полезного применения для себя так и не нашел:)
Для себя я начал применять его в обучающих целях.
Например даю ему установку, чтобы он задавал вопросы по программированию уровня Middle и Senior, и если не знаю ответа, то прошу его подробнее рассказать.
Ещё общаюсь с ним на Английском языке для практики.
Это можно делать и в обычном чате, понимаю, но каждый раз настраивать, это не так уж и удобно, мне проще один раз настроить всё основательно, сделать простой сайтик и пользоваться.
gpt4 доступен только по подписке 20$/m
Заглянул сюда чтобы узнать, есть ли какой то лимит токенов, доступный без оплаты по этой подписке, и как я понимаю этого нет (есть бесплатные ознакомительные $ на токены gpt3 и ниже на бесплатном аккаунте но они сгорают через месяц после регистрации).
Но мы же но будем каждый раз переходить на сайт, вставлять наш запрос и подсчитывать, сколько же он стоит!
Поэтому будем писать код, который делает тоже самое, вызывается 1 раз и больше никогда не используется.
Вся статья гуглится одним запросом "openai token size", где первая же ссылка ведёт на хелпу не только с информацией о длине, но и других языках и особенностях.
Более того, там есть ссылка на библиотеку tiktoken, которая позволяет рассчитать близкое к реальному количество токенов не отправляя никакие запросы.
Я знал о библиотеке tiktoken, но решил не включать о ней информацию, так как не хотел перегружать статью.
Да, tiktoken подойдёт, чтобы примерно рассчитать, сколько стоит размер потенциального запроса, но это будет только приблизительный подсчёт!
Во-первых, данный расчёт не точен. Да, погрешность небольшая, но если мы пишем сервис и считаем затраты, то через месяц мы можем быть неприятно удивлены, что затраты превысили посчитанные.
Во-вторых, данный метод не даёт нам возможности посчитать, сколько будет стоить запрос целиком, так как мы платим не только за количество токенов на входные данные, но и за количество токенов, затраченных на генерацию ответа, причем по цене выше, чем запрос. Да, обычно на ответ тратится намного меньше токенов, но это будет зависеть от запроса. И быть на 100% уверенным, сколько будет затрачено токенов на запрос, невозможно. Мы можем узнать, сколько было потрачено токенов на формирование ответа по факту, получив число в ответе.
Я ожидал от статьи расчет себестоимости токенизации, относительно цены видеокарт, которые использует GPT на серверах openai, расчеты по научным изысканием и прочее и прочее, что в конечном счет покажет сколько стоит в реальности токен
Я правильно понимаю, что бы пользоваться API к gpt4 надо иметь подписку за 20$ и если не продлить подписку то все ключи от gpt4 превратятся в тыкву?
Могу сказать только на своём опыте.
У меня подписки Pluse нету уже 2 месяца, но подключится к апи gpt-4 могу.
Единственное, я не смог подключится к gpt-4-64k, но возможно для неё надо отдельный доступ запрашивать.
Сколько стоит Chat GPT?