Я знал о библиотеке tiktoken, но решил не включать о ней информацию, так как не хотел перегружать статью.
Да, tiktoken подойдёт, чтобы примерно рассчитать, сколько стоит размер потенциального запроса, но это будет только приблизительный подсчёт!
Во-первых, данный расчёт не точен. Да, погрешность небольшая, но если мы пишем сервис и считаем затраты, то через месяц мы можем быть неприятно удивлены, что затраты превысили посчитанные.
Во-вторых, данный метод не даёт нам возможности посчитать, сколько будет стоить запрос целиком, так как мы платим не только за количество токенов на входные данные, но и за количество токенов, затраченных на генерацию ответа, причем по цене выше, чем запрос. Да, обычно на ответ тратится намного меньше токенов, но это будет зависеть от запроса. И быть на 100% уверенным, сколько будет затрачено токенов на запрос, невозможно. Мы можем узнать, сколько было потрачено токенов на формирование ответа по факту, получив число в ответе.
Например даю ему установку, чтобы он задавал вопросы по программированию уровня Middle и Senior, и если не знаю ответа, то прошу его подробнее рассказать.
Ещё общаюсь с ним на Английском языке для практики.
Это можно делать и в обычном чате, понимаю, но каждый раз настраивать, это не так уж и удобно, мне проще один раз настроить всё основательно, сделать простой сайтик и пользоваться.
Нет, я обычной пользователь
Купил изначально Plus, месяц им пользовался, потом перестал платить, сейчас его не имею
Доступ к gpt-4 есть, появился до плюса или после, не знаю
Могу сказать только на своём опыте.
У меня подписки Pluse нету уже 2 месяца, но подключится к апи gpt-4 могу.
Единственное, я не смог подключится к gpt-4-64k, но возможно для неё надо отдельный доступ запрашивать.
Я парсеров не много делал, с такой проблемой не сталкивался
Даже интересно будет с Chat GPT обсудить и сделать обход защиты от ботов:)
Статья интересная!
Но эта о другом, тут мы руками код сайта впихиваем
И это не обучение)
Нет, эта статья не о том)
Хотя тема интересная!
Я знал о библиотеке tiktoken, но решил не включать о ней информацию, так как не хотел перегружать статью.
Да, tiktoken подойдёт, чтобы примерно рассчитать, сколько стоит размер потенциального запроса, но это будет только приблизительный подсчёт!
Во-первых, данный расчёт не точен. Да, погрешность небольшая, но если мы пишем сервис и считаем затраты, то через месяц мы можем быть неприятно удивлены, что затраты превысили посчитанные.
Во-вторых, данный метод не даёт нам возможности посчитать, сколько будет стоить запрос целиком, так как мы платим не только за количество токенов на входные данные, но и за количество токенов, затраченных на генерацию ответа, причем по цене выше, чем запрос. Да, обычно на ответ тратится намного меньше токенов, но это будет зависеть от запроса. И быть на 100% уверенным, сколько будет затрачено токенов на запрос, невозможно. Мы можем узнать, сколько было потрачено токенов на формирование ответа по факту, получив число в ответе.
Для себя я начал применять его в обучающих целях.
Например даю ему установку, чтобы он задавал вопросы по программированию уровня Middle и Senior, и если не знаю ответа, то прошу его подробнее рассказать.
Ещё общаюсь с ним на Английском языке для практики.
Это можно делать и в обычном чате, понимаю, но каждый раз настраивать, это не так уж и удобно, мне проще один раз настроить всё основательно, сделать простой сайтик и пользоваться.