Комментарии 6
>Единственное, я бы указал, что иногда цена может отходить от реальных значений, так как чат в теории может ошибиться.
К сожалению чат не в теории может ошибаться, а ошибается ОЧЕНЬ часто!
Даже в вашем примере если бегло посмотреть он умудрился получить 143 600 умножив 14 600 000 на 0.01
Это катастрофа если честно для серьезных приложений.
Конечно, многие бизнесы присматриваются к технологии, и думают где его применять, и скорее улучшение в математическом плане не за горами, но сейчас использовать ИИ в своем проекте надо с учетом того что выдать он пользователю может полностью не верную информацию, и хорошо если эта информация не повлечет иски для компании.
А так в развлекательных целях - сочинить историю, это конечно)
Очень опрометчиво утверждать, что платный внешний сервис нужен прямо всем здесь и сейчас. При этом сервис этот скажем прямо, очень недешёвый. К примеру, если какой-нибудь платный картографический API в бесплатном приложении может окупаться за счёт рекламы, то окупаемость OpenAI для бесплатного приложения выглядит крайне сомнительно.
Все проекты, просто будут каждую деталь заменять ИИ
ИИ - это очень ресурсоёмкая технология, от того и дорогая. Поэтому с точки зрения бизнеса лучше заплатить один раз 1000$ программисту, чтобы он написал хороший алгоритм, не требовательный к ресурсам, чем потом всю жизнь платить 100$ каждый месяц за работу ИИ. Понятное дело, что есть задачи, где без ИИ не обойтись: например распознавание изображений. Но что касается, к примеру, онлайн-консультантов, то лучше сразу дать пользователю выбор из нескольких кнопок: "просмотреть баланс", "открыть кошелёк" и т.д., чем заставлять юзера печатать какой-то текст. То есть, в конкретном примере, если отказаться от ChatGPT, то во-первых, значительно улучшится UX, во-вторых, сэкономишь деньги.
Аналогично и в примере с калькулятором: отказавшись от ИИ во-первых увеличиваем точность расчётов, во-вторых, увеличиваем скорость расчётов, и в третьих, экономим деньги.
Вывод: чем больше приложений сейчас на волне хайпа внедрит ChatGPT, тем больше работы у программистов будет в будущем, чтобы переписать это всё по-нормальному.
Тестировал на своей проекте в примитивном варианте: в контекст (12000 символов) засовывается инфа о сервисе, юзер может задавать вопросы. Без поиска, RAG и пр.
Цена вызова за вопрос - 1.7 рублей, зато юзер может реально самые разные вопросы задавать. Имхо это дешевле; а на все вопросы "а когда вы доставляете", "а что включено в тариф X" кнопочек не наделаешь.
Мне, как пользователю, удобнее и быстрее кликнуть на кнопку "Информация о доставке", чем вводить в окошко чата вопрос из нескольких слов. Это я уже не говорю о том, что ChatGPT не покажет карту с зонами доставки.
Цена вызова за вопрос - 1.7 рублей
Это недорого, скажем, если использовать это в онлайн-чате интернет-магазина. Но для бесплатного приложения с монетизацией только за счёт рекламы такая цена запроса означает 100% работу в минус.
Не, обычно есть и "Информация о доставке", просто часть пользователей всё равно её не видит, равно как и других страниц. Поэтому приходится делать "ответы на вопросы в свободной форме"
Это недорого, скажем, если использовать это в онлайн-чате интернет-магазина. Но для бесплатного приложения с монетизацией только за счёт рекламы такая цена запроса означает 100% работу в минус.
Вот с этим да, полностью согласен - это под коммерческое использование.
Насчет доступа к OpenAI API - товарищи, есть отечественный проект, без всяких зарубежных номеров и прочих проблем: https://habr.com/ru/articles/762248/ - и с кучей разных сеток на любой вкус, не только ChatGPT.
Кстати, буквально вчера туда подрубили Perplexity API - это такие товарищи, которые объединили LLM с поиском в интернете, и сначала ищут по вашему запросу актуальные факты, а уже потом генерируют по ним текстовый ответ (что в большинстве, в общем-то решает проблемы галлюцинаций). Мне оно рассказало, какая сегодня погода в Москве, и какой курс доллара (оба верно) - т.е. получение актуальной инфы работает.
Всегда нужен CHAT GPT в вашем проекте (РУСЫ + API chat GPT)