Comments 9
какая была бы справедливая цена на chatgpt, допустим?
"Справедливая цена" - понятие довольно условное для компании, которая еще не вышла на окупаемость и набрала обязательств на $1 трлн) Если рассуждать теоретически, то стоимость вычислений для моделей одного и того же уровня интеллекта падает примерно в 5–10 раз в год, причем основную экономию дают не новые GPU, а более эффективные алгоритмы и архитектуры моделей.
Это означает, что через несколько лет себестоимость инференса вполне может снизиться еще на порядок. Тогда массовые модели будут стоить буквально сотые доли доллара за миллион токенов, а дорогими останутся только самые мощные рассуждающие модели. Поэтому OpenAI, скорее всего, будет зарабатывать не столько на цене токена, сколько на подписках, API, агентах и экосистеме ChatGPT. Сами токены постепенно превращаются в инфраструктурный ресурс, как облачные вычисления или электроэнергия. То есть дешевле за единицу, но с гораздо большим объемом потребления.
Не знаю, не знаю, по факту токен это единица занимаемых ресурсов. Если ресурсы будут в дифеците по сравнению с количеством даже простых запросов, то будут считать в токенах, а не по подписке. По подписке могут просто выдать определенное количество токенов, а что сверх то доп оплата.
Да, если вычислительные мощности окажутся хронически дефицитными, модель оплаты по токенам действительно станет основным способом распределения ресурсов.
Подписка при этом не означает отказ от учета токенов. Скорее всего, сохранится двухуровневая модель: фиксированная плата за доступ с включенным объемом вычислений, а сверх лимита тарификация по токенам или по затраченным вычислениям. Именно так могут работать облачные сервисы: по типу "хотите использовать топовый открытый ИИ - платите за наше облако".
Для OpenAI и других разрабов важнее максимизировать пожизненную ценность клиента, чем доход с отдельного токена. Если себестоимость вычислений продолжит снижаться быстрее, чем растет спрос, то выгоднее продавать удобный сервис по подписке, стимулируя пользователей обращаться к ИИ чаще. В результате общий объем потребления растет быстрее, чем падает цена единицы вычислений.
Тот случай когда всю суть статьи можно было отразить одним предложением. Н2О 99%
Странно что в статье ни слова про квантовые технологии
В принципе думающие люди давно поняли, что надо по возможности переходить на локальные ИИ, и долго компании не будут ставить цены на подписку/токены ниже себестоимости.
Почему следующий этап ИИ-бума будет совсем не про GPU