Почему следующий этап ИИ-бума будет совсем не про GPU

[Kartuh]

[GladMax]

какая была бы справедливая цена на chatgpt, допустим?

[Parfois]

"Справедливая цена" - понятие довольно условное для компании, которая еще не вышла на окупаемость и набрала обязательств на $1 трлн) Если рассуждать теоретически, то стоимость вычислений для моделей одного и того же уровня интеллекта падает примерно в 5–10 раз в год, причем основную экономию дают не новые GPU, а более эффективные алгоритмы и архитектуры моделей.

Это означает, что через несколько лет себестоимость инференса вполне может снизиться еще на порядок. Тогда массовые модели будут стоить буквально сотые доли доллара за миллион токенов, а дорогими останутся только самые мощные рассуждающие модели. Поэтому OpenAI, скорее всего, будет зарабатывать не столько на цене токена, сколько на подписках, API, агентах и экосистеме ChatGPT. Сами токены постепенно превращаются в инфраструктурный ресурс, как облачные вычисления или электроэнергия. То есть дешевле за единицу, но с гораздо большим объемом потребления.