Похоже, пузырь LLM всё-таки начнёт лопаться. Причём, если посмотреть на механизм, это может оказаться скорее имплозией — схлопыванием вовнутрь.
OpenAI собирается объединить лимиты ChatGPT и Codex: с декабря они будут жрать одну общую квоту. Обычный Instant Chat из неё пока исключён. Anthropic уже давно считает Claude и Claude Code из общей квоты, включая недельные лимиты. GitHub переводит Copilot на учёт фактически потреблённых токенов. Google тоже постепенно уходит от тупого «N запросов» к учёту реально съеденного compute.
То есть провайдеры окончательно обнаружили удивительную вещь: compute стоит денег.
И решили, что оплачивать бесконечное потребление клиентов им как-то не с руки — «первая доза бесплатно?».
Занятно, но ровно к тому же выводу придут и сами клиенты. — Потому что coding agents очень хорошо умеют не только делать работу, но и генерировать работу по обслуживанию самих себя.
Агент придумал ненужную абстракцию. Реализовал, задокументировал, протестировал. Пользователь заметил и объяснил, почему это херь. Он переделал. По дороге ещё что-нибудь сломал. Потом героически исправил.
И всё это время исправно жрал токены.
Плюс собственное время «погонщика LLM-агентов», конечно. Скидку за потраченные часы billing пока почему-то не умеет.
Пока всё это происходило внутри условно безлимитной подписки, можно было относиться философски: ну тупит и тупит, зато иногда полезный.
Но как только появляется единая ограниченная квота, каждая такая итерация начинает конкурировать уже с нормальной полезной работой.
И получается довольно забавная конструкция — провайдер говорит:
— Больше не хочу оплачивать столько твоих вычислений.
Клиент смотрит на агента и отвечает:
— А я больше не хочу оплачивать столько твоего идиотизма.
Вот только если обе стороны одновременно начинают рационализировать потребление, возникает маленькая проблема для индустрии, оценки которой построены примерно на предположении, что потребление LLM будет расти куда-то в бесконечность.
Может и не будет.
Причём для этого вообще не требуется, чтобы LLM оказались бесполезными. Они вполне могут остаться чрезвычайно полезным инструментом.
Просто внезапно выяснится, что полезного compute людям требуется заметно меньше, чем compute, который индустрия рассчитывала им продать.
И тогда пузырь вполне может лопнуть именно так: не потому, что технология внезапно перестала работать, а потому, что экономика вокруг неё начнёт схлопываться вовнутрь.