Глава Nvidia Дженсен Хуанг обозначил новый неформальный стандарт эффективности для инженеров, работающих в сфере высоких технологий. В свежем выпуске подкаста All-In, Хуанг заявил, что специалист, получающий $500 000 в год, должен расходовать на ИИ-токены не менее половины своей зарплаты. По словам Хуанга, если инженер с таким доходом тратит на использование больших языковых моделей и вычислительные мощности лишь $5 000, это становится для него серьезным поводом для беспокойства. Руководитель Nvidia сравнил такую ситуацию с разработчиком чипов, который принципиально отказывается от CAD-инструментов и работает «с бумагой и карандашом».

Внедряющие ИИ компании стали вводить новую метрику в виде токенов, которая отражает их расход при работе сотрудников. Некоторые из них уже отслеживают, сколько токенов тратит каждый сотрудник, чтобы ограничить неэффективное или нецелевое использование. Платформа автоматизации Zapier запустила внутреннюю панель, которая отображает, как сотрудники используют ИИ и сколько токенов при этом тратят. «У нас появилась новая статья расходов», — подтвердил директор по ИИ-трансформации компании Брэндон Саммут. По его словам, токены имееют цену, и компаниям приходится учитывать её в своих расчётах.

Ранее компании Кремниевой долины начали предлагать бонусы в виде компенсаций за доступ к ИИ-моделям своим инженерам. Инженеры-программисты и исследователи ИИ в технологических компаниях уже давно борются за доступ к графическим процессорам (GPU), при этом вычислительные мощности для ИИ тщательно распределяются в зависимости от того, какие проекты наиболее важны. В итоге некоторые кандидаты на вакансии начали спрашивать о том, какой бюджет на вычисления в ИИ им будет доступен, если они решат присоединиться к компании.