Хм. Ну я согласен что токены не должны становиться “деньгами”, но в статье я имею в виду не токены как валюту, а токены как внутреннюю единицу учёта ресурса. Пользователь может платить обычными рублями за тариф, пакет задач или лимит операций, а внутри платформа всё равно должна считать себестоимость: LLM-вызовы, объём контекста, количество агентских действий, обращения к API, нагрузку на инфраструктуру.
То есть токен здесь будет ближе не к деньгам, а к “CPU-hour”, “запросам API” или “минутам связи”.
Согласен. В каком-то смысле это вечная игра между правилами и способами их обхода 🙂 Если контролировать только отдельные действия, всегда можно разложить нежелательный сценарий на тысячу формально разрешённых шагов. Поэтому мне кажется, что следующий этап развития таких систем - це уже анализ намерений, целей и всей цепочки действий агента, а не только проверка отдельных операций. Здесь уже действительно появляется интересная ирония: для контроля AI может понадобиться ещё один AI.
Хм. Ну я согласен что токены не должны становиться “деньгами”, но в статье я имею в виду не токены как валюту, а токены как внутреннюю единицу учёта ресурса. Пользователь может платить обычными рублями за тариф, пакет задач или лимит операций, а внутри платформа всё равно должна считать себестоимость: LLM-вызовы, объём контекста, количество агентских действий, обращения к API, нагрузку на инфраструктуру.
То есть токен здесь будет ближе не к деньгам, а к “CPU-hour”, “запросам API” или “минутам связи”.
Согласен. В каком-то смысле это вечная игра между правилами и способами их обхода 🙂 Если контролировать только отдельные действия, всегда можно разложить нежелательный сценарий на тысячу формально разрешённых шагов. Поэтому мне кажется, что следующий этап развития таких систем - це уже анализ намерений, целей и всей цепочки действий агента, а не только проверка отдельных операций. Здесь уже действительно появляется интересная ирония: для контроля AI может понадобиться ещё один AI.