AI-агенты потребляют множество токенов, но важно измерять результативность их работы, а не количество используемых ресурсов.
Кратко:
- ●AI-агенты потребляют в 10–50 раз больше токенов на одну задачу, чем обычные чат-промпты.
- ●Amazon предупреждает, что увеличение использования токенов не равно росту продуктивности.
- ●Большинство токенов расходуется на повторное чтение контекста, а не на генерацию нового кода.
- ●Почему важно: Переход к измерению результативности вместо подсчёта токенов изменяет фокус AI-разработки.
Переход от токенов к результатам
2 ноября 2026 года MIT Technology Review предложила пересмотреть устаревшие метрики оценки AI-агентов, сосредоточив внимание на том, что действительно достигается в продуктивной среде. Вместо подсчёта количества использованных токенов, предлагается измерять реальную пользу, которую приносит работа AI-агентов.
Многократное использование токенов
Когда разработчик поручает AI-агенту задачу по написанию кода, агент выполняет не просто одно действие. Этот процесс включает планирование, генерацию кода, запуск тестов и исправление ошибок. В результате одна задача может потреблять в 10–50 раз больше токенов, чем обычный чат-промпт.
Экономический абсурд token-maxxing
Amazon уже предупреждает своих инженеров, что увеличение использования AI-токенов не соответствует росту продуктивности. Увеличение количества токенов не всегда ведёт к улучшению результатов, а скорее может стать ловушкой для разработчиков, вводя их в заблуждение относительно настоящей эффективности их работы.
Высокая вариативность использования токенов
Исследования показывают, что использование токенов может варьироваться в 30–1000 раз на одну и ту же задачу. Это указывает на то, что большее количество токенов не гарантирует лучшего результата, а эффективность часто достигается при умеренном расходе.
Контекст против генерации
Большинство токенов, около 94%, расходуется на повторное чтение контекста, а не на создание нового продукта. Это подчеркивает важность фокусирования на результатах, а не на ресурсе.
Что это значит
Переход от подсчёта токенов к оценке реальных результатов работы AI-агентов меняет подход к разработке. Это сдвиг акцентов от внутренних метрик к показателям эффективности доставки продуктов и решений. Теперь важнее понимать, что AI-агент отпускает в мир, а не сколько токенов он использует на этом пути.
Частые вопросы
Почему важно перестать считать токены?
▾
Потому что они не отражают реальной ценности работы AI-агентов. Важнее измерять результаты, достигнутые в продуктивной среде.
Как это отразится на разработчиках?
▾
Разработчики смогут сосредоточиться на эффективности своих решений, а не на количестве использованных ресурсов.
Что значит "что действительно выпускается в продакшн"?
▾
Это конечный продукт, который проходит тесты, ревью и доставляется клиенту.
Какие компании уже признали этот подход?
▾
Amazon уже предупредила своих инженеров о вреде токеновых метрик.