BigChatHub
Время считать не токены, а то, что действительно работает

Время считать не токены, а то, что действительно работает

Мария Соколова5 мин чтения

AI-агенты потребляют множество токенов, но важно измерять результативность их работы, а не количество используемых ресурсов.

Кратко:

  • ●AI-агенты потребляют в 10–50 раз больше токенов на одну задачу, чем обычные чат-промпты.
  • ●Amazon предупреждает, что увеличение использования токенов не равно росту продуктивности.
  • ●Большинство токенов расходуется на повторное чтение контекста, а не на генерацию нового кода.
  • ●Почему важно: Переход к измерению результативности вместо подсчёта токенов изменяет фокус AI-разработки.

Переход от токенов к результатам

Время считать не токены, а то, что действительно работает

2 ноября 2026 года MIT Technology Review предложила пересмотреть устаревшие метрики оценки AI-агентов, сосредоточив внимание на том, что действительно достигается в продуктивной среде. Вместо подсчёта количества использованных токенов, предлагается измерять реальную пользу, которую приносит работа AI-агентов.

Многократное использование токенов

Когда разработчик поручает AI-агенту задачу по написанию кода, агент выполняет не просто одно действие. Этот процесс включает планирование, генерацию кода, запуск тестов и исправление ошибок. В результате одна задача может потреблять в 10–50 раз больше токенов, чем обычный чат-промпт.

Экономический абсурд token-maxxing

Amazon уже предупреждает своих инженеров, что увеличение использования AI-токенов не соответствует росту продуктивности. Увеличение количества токенов не всегда ведёт к улучшению результатов, а скорее может стать ловушкой для разработчиков, вводя их в заблуждение относительно настоящей эффективности их работы.

Высокая вариативность использования токенов

Исследования показывают, что использование токенов может варьироваться в 30–1000 раз на одну и ту же задачу. Это указывает на то, что большее количество токенов не гарантирует лучшего результата, а эффективность часто достигается при умеренном расходе.

Контекст против генерации

Большинство токенов, около 94%, расходуется на повторное чтение контекста, а не на создание нового продукта. Это подчеркивает важность фокусирования на результатах, а не на ресурсе.

Что это значит

Переход от подсчёта токенов к оценке реальных результатов работы AI-агентов меняет подход к разработке. Это сдвиг акцентов от внутренних метрик к показателям эффективности доставки продуктов и решений. Теперь важнее понимать, что AI-агент отпускает в мир, а не сколько токенов он использует на этом пути.

Частые вопросы

Почему важно перестать считать токены?

▾

Потому что они не отражают реальной ценности работы AI-агентов. Важнее измерять результаты, достигнутые в продуктивной среде.

Как это отразится на разработчиках?

▾

Разработчики смогут сосредоточиться на эффективности своих решений, а не на количестве использованных ресурсов.

Что значит "что действительно выпускается в продакшн"?

▾

Это конечный продукт, который проходит тесты, ревью и доставляется клиенту.

Какие компании уже признали этот подход?

▾

Amazon уже предупредила своих инженеров о вреде токеновых метрик.

Источники

  1. How agents are transforming work | OpenAIОб источнике: OpenAI
  2. Amazon tells software engineers that not every task needs AI
  3. How Do AI Agents Spend Your Money? Analyzing and Predicting Token Consumption in Agentic Coding Tasks
  4. New DX data finds 94% of AI token usage is re-reading existing context
Поделиться:Telegram

Читайте также

Обучение

Гайды

Инструменты