Исследование OpenAI показывает, что AI-модели могут улучшать выявление ошибок в текстах благодаря критическим замечаниям, особенно с увеличением масштаба моделей.
Кратко:
●Модели OpenAI обучены писать критические замечания.
●Критика помогает людям находить ошибки в текстах.
●Большие модели эффективнее в самокритике.
●Технология обещает улучшить надзор за AI.
AI-критика и её влияние на выявление ошибок
13 июня 2022 года OpenAI опубликовала исследование, в котором было показано, как модели, обученные формулировать критические замечания, помогают людям выявлять ошибки в текстах. Эти модели оценивают суммарии коротких рассказов, статей из Википедии и других текстов, предоставляя критические замечания, которые помогают оценщикам находить ошибки на 50% чаще, чем без их помощи.
Эксперименты и результаты
Человеческие оценщики, использующие до восьми критических замечаний, обнаруживают на 50 % больше ошибок в суммариях. Особенно это касается специально подстроенных суммариев, где модель помогала находить намеренные ошибки в 45 % случаев против 27 % без такой помощи.
Масштабирование и самокритика
Большие модели демонстрируют лучшую способность к самокритике. Они не только более эффективно пишут суммарии, но и критикуют свои собственные ответы. Это связано с тем, что увеличение масштаба моделей улучшает их способность к самоанализу. Такие модели также используют свои критические замечания для улучшения собственных результатов, в отличие от меньших моделей, которые часто не показывают значительных улучшений.
Ограничения и вызовы
Несмотря на успехи, различие между простым распознаванием ошибки и её объяснением остаётся вызовом. Модели могут «знать», что ответ неверен, но не всегда способны чётко объяснить причину. Кроме того, задачи, на которых проверялись модели, достаточно просты, что требует дальнейшего расширения на более сложные задачи, такие как обнаружение багов в коде или фактологических ошибок.
Новые тенденции
В последние годы исследования в области AI-критики продвинулись значительно. В июле 2025 года была представлена работа SCRIT, где модели обучаются улучшать свои критические способности на самосгенерированных данных. В феврале 2025 года исследование показало, что критика критики может заменить прямую оценку на сложных задачах. В январе 2026 года метод SELF-THOUGHT предложил новый подход к самокоррекции моделей.
Частые вопросы
Как модели AI помогают улучшать качество текстов?
Они формулируют критические замечания, которые помогают людям находить ошибки в текстах чаще.
Какие преимущества имеют большие модели?
Большие модели лучше критикуют свои собственные ответы и улучшают собственные результаты благодаря самоанализу.
Какие ограничения имеют текущие AI-модели?
Модели могут не всегда чётко объяснять ошибки, и их возможности ограничены простыми задачами.
Как AI-критика может применяться в будущем?
Она может использоваться для надзора за сложными AI-системами и улучшения их работы.
