Температура — это параметр генерации текста в языковых моделях, определяющий степень случайности при выборе следующего токена. При температуре 0 модель всегда выбирает наиболее вероятный вариант, а при температуре ближе к 2 — выдаёт более разнообразные и креативные ответы. Температуру используют для регулировки баланса между точностью и креативностью вывода. Иногда ошибочно считают, что высокая температура гарантирует лучшую оригинальность: она лишь увеличивает вариативность, но не качество.
Пример
В интерфейсе OpenAI Playground можно задать температуру 0.7, чтобы получить менее шаблонный, но всё ещё связный ответ на один и тот же вопрос.