Обучение в контексте (in-context learning, ICL) — способность больших языковых моделей учиться на примерах, приведённых прямо в промпте, без изменения внутренних параметров. Модель анализирует эти примеры и применяет выученную схему к новой задаче. ICL не аналогично классическому обучению модели — веса не обновляются.
Пример
Пользователь вводит три пары "вопрос-ответ" в ChatGPT, чтобы модель научилась формулировке нужного типа ответа при следующем запросе.