Адаптер (Adapter) — это лёгкий дополнительный модуль, который подключают к уже обученной модели для её специализации на новых задачах. При обучении адаптера основная модель остаётся замороженной, то есть её параметры не меняются, а дорабатывается только небольшой слой адаптера. Концепция похожа на LoRA, но отличается по технической реализации.
Пример
Исследователь дообучает адаптер для BERT, чтобы модель точнее классифицировала медицинские тексты, не изменяя исходные веса BERT.