Снижение галлюцинаций — это совокупность методов, которые уменьшают вероятность того, что модель искусственного интеллекта выдумает несуществующие факты или ошибочные сведения. К таким подходам относят использование RAG, граундинг (grounding), установку параметра temperature=0, проверку фактов через внешние источники и обязательное добавление ссылок (citation enforcement). Снижение галлюцинаций не гарантирует абсолютную достоверность, а только уменьшает риск ошибок.
Пример
В корпоративном боте на базе GPT-4 реализован RAG: при ответе на запрос сотрудника бот подбирает релевантные документы из базы знаний и ссылается на них, чтобы снизить вероятность галлюцинаций.