WebGPT наделяет GPT-3 способностью искать информацию в интернете, улучшая фактическую точность ответов.
Кратко:
- ●WebGPT решает проблему "галлюцинаций" в GPT-3.
- ●Модель использует текстовый браузер для поиска информации.
- ●Обучение включает поведение человека и моделирование вознаграждения.
- ●WebGPT улучшает точность, но остаются риски дезинформации.
Проблема "галлюцинаций" в языковых моделях
Сложность с достоверностью информации, предоставляемой крупными языковыми моделями, такими как GPT-3, побудила OpenAI создать проект WebGPT. Основная цель разработки — уменьшить количество "галлюцинаций", когда модели генерируют неправдивые данные.
Как работает WebGPT
WebGPT наделяет GPT-3 способностью имитировать поведение человека в интернете, используя текстовый веб-браузер. Модель может отправлять поисковые запросы, переходить по ссылкам и даже цитировать информацию с веб-страниц. Это позволяет ей "исследовать" ответы на вопросы, используя внешние источники, и предоставлять ссылки на использованные материалы.