Safety Gym — это среда для безопасного обучения с подкреплением, выпущенная OpenAI в 2019 году. Она позволяет оценивать алгоритмы на предмет соблюдения ограничений безопасности.
Кратко:
- ●Safety Gym выпущен OpenAI в 2019 году
- ●Среда оценивает RL-алгоритмы на безопасность
- ●Включает три типа роботов и задачи
- ●Новый Safety-Gymnasium развивает идеи Safety Gym
Что такое Safety Gym?
21 ноября 2019 года OpenAI представила Safety Gym — набор сред и инструментов для обучения агентов с подкреплением (RL), соблюдающих ограничения безопасности. Этот проект призван стать стандартом для оценки алгоритмов ограниченного обучения с подкреплением, обеспечивающих безопасное исследование без совершения опасных ошибок.
Цели и задачи проекта
Основная цель Safety Gym — создание стандартизированного инструмента для оценки алгоритмов, использующих ограниченное RL. Это помогает избежать дорогостоящих ошибок, которые могут возникнуть при обучении агентов. Среда предлагает три типа роботов (Point, Car, Doggo) и три задачи (Goal, Button, Push), каждая из которых имеет свои уровни сложности.
