OpenAI провела опрос более 1,000 человек, чтобы узнать их мнение о поведении ИИ. Результаты помогут улучшить модели, учитывая разнообразные ценности.
Кратко:
- ●OpenAI опросила более 1,000 человек из 19 стран
- ●Участники оценивали ответы ИИ на спорные темы
- ●Совпадение с Model Spec составило около 80%
- ●Некоторые предложения приняты, другие отложены
Коллективное выравнивание: что думают люди о поведении ИИ
OpenAI недавно запустила исследование, чтобы выяснить, как общественное мнение влияет на поведение её ИИ-моделей. В опросе участвовали более 1,000 человек из 19 стран, включая США, Великобританию, Индию и Японию. Участники оценивали различные сценарии ответов ИИ на спорные темы и их предпочтения сравнивались с текущей спецификацией модели (Model Spec).
Демография и методология
Участники исследования представляли различные возрастные, половые и образовательные группы. Им предлагалось оценивать варианты ответов ИИ на синтетические подсказки, касающиеся субъективных или спорных тем, а затем обосновывать свои решения. Эти данные сравнивались с официальной спецификацией модели с помощью специально обученной модели-ранжировщика, основанной на GPT-5.
