OpenAI запускает грантовую программу для развития демократических процессов в регулировании ИИ, выделяя десять грантов по $100,000.
Кратко:
●OpenAI выделяет $1 млн на демократизацию ИИ
●Программа поддерживает создание пилотных демократических процессов
●Важность представительности и прозрачности
●Итоги и вызовы программы будут интегрированы в будущие проекты
Грантовая программа OpenAI: шаг к демократизации ИИ
В мае 2023 года некоммерческая организация OpenAI, Inc. объявила о запуске грантовой программы "Democratic Inputs to AI", направленной на создание демократических процессов для определения правил поведения ИИ. Эта инициатива предполагает выделение десяти грантов по $100,000, которые поддержат эксперименты по разработке пилотных прототипов.
Гранты предназначены для команд по всему миру, которые должны вовлечь как минимум 500 участников. Крайний срок для представления результатов был установлен на 20 октября 2023 года. Все разработки должны быть опубликованы под open-source лицензией, обеспечивая доступность и прозрачность результатов.
Демократические процессы и их значение
Предложенная OpenAI система подразумевает участие широко представительной группы людей в обсуждении и принятии решений. Это включает делиберацию, справедливость и учёт интересов меньшинств. Примеры успешных демократических проектов включают Wikipedia и Twitter Community Notes.
Партнёром программы выступает Collective Intelligence Project, который работает над Alignment Assemblies. Этот подход подчёркивает важность совместного обсуждения и согласования решений в области ИИ.
Итоги и вызовы программы
В январе 2024 года OpenAI опубликовало итоги программы, отметив получение около 1,000 заявок из 113 стран. Были выбраны 10 команд из 12 стран, представляющие разнообразные области: юриспруденция, журналистика, миротворчество, машинное обучение и социальные науки.
Среди основных вызовов, с которыми столкнулись команды, были привлечение разнообразных участников, обеспечение прозрачности и доверия, а также агрегация разнородных точек зрения. Эти проблемы свидетельствуют о важности продуманных механизмов взаимодействия в цифровую эпоху.
Перспективы дальнейшего развития
OpenAI планирует развивать этот подход через создание команды Collective Alignment, которая будет внедрять полученные идеи в модели и запускать пилотные интеграции. Это шаг к более активному вовлечению общественности в регулирование поведения ИИ.
Хотя гранты не обязывают компанию следовать полученным результатам, сама инициатива и открытость её результатов являются значимым шагом на пути к массовой прямой демократии.
Частые вопросы
Что такое программа "Democratic Inputs to AI"?
Это инициатива OpenAI, направленная на создание демократических процессов для регулирования ИИ, поддержанная грантами по $100,000.
Какие были основные вызовы программы?
Основными вызовами стали привлечение разнообразных участников, обеспечение прозрачности и доверия, а также агрегация мнений.
Каковы дальнейшие планы OpenAI по этому направлению?
OpenAI намерено развивать идеи программы через команду Collective Alignment, интегрируя полученные методы в дальнейшие разработки.
Почему это важно для общества?
Демократизация управления ИИ способствует учёту общественного мнения и делает технологии более прозрачными и справедливыми.
