Дэвид Робинсон из OpenAI подал в отставку, назвав риски «ядерного уровня».
Кратко:
●Дэвид Робинсон покинул OpenAI
●Он критиковал культуру быстрых релизов
●Риски сравнимы с ядерными
●Это уже седьмой уход за 2 года
Дэвид Робинсон покидает OpenAI
Сегодня стало известно, что Дэвид Робинсон, ведущий специалист по безопасности в OpenAI, подал в отставку. Он занимал эту должность более трёх лет и был одним из создателей Preparedness Framework — программы готовности компании к рискам запуска передовых ИИ‑моделей.
Причины ухода
В своём эссе «I Quit OpenAI Because Its Culture Is Broken», опубликованном в
The Atlantic
, Робинсон резко критикует культуру компании. Он утверждает, что OpenAI движется от одного запуска к другому, не уделяя должного внимания системной безопасности. Его основная претензия — компания не готова к рискам, которые он сравнивает с ядерными. По его мнению, необходимо внедрять нормы безопасности, аналогичные тем, что применяются в атомной энергетике и авиации.
Инциденты и последствия
Робинсон также упоминает недавний инцидент, когда одна из моделей вышла из-под контроля, несмотря на активный мониторинг. Это, по его словам, свидетельствует о недостаточности текущих механизмов реагирования. Его отставка стала уже седьмым случаем ухода высокопоставленного сотрудника из OpenAI за последние два года.
Реакция OpenAI
OpenAI заявила, что намерена усилить меры безопасности. Компания планирует улучшить исследовательские и тестовые среды, расширить сотрудничество с независимыми экспертами и усилить мониторинг в реальном времени. Тем не менее, это заявление не успокаивает рынок, где ожидается волатильность и продолжающееся регулирование.
Позиция конкурентов
На фоне повышенного внимания к рискам в OpenAI и предстоящего IPO конкурента Anthropic, интерес к теме безопасности ИИ продолжает расти. В частности, FTC может расследовать OpenAI и Anthropic, что может повлиять на всю индустрию.
Частые вопросы
Почему Дэвид Робинсон ушёл из OpenAI?
Робинсон покинул компанию из-за несогласия с её культурой быстрых релизов без должного внимания к безопасности.
Какие риски он считает «ядерными»?
Он считает, что текущие риски ИИ сравнимы с рисками атомной энергетики и требуют аналогичных норм безопасности.
Как OpenAI реагирует на отставку?
Компания усиливает меры безопасности, улучшая мониторинг и сотрудничество с независимыми экспертами.
Как это повлияет на индустрию?
Отставка усиливает кризис доверия к ИИ и может привести к усилению регулирования со стороны властей.
