Anthropic предлагает трехэтапный план замедления развития ИИ для предотвращения рисков, включая международные соглашения.
Кратко:
- ●Anthropic предложила план замедления развития ИИ.
- ●Включает независимую оценку безопасности и международные соглашения.
- ●OpenAI поддерживает осторожный подход, не останавливая разработки.
- ●Эксперты предупреждают о рисках автономных моделей.
Генеральный директор Anthropic Дарио Амодей призвал индустрию искусственного интеллекта замедлить развитие фронтирных моделей ИИ. В своём открытом обращении, опубликованном 14 сентября 2026 года, Амодей предложил трёхэтапный план, который включает внедрение независимых сторонних экспертов для оценки и контроля безопасности моделей.
Трёхэтапный план замедления
Первый этап предполагает участие независимых экспертов в оценке безопасности. Anthropic готова начать этот процесс в одностороннем порядке. Второй этап включает координацию между ведущими лабораториями по разработке ИИ в демократических странах. И, наконец, третий — международные соглашения, направленные на установление стандартов безопасности и согласованных темпов развития.
Амодей также выразил обеспокоенность техническими рисками, заявив, что в ближайшие 6–12 месяцев без надлежащих ограничений автономная ИИ-система может превратиться в "ботнет-рой", что может привести к ущербу на сотни миллиардов долларов.
Реакция OpenAI
OpenAI поддерживает осторожный подход к развитию ИИ. Компания публикует safety case перед запуском RL-обучения фронтирных моделей и активно поддерживает законодательные инициативы в Калифорнии, касающиеся независимых аудитов и защиты пользователей.
OpenAI также работает над международными стандартами и согласованными процедурами замедления развития при превышении порогов риска.
Мнения и контекст
Многие лидеры индустрии, включая Сэма Альтмана из OpenAI и Илона Маска, поддержали идею замедления ради безопасности, несмотря на риск уступить технологии Китаю. СМИ, такие как AP News и El País, подчёркивают, что призывы к замедлению связаны с растущими экзистенциальными опасениями в индустрии.
Эта инициатива также согласуется с новыми этическими стандартами в технологиях, такими как новый кодекс этики от Microsoft.
Частые вопросы
Почему Anthropic предлагает замедлить развитие ИИ?
▾
Anthropic считает, что замедление необходимо для оценки и минимизации технических рисков, таких как угроза "ботнет-роя".
Каковы основные элементы плана Амодея?
▾
План включает внедрение независимых экспертов, координацию между лабораториями и международные соглашения для установки стандартов безопасности.
Как реагирует OpenAI на призыв Anthropic?
▾
OpenAI поддерживает осторожный подход, внедряя safety case и поддерживая законодательные инициативы для усиления безопасности.
Какие риски связаны с быстрым развитием ИИ?
▾
Риски включают возможность неконтролируемого использования автономных систем, что может привести к значительным экономическим и социальным последствиям.
Источники
- ‘We must slow the pace’: CEO of Anthropic calls for an AI slowdown | AI (artificial intelligence) | The Guardian
- Dario Amodei’s AI Slowdown: Safety or Regulatory Capture?
- Anthropic CEO warns of AI-driven botnet 'swarm' taking over the entire internet - 'In 6-12 months such a swarm could be capable of taking over the entire internet with a persistent botnet'
- Latest AI News Today (Sep 14, 2026) — Updates That Matter | HeadsUpAI
- The AI policy window is open. We need to act. | OpenAIОб источнике: OpenAI
- New warnings about the risks of AI to humanity revive a long-running debate
- ✨ Axios AM: AI paralysis
- Por qué los impulsores de la IA están echando el freno de mano a su desarrollo
