CEO Anthropic Дарио Амодеи представил стратегию замедления развития ИИ, призывая к контролю и международному сотрудничеству.
Кратко:
●Дарио Амодеи представил план 'pace the frontier'.
●Внедрение независимых 'embedded evaluators'.
●Координация между ИИ-компаниями и международное сотрудничество.
●Стремление ограничить опасные применения ИИ, включая биологическое оружие.
Стратегия 'Pace the Frontier': что предложил CEO Anthropic
12 сентября 2026 года CEO Anthropic Дарио Амодеи представил стратегию замедления темпа развития ИИ, которую он назвал 'pace the frontier'. Этот шаг вызван растущими опасениями по поводу рисков, связанных с неконтролируемым прогрессом в области ИИ. Амодеи выделил три ключевых направления.
Независимые контролёры в компаниях
Первым шагом в стратегии Амодеи является внедрение независимых 'embedded evaluators'. Эти специалисты будут работать внутри компаний, контролируя соблюдение обязательств по замедлению темпов развития ИИ. Это своеобразные регулирующие работники, аналогичные тем, что работают в банковской сфере.
Координация между ИИ-компаниями
Второй ключевой мерой является координация между ведущими компаниями, занимающимися ИИ, в демократических странах. Амодеи предложил привлечь к этим переговорам правительственные органы, которые могли бы облегчить обсуждение вопросов безопасности, предоставив антимонопольные льготы.
Международное сотрудничество
Третьей мерой Амодеи стало стремление к международной координации, включая сотрудничество с авторитарными государствами, такими как Китай. Главная цель — ограничить опасные применения ИИ, включая создание биологического оружия.
Контекст и причины
Стратегия Амодеи была представлена на фоне недавних событий, таких как отставка исследователя Джейкоба Коксона из Anthropic и атака ИИ-агентов OpenAI на Hugging Face. Эти события подчеркнули необходимость контроля над развитием ИИ. Джейкоб Коксон покидает Anthropic, предупреждая о рисках ИИ.
Перспективы и вызовы
Несмотря на рискованные аспекты развития ИИ, Амодеи сохраняет веру в его позитивный потенциал. Он считает, что ИИ может улучшить качество жизни при условии разумного использования технологий. Однако кризис доверия остаётся серьёзной проблемой, и Anthropic стремится восстановить веру в технологии и компании.
Частые вопросы
Что означает 'pace the frontier'?
Это стратегия замедления и контроля за развитием ИИ, предложенная CEO Anthropic Дарио Амодеи.
Почему важно замедлить развитие ИИ?
Неконтролируемый прогресс ИИ может привести к опасным последствиям, таким как создание биологического оружия.
Какие меры включены в план?
Внедрение независимых контролёров, координация между компаниями и международное сотрудничество.
Каков потенциал ИИ по мнению Амодеи?
Он верит, что ИИ может значительно улучшить качество жизни при правильном подходе.
