Крупные игроки ИИ-индустрии разошлись во мнениях о регулировании, несмотря на первоначальный консенсус.
Кратко:
На прошлой неделе ведущие фигуры индустрии искусственного интеллекта, такие как CEO Anthropic Дарио Амодеи, предложили трёхступенчатый план замедления развития ИИ. Этот план включает внедрение независимых оценщиков в лаборатории, координацию между компаниями в США и международное сотрудничество. Однако, несмотря на первоначальную поддержку от OpenAI, Google DeepMind и SpaceX, единого мнения не получилось.
CEO Anthropic подробно изложил свою идею в эссе "We Must Pace the Frontier", где он призвал к замедлению темпов развития ИИ ради безопасности. Идею поддержали такие влиятельные фигуры, как Sam Altman и Demis Hassabis, но Meta и Nvidia высказались против любых ограничений для компаний.
Администрация Трампа отвергла идею кризиса ИИ как "обман" и заявила, что у США есть достаточно мощные лидеры и законы для контроля ситуации. Это контрастирует с более ранней позицией, когда президент подписал указ, устанавливающий принципы федеративной политики по ИИ.
Бывший директор по политике DHS Ник Риз подчеркнул, что текущая ситуация требует более устойчивых рамок для безопасности ИИ. Он отметил, что доверие одному человеку недостаточно для обеспечения безопасности.
Несмотря на разногласия, идея создания независимого регулятора, подобного FINRA в финансах, пока остаётся на повестке. Однако, как отмечает Chris Lehane из OpenAI, важно, чтобы государство также играло свою роль в обеспечении безопасности.
Meta и Nvidia, отвергнув идею независимого регулятора, подчеркивают, что автономия компаний является ключевой. Это создаёт напряжённость в индустрии, где одни компании видят в регулировании защиту, а другие — угрозу.
Позиции разошлись из-за разных подходов к автономии компаний и страхам перед возможными ограничениями.
Администрация отвергла идею кризиса и считает, что существующих законов достаточно для контроля.
Anthropic предложила внедрение независимых оценщиков в лаборатории, координацию между компаниями и международное сотрудничество.
Dario Amodei из Anthropic предложил замедлить развитие ИИ. Это вызвало бурную реакцию среди лидеров отрасли и политиков.
Крупнейшие AI-компании обсуждают замедление развития ИИ. Это вызывает споры: безопасность или подавление конкуренции?
Ключевые фигуры AI-индустрии, включая Илона Маска и Сэма Альтмана, призвали к регулированию технологий и замедлению их развития.
