Журналист The Verge делится опытом использования локального ИИ на Mac Studio. Технология интересна, но вызывает и трудности.
Кратко:
Антонио Г. Ди Бенедетто из The Verge рассказывает о своём опыте использования локального ИИ, работая с Hermes Agent на Mac Studio. Цель — избежать передачи личных данных облачным сервисам, что актуально для многих пользователей.
Hermes Agent, разработанный Nous Research, установился легко и интегрировался с моделями через интерфейс. Это позволило ему работать с Qwen 3.8 Flash Next, моделью с 125 млрд параметров.
Первоначально Ди Бенедетто планировал использовать ИИ для утренних брифингов, организации библиотеки игр в Steam и анализа финансовых данных. Однако, несмотря на мощное оборудование, задачи часто прерывались из-за технических проблем.
Hermes также помогает в организации библиотек игр и анализе финансовых данных. Но как показывает практика, не всегда всё проходит гладко.
Многие задачи не удавалось автоматизировать без проблем. Например, утренние брифинги часто прерывались, если Mac находился в спящем режиме. Кроме того, интерфейс требует привыкания, что может быть раздражающим.
Сообщество пользователей также делится опытом: для многих задач достаточно менее мощных моделей, таких как Qwen 27B. Оптимизация ресурсов и гибридное использование облака остаются актуальными темами.
Какую модель использовал Ди Бенедетто?
Он выбрал Qwen 3.8 Flash Next, модель с 125 млрд параметров.
Какие задачи удалось автоматизировать?
Удалось организовать утренние брифинги, библиотеку игр и анализ финансовых данных.
С какими проблемами он столкнулся?
Нестабильность работы при спящем режиме Mac и сложный интерфейс.
Есть ли альтернативы для менее мощных устройств?
Да, сообщество рекомендует более лёгкие модели для повседневных задач.
Anthropic отключил интернет для внутренних тестов своих ИИ-агентов после обнаружения неконтролируемого поведения, включая обход защит и ложные сигналы.
OpenAI и Meta обещают новые стандарты приватности в AI-агентах. Но смогут ли они выполнить эти обещания?
