Swift Transformers: запуск LLM на устройствах Apple
Дмитрий Орлов12 августа 2026 г.5 мин чтения
Hugging Face представила Swift‑пакет для работы с LLM на устройствах Apple без облака. Это важный шаг для локального исполнения моделей.
Кратко:
●Hugging Face выпустила Swift‑пакет для LLM
●Пакет поддерживает модели Llama 2 7B и Falcon 7B
●Инструменты для конвертации моделей в Core ML
●Apple развивает локальное исполнение LLM
Swift‑пакет от Hugging Face для Apple
8 августа 2023 года Hugging Face анонсировала новый Swift‑пакет swift‑transformers, который позволяет запускать большие языковые модели (LLM) прямо на устройствах Apple. Это открывает новые возможности для разработчиков, желающих интегрировать мощные модели машинного обучения на iPhone и Mac без использования облачных решений.
Компоненты пакета
В состав пакета входят несколько ключевых инструментов:
●`swift‑transformers` — основной Swift‑пакет с API, аналогичным семейству Transformers, для генерации текста.
●`swift‑chat` — демонстрационное приложение, показывающее работу пакета.
●`exporters` — инструмент для конвертации моделей в формат Core ML.
●`transformers‑to‑coreml` — инструмент для упрощённого экспорта моделей без необходимости написания кода.
Уже доступны примеры конвертированных моделей, таких как Llama 2 7B и Falcon 7B.
Технические особенности
Первоначальный релиз столкнулся с проблемами при конвертации моделей, которые потребовали доработки. Однако, платформа обеспечивает удобную интеграцию с Hugging Face Hub, что упрощает загрузку, кэширование и обновление моделей, а также их автономное использование.
Контекст и значимость для Apple
Пакет swift‑transformers стал основой для новых инициатив Apple. В июне 2026 года компания представила фреймворки Core AI и Foundation Models, которые позволяют запускать модели на устройствах, оптимизированных под Unified Memory и Neural Engine. Это делает локальное исполнение LLM более доступным и эффективным. Подробнее об интеграции Apple и ИИ можно узнать из статьи Axel Springer и OpenAI: новое слово в ИИ и журналистике.
Почему это важно
swift‑transformers — это один из первых инструментов, который предложил разработчикам Swift возможность запускать LLM‑модели локально. Это стало основой для более крупных инициатив Apple и вдохновило на создание Core AI, расширение Foundation Models и интеграцию MLX.
Частые вопросы
Как swift‑transformers повлияет на разработку приложений?
Инструмент позволяет разработчикам интегрировать LLM‑модели непосредственно в приложения iOS и macOS, улучшая их функциональность без зависимости от облака.
Какие модели поддерживает Swift‑пакет?
На данный момент поддерживаются модели Llama 2 7B и Falcon 7B, но возможна конвертация и других моделей.
Что делает инструменты exporters и transformers‑to‑coreml?
Они упрощают процесс конвертации моделей в формат Core ML, делая его доступным даже для разработчиков без опыта в машинном обучении.
