OpenAI представила мультимодальную модель на базе GPT-4o для более точной модерации текстов и изображений.
Кратко:
●OpenAI обновила Moderation API с помощью модели GPT-4o
●Новая модель более точно определяет вредоносный контент
●Поддерживает мультимодальность, работая с текстами и изображениями
●Доступна бесплатно через Moderation API
OpenAI представляет мультимодальную модель на базе GPT-4o
OpenAI анонсировала обновление Moderation API, внедрив новую мультимодальную модель omni‑moderation‑latest на базе GPT‑4o. Эта модель значительно улучшает обнаружение вредоносного контента как в текстах, так и в изображениях.
Основные преимущества новой модели
Мультимодальность
Новая модель может анализировать не только текст, но и изображения. Она поддерживает шесть категорий вредоносного контента, включая насилие и сексуальные материалы. Это позволяет разработчикам строить более надежные системы модерации.
Новые категории вреда
Введены категории illicit и illicit/violent, которые охватывают преступные действия и насилие. Это расширяет возможности модерации и делает её более точной.
Улучшенная точность для языков с низким ресурсом
Точность модели выросла на 42% в 40 языках. Особенно значительные улучшения наблюдаются в телугу, бенгали и маратхи. Это позволяет охватить более широкий круг пользователей по всему миру.
Калиброванные оценки
Оценочные баллы теперь более реалистичны и дают разработчикам точный контроль над модерацией. Это упрощает использование различных моделей OpenAI.
Доступность через API
Модель остаётся бесплатной для всех разработчиков через Moderation API. Это снижает барьеры для внедрения новых технологий в проекты.
Перспективы использования
Разработчики могут интегрировать новую модель в свои продукты, чтобы повысить безопасность и качество контента. Это особенно актуально для платформ, работающих с международной аудиторией.
