Как OpenAI борется с злоупотреблениями ИИ в 2025 году
Дмитрий Орлов26 июля 2026 г.5 мин чтения
OpenAI публикует отчёт о борьбе с злоупотреблениями ИИ, пресечено более 40 сетей. Как компания защищает пользователей и противостоит угрозам.
Кратко:
●OpenAI выявила и остановила более 40 сетей с февраля 2024 года
●ИИ ускоряет классические мошеннические схемы
●Мошенники используют ИИ для фишинга и обмана
●OpenAI блокирует аккаунты злоумышленников
Как OpenAI выявляет злоупотребления ИИ
7 октября 2025 года OpenAI опубликовала отчёт «Disrupting malicious uses of AI: October 2025». Этот документ раскрывает, как компания борется с злоупотреблениями ИИ. С февраля 2024 года было пресечено более 40 сетей, нарушающих правила использования, включающих авторитарные режимы и киберпреступников.
Ускорение классических мошеннических схем
Злоумышленники чаще всего используют ИИ не для создания новых атак, а для ускорения уже известных мошеннических схем. Это позволяет быстрее и эффективнее обманывать пользователей. OpenAI блокирует такие аккаунты и передаёт информацию партнёрам.
Примеры использования ИИ для защиты
На мероприятии «Scams in the Age of AI» Jack Stubbs из команды OpenAI Intelligence & Investigations показал, как ChatGPT может распознавать мошеннические SMS. Анализируя сообщение, модель выявляет ключевые признаки мошенничества и даёт рекомендации по безопасности.
Международные угрозы и контрмеры
Отчёт Axios за 7 октября 2025 года освещает угрозу от иностранных государств, использующих ИИ для хакерства и операций влияния. OpenAI блокирует аккаунты, связанные с такими актёрами, предотвращая создание вредоносного ПО и фишинговых писем.
Мошенничество с использованием видео
Мошенники активно применяют ИИ для создания видео, чтобы обманывать пользователей. Людей заставляют пересылать деньги или переходить по вредоносным ссылкам. Это поднимает вопрос о важности безопасности ИИ.
Частые вопросы
Как OpenAI выявляет сети злоупотреблений?
OpenAI использует анализ данных и сотрудничество с другими организациями для пресечения нелегальной деятельности.
Какие меры принимаются против злоумышленников?
Аккаунты нарушителей блокируются, а информация передаётся партнёрам.
Как пользователи могут защититься от мошенничества?
Использование технологий, таких как ChatGPT, может помочь распознать мошеннические схемы и повысить безопасность.
Какие страны были упомянуты в отчёте?
В отчёте упоминаются группы из Китая и России, использующие ИИ для вредоносной деятельности.
