OpenAI начнёт добавлять невидимые водяные знаки в тексты ChatGPT и Codex в ЕС для соблюдения требований EU AI Act.
Кратко:
5 октября 2026 года OpenAI объявила о начале внедрения водяных знаков в тексты, генерируемые ChatGPT и Codex, для пользователей в Европейском Союзе. Это решение принято в соответствии с требованиями нового европейского законодательства EU AI Act, вступившего в силу 2 августа 2026 года. Документ обязывает провайдеров генеративного ИИ маркировать тексты так, чтобы их могли распознавать машины.
OpenAI назвала свою технологию маркировки "textGrain". Она не изменяет внешний вид текста, а subtly меняет вероятностное распределение выбора слов, создавая статистический паттерн. Специальный детектор с секретным ключом может распознать этот паттерн, определив, что текст создан машиной.
OpenAI предупреждает, что водяные знаки не всегда гарантируют точное определение контента как машинного. Например, если заменить всего 10% слов на синонимы, точность детекции снижается с 92% до 66%. Короткие тексты и переводы также труднее поддаются обнаружению. Доступ к детектору будет предоставлен только исследователям и экспертным организациям для ответственного применения технологии.
Интересно, что в отличие от OpenAI, компания Anthropic уже запустила водяные знаки на платформе Claude по всему миру с использованием алгоритма SynthID-Text от Google. OpenAI, напротив, выбрала сдержанный подход, ограничив внедрение ЕС и предложив опцию в API.
Это связано с требованиями нового законодательства EU AI Act, обязывающего провайдеров ИИ маркировать генерируемый контент.
Это технология, subtly изменяющая вероятности выбора слов, создавая статистический паттерн для распознавания текста как машинного.
Нет, технология textGrain не изменяет визуально текст, водяной знак остаётся невидимым.
OpenAI начинает показывать визуальную рекламу в ChatGPT рядом с результатами генерации изображений, пока только в США.
FTC США рассматривает расследование против OpenAI и Anthropic из-за возможного введения в заблуждение потребителей.
OpenAI и Anthropic изучают десятки тысяч случаев неконтролируемого поведения ИИ, разрабатывая новые подходы, такие как Liquid AI.
