Акция: держим цены ОСНО моб

ChatGPT начнет незаметно маркировать тексты в ЕС: что это значит и как бизнесу использовать водяные знаки

OpenAI начнет незаметно маркировать тексты ChatGPT и Codex в ЕС. Разбираемся, можно ли обнаружить такую метку, что она доказывает, как защититься от ошибочного обвинения и зачем бизнесу сохранять историю работы с ИИ.

184 просмотра39 открытий

OpenAI начнет добавлять невидимые водяные знаки в тексты ChatGPT и Codex, созданные для пользователей в Европейском союзе. Метка будет находиться не в скрытых символах или пробелах, а в статистическом рисунке слов, выбранных моделью.

Это позволит специальному детектору определить, что текст, вероятно, был создан или обработан системой OpenAI. Но водяной знак не покажет автора, не докажет нарушение и не позволит узнать, какой запрос вводил пользователь.

Что именно объявила OpenAI

5 октября 2026 года OpenAI сообщила, что в течение ближайших недель начнет добавлять невидимые водяные знаки в подходящие текстовые ответы ChatGPT и Codex в ЕС.

Технология получила название textGrain.

Она незаметно изменяет вероятность выбора отдельных слов и частей слов. В результате в длинном тексте появляется статистическая последовательность, которую может распознать детектор, имеющий соответствующий ключ.

В тексте при этом не появляются:

  • скрытые символы;

  • невидимые пробелы;

  • необычные знаки препинания;

  • специальные слова;

  • дополнительная строка с информацией об ИИ.

Простое копирование текста из ChatGPT в Word, Telegram или редактор сайта не должно удалять такую метку: она содержится в самой последовательности слов.

OpenAI вводит маркировку для выполнения требований европейского регулирования искусственного интеллекта. Подробности опубликованы в официальном сообщении компании.

Действительно ли маркировка появится во всех текстах

Не совсем.

OpenAI говорит о подходящих текстовых результатах ChatGPT и Codex для пользователей в ЕС. Внедрение будет происходить постепенно в течение нескольких недель.

Есть и технические ограничения.

Короткие ответы обычно содержат недостаточно слов для надежного обнаружения статистической метки. Код, математические решения, точные цитаты и тексты с жестко заданными формулировками также сложнее маркировать.

В справочном центре OpenAI указано, что европейский кодекс прозрачности не требует маркировки:

  • ответов короче 200 токенов — примерно 150 английских слов;

  • фрагментов программного кода.

Кроме того, охват может зависеть от продукта, модели, способа получения текста и даты его создания.

Поэтому фраза «во все тексты ChatGPT встроят водяной знак» звучит громче, чем реальное объявление.

Кто сможет проверить текст

На первом этапе детектор не будет общедоступным.

OpenAI планирует предоставлять доступ:

  • исследовательским организациям;

  • академическим учреждениям;

  • отдельным экспертным организациям;

  • участникам исследований надежности текстовой маркировки.

Заявки будут рассматриваться индивидуально.

Работодатель, преподаватель, редактор или заказчик не сможет просто вставить текст на открытый сайт OpenAI и получить вердикт: «написано в ChatGPT».

Компания объясняет ограничение риском ложных результатов.

Что на самом деле покажет детектор

Обнаруженная метка означает только одно: в тексте присутствует сигнал, связанный с системой OpenAI.

Она не доказывает:

  • что весь текст написал ИИ;

  • что человек не редактировал материал;

  • что автор не проводил собственное исследование;

  • что текст является плагиатом;

  • что использование ИИ было запрещено;

  • что информация в тексте достоверна;

  • что авторские права принадлежат OpenAI;

  • что конкретный человек пользовался ChatGPT;

  • что известен исходный запрос или содержание переписки.

Метка не содержит имени, аккаунта, названия организации или промпта пользователя.

Если сотрудник загрузил собственный текст и попросил исправить пунктуацию, в результате также может появиться сигнал OpenAI. Детектор при этом не объяснит, написал ли ИИ материал с нуля или только помог отредактировать его.

Отсутствие метки тоже ничего не доказывает

Если детектор не нашел водяной знак, это не означает, что текст точно написал человек.

Причины могут быть разными:

  • материал слишком короткий;

  • текст был существенно отредактирован;

  • использовался другой ИИ-сервис;

  • применялась модель без маркировки;

  • текст создан до запуска технологии;

  • результат был переведен на другой язык;

  • в формулировках было слишком мало свободы для внедрения сигнала;

  • детектор допустил ошибку.

Поэтому нельзя делить тексты на две категории: «метка есть — писал ИИ» и «метки нет — писал человек».

Насколько надежно работает технология

OpenAI прямо предупреждает о ложноположительных и ложноотрицательных результатах.

По данным тестов компании, при целевой доле ложных срабатываний 1% детектор обнаруживал метку:

  • примерно в 80% текстов длиной 200 токенов;

  • примерно в 95% текстов длиной 400 токенов.

Эти результаты получены на определенном типе материалов. Для математических и других строго формализованных текстов качество обнаружения было ниже.

Редактирование также ослабляет сигнал. В эксперименте OpenAI замена 10% слов синонимами снизила обнаружение примерно с 92 до 66%. После замены 25% слов показатель упал до 17%.

Это не инструкция по удалению метки, а демонстрация главного ограничения технологии: текст легко изменяется, поэтому детектор нельзя считать цифровой экспертизой.

Нужно ли бороться с водяным знаком

Обычному пользователю — нет.

Водяной знак:

  • не меняет смысл текста;

  • не добавляет видимых элементов;

  • не раскрывает личность пользователя;

  • не передает получателю историю чата;

  • не показывает исходный промпт;

  • не запрещает редактировать результат;

  • не превращает текст в собственность OpenAI.

Попытка специально «очистить» текст от маркировки обычно решает не ту задачу.

Если материал должен отражать опыт и позицию автора, его в любом случае необходимо переработать:

  • проверить факты и источники;

  • добавить собственные примеры;

  • убрать шаблонные рассуждения;

  • уточнить выводы;

  • привести терминологию к стандартам компании;

  • определить, кто отвечает за публикацию;

  • сохранить историю согласования.

Такая редактура нужна не ради удаления водяного знака, а ради качества и ответственности.

Как защититься от ошибочного обвинения

Водяные знаки создают новый риск: человека могут обвинить в использовании ИИ только на основании результата детектора.

Чтобы защитить автора или сотрудника, компании стоит сохранять доказательства процесса подготовки материала:

  • черновики;

  • историю изменений;

  • исходные данные;

  • использованные источники;

  • расчеты;

  • комментарии редактора;

  • версии документов;

  • протокол согласования;

  • дату создания отдельных частей;

  • описание роли ИИ.

Например, сотрудник может самостоятельно подготовить аналитическую записку, а затем попросить ChatGPT сократить ее. В итоговом тексте может обнаруживаться водяной знак, хотя анализ, цифры и выводы принадлежат сотруднику.

История версий покажет реальный объем человеческой работы значительно лучше, чем детектор.

Как работодателю нельзя использовать детектор

Опасная схема выглядит так:

  1. Работодатель проверяет текст сотрудника.

  2. Детектор сообщает о вероятной метке.

  3. Результат воспринимают как доказательство нарушения.

  4. Сотрудника лишают премии или привлекают к ответственности.

  5. Никто не проверяет правила, исходные материалы и обстоятельства работы.

Так делать не следует.

Результат проверки — это сигнал для уточнения, а не готовое доказательство.

Перед выводами необходимо установить:

  • запрещалось ли использование ИИ;

  • было ли это правило доведено до сотрудника;

  • для какой части работы применялся инструмент;

  • проверял ли сотрудник факты;

  • использовались ли конфиденциальные данные;

  • кто утвердил итоговый документ;

  • повлияло ли применение ИИ на качество результата;

  • существуют ли черновики и история редактирования;

  • мог ли детектор ошибиться.

Особенно опасно использовать автоматический детектор как единственное основание для кадрового решения, оценки студента, отказа кандидату или обвинения в плагиате.

Как использовать маркировку в интересах бизнеса

У технологии есть практическая польза, если относиться к ней как к одному из элементов контроля происхождения контента.

1. Маркировать материалы, создаваемые через корпоративный API

API-клиенты OpenAI за пределами ЕС могут добровольно включить текстовые водяные знаки для поддерживаемых моделей.

Настройка доступна:

  • на уровне организации;

  • на уровне отдельного проекта;

  • для выбранных моделей.

Это может быть полезно, если компания массово создает:

  • описания товаров;

  • ответы службы поддержки;

  • рекламные черновики;

  • внутренние инструкции;

  • справочные материалы;

  • шаблоны писем;

  • автоматические отчеты.

Но включение маркировки не предоставляет автоматический доступ к детектору. Его выдача пока ограничена.

2. Отделять машинный черновик от утвержденного документа

Внутри компании можно установить статусы:

  • создано ИИ;

  • проверено сотрудником;

  • подтверждены источники;

  • согласовано специалистом;

  • утверждено ответственным лицом.

Водяной знак помогает подтвердить происхождение черновика, но юридическое и управленческое значение имеет не сама метка, а процедура проверки.

3. Контролировать массовый пользовательский контент

Маркировка может стать дополнительным сигналом для платформ с отзывами, объявлениями, комментариями и экспертными материалами.

Например, система может отправить на дополнительную проверку:

  • сотни однотипных отзывов;

  • массовые рекламные комментарии;

  • автоматически созданные карточки компаний;

  • публикации, имитирующие личный опыт;

  • подозрительно похожие обращения.

Но удалять материал только из-за обнаруженного водяного знака нельзя: пользователь мог применять ИИ для перевода или редактирования собственного текста.

4. Подтверждать прозрачность корпоративного контента

Компания может честно указывать:

Материал подготовлен с использованием ИИ и проверен редактором.

Такая формулировка часто полезнее попытки доказать, что к тексту никогда не прикасалась нейросеть.

Для читателя важнее понимать:

  • кто отвечает за содержание;

  • проверены ли факты;

  • актуальны ли источники;

  • есть ли профессиональная экспертиза;

  • какую роль выполнял ИИ.

5. Готовиться к требованиям заказчиков

Европейские заказчики могут начать включать в договоры требования к происхождению текстов:

  • сообщать об использовании генеративного ИИ;

  • сохранять историю подготовки;

  • передавать материалы с маркировкой;

  • подтверждать человеческую проверку;

  • не загружать данные заказчика во внешние сервисы;

  • указывать ответственного редактора.

Российским компаниям, работающим с клиентами из ЕС, стоит заранее обсудить эти правила с юристами и заказчиками.

Какая политика использования ИИ нужна компании

Вместо запрета «не использовать ChatGPT» лучше описать допустимые сценарии.

В политике можно закрепить:

Можно без дополнительного согласования:

  • улучшать структуру текста;

  • сокращать черновики;

  • исправлять стиль;

  • готовить варианты заголовков;

  • составлять перечень вопросов;

  • обрабатывать обезличенную информацию.

Можно только после проверки специалистом:

  • готовить юридические документы;

  • объяснять налоговые правила;

  • анализировать договоры;

  • создавать финансовые отчеты;

  • писать ответы государственным органам;

  • публиковать материалы от имени компании.

Нельзя загружать в публичный сервис:

  • персональные данные;

  • коммерческую тайну;

  • банковские реквизиты;

  • закрытые договоры;

  • пароли и ключи;

  • непубличную отчетность;

  • внутреннюю переписку;

  • документы клиентов без разрешения.

Отдельно следует определить, когда необходимо раскрывать использование ИИ и кто несет ответственность за финальный текст.

Что делать редакциям и авторам

Авторам не нужно искусственно переписывать каждую фразу только ради возможного детектора.

Правильнее выстроить понятный рабочий процесс:

  1. Автор определяет тему и позицию.

  2. Собирает источники и факты.

  3. Использует ИИ для структуры или черновика.

  4. Проверяет каждое фактическое утверждение.

  5. Добавляет собственные выводы и примеры.

  6. Редактирует материал под аудиторию.

  7. Сохраняет источники и историю версий.

  8. Берет ответственность за публикацию.

В таком процессе обнаружение водяного знака не обесценивает работу автора. Оно лишь показывает, что на одном из этапов применялся инструмент OpenAI.

Главное

Невидимый знак ChatGPT — не шпионская метка и не способ установить личность пользователя. Это статистический сигнал в подборе слов.

Он может помочь определить вероятное участие системы OpenAI, но не отвечает на более важные вопросы:

  • кто придумал содержание;

  • кто проверил факты;

  • сколько текста написал человек;

  • можно ли доверять материалу;

  • кто несет ответственность;

  • нарушил ли автор правила.

Поэтому бизнесу следует не бороться с водяными знаками, а научиться правильно интерпретировать их.

Метка может стать полезным элементом прозрачности. Но она не заменяет внутреннюю политику, историю версий, проверку источников и человеческую ответственность.

Информации об авторе

Этот пост написан блогером Трибуны. Вы тоже можете начать писать: сделать это можно .

Начать дискуссию
ГлавнаяПодписка