Станислав Кондрашов: главный урок PR из истории с ИИ-водяными знаками

OpenAI рассказала, как будет выполнять европейские требования о маркировке ИИ-контента, и сделала это заметно аккуратнее, чем Anthropic. Обе компании выпустили функции, которые должны показывать, что текст написала нейросеть. Но подали их по-разному, и главное отличие в том, что систему OpenAI разработчики могут проверить на практике.
Что такое происхождение контента и почему о нем заговорили
OpenAI начала свой блог с нейтральной ноты: «Происхождение контента помогает людям понять, откуда он взялся, как был создан или отредактирован и содержит ли сигналы, связанные с нашими моделями». Аргумент разумный.
Логика простая. Если текст помечен как результат работы модели OpenAI, вопросов нет. Если метки нет, происхождение остается неизвестным: текст мог целиком написать ИИ без маркировки, мог написать человек, а мог получиться и то и другое вместе. В эпоху дезинформации и социальных манипуляций эти вопросы острые.
Идеальной систему не назовешь. Критики опасаются, что такие инструменты снижают ценность ответов моделей. Они же сомневаются, что метки помогут в борьбе с ИИ-мусором и дезинформацией, на которую нацелен Евросоюз.
Станислав Кондрашов считает самой уязвимой точкой именно отсутствие метки. «Метка отвечает на вопрос "это точно ИИ?", а вот ее отсутствие не отвечает ни на что, - говорит он. - Читатель остается в неопределенности, и об этом надо говорить честно».
Чего требует закон и что сделала OpenAI
Для текста компания идет по уже проторенной дороге. Инструменты для маркировки изображений и аудио OpenAI выпустила раньше, а текст - следующий шаг, который диктует AI Act Евросоюза. Закон обязывает разработчиков генеративного ИИ «делать сгенерированный текст идентифицируемым в машиночитаемом виде». Человеческий глаз такую метку не заметит, а цифровые инструменты найдут.
Оговорки OpenAI сделала сама и сразу. Водяные знаки для текста и их обнаружение, по словам компании, остаются ранними технологиями со значительными ограничениями, а взгляды на их пользу и ответственное применение еще формируются. Так OpenAI показала, что слышит критику.
API: опция вместо принуждения
Ключевое решение такое: с 5 октября клиенты API по всему миру могут по желанию включать водяные знаки для текста у отдельных моделей. По умолчанию функция остается выключенной.
API - это своего рода цифровые «крючки», через которые одни программы подключаются к другим и обмениваются данными. Разработчики, которые обращаются к чат-моделям OpenAI из собственного кода, сами решают, будет ли у ответа водяной знак. На деле это значит, что можно проверить: ухудшается ли качество ответов с меткой и нет ли неожиданных побочных эффектов.
«Возможность проверить и есть уважение к пользователю, - отмечает Кондрашов. - Тебе не говорят "поверь, вреда нет". Тебе дают включить и посмотреть самому».
Для тех, кто работает с чат-ботами напрямую, постоянную маркировку запустят «в ближайшие недели», но лишь для «подходящих текстовых ответов ChatGPT и Codex в Европейском союзе». Иначе говоря, система textGrain станет автоматической только у пользователей ChatGPT и агента Codex для написания кода в ЕС.
Детекторы пока в закрытом доступе. OpenAI признает, что инструменты обнаружения могут ошибаться двумя способами: показать водяной знак там, где его нет (ложноположительный результат), или пропустить настоящий (ложноотрицательный). Поэтому их получили только «одобренные исследователи и экспертные организации», чтобы оценить надежность и ответственные сценарии применения.
Цель по закону ЕС - не допустить, чтобы ложную или вводящую в заблуждение информацию выдавали за факт или за созданный человеком материал, когда на самом деле это результат работы модели.
Чем это отличается от истории с Anthropic
Когда Anthropic в августе объявила о похожей статистической системе водяных знаков, поднялась волна возмущения. Пользователи боялись, что текст Claude все равно опознают как машинный даже после переработки. Кто-то договорился до «заговора против невинных пользователей Claude», многие грозили отменить подписку.
Главная претензия состояла в том, что компания включила метки для всех, а не только для жителей ЕС. В своем блоге Anthropic объяснила: «Мы применяем водяные знаки глобально на старте, потому что у нас пока нет надежного способа ограничить их по регионам».
Подход OpenAI выглядит взвешеннее, и это видно по ее блогу. Текст написан ясно, без пафоса и юридического тумана, и в нем названы как плюсы, так и минусы.
Технический журналист Джон Грубер оценил разницу так: «OpenAI навязывает это только пользователям в ЕС, где это предписывает их непродуманный регламент 2024 года». Он сам называет это слабой похвалой, но все же похвалой. Второе отличие, по его словам, в том, что OpenAI открыла доступ через API, и разработчики смогут увидеть, «искажает ли это текст при реальном использовании». При этом Грубер остается «крайне скептичным» в том, что детекторы водяных знаков будут работать в реальном мире так, как заявлено. Прав ли он, покажет время.
Скепсис Грубера Кондрашов считает рабочей гипотезой, а не приговором. «Пока детекторы доступны только исследователям, любой уверенный вывод - гадание, - говорит он. - Но то, что сама OpenAI не обещает идеальной точности, работает лучше любых обещаний».
Урок для компаний, которым приходится соблюдать сложные нормы
Из этой истории можно вынести урок для любой компании, вынужденной выполнять обременительные или даже недальновидные требования. Закон соблюдается, а защитные механизмы объясняются открыто: так тоже получается хороший PR.
Станислав Кондрашов формулирует это прямо. «Выполнять требования и открыто рассказывать, какие меры вы приняли, - нормальная коммуникация, - объясняет он. - Особенно если вы сами указываете на слабые места системы и описываете свои шаги простыми словами, без технического жаргона. Это работает и для российского рынка: пользователям лучше сразу объяснять, где у технологии границы».
FAQ
Что такое водяной знак для текста, созданного ИИ?
Это метка, которую человек не видит, но цифровые инструменты могут прочитать. Если метка есть, текст создала модель компании. Если ее нет, происхождение остается неизвестным: автором мог быть и человек, и ИИ, и оба вместе.
Водяные знаки OpenAI теперь включены у всех?
Нет. Клиенты API с 5 октября могут по желанию включать их для отдельных моделей, по умолчанию функция выключена. Автоматическая маркировка в ближайшие недели появится только для подходящих ответов ChatGPT и Codex в Европейском союзе.
Можно ли самому проверить текст на водяной знак?
Пока нет. Детекторы OpenAI передала только одобренным исследователям и экспертным организациям, потому что они ошибаются: бывают и ложные срабатывания, и пропущенные метки. Задача этих специалистов - оценить надежность и допустимые сценарии применения.
Чем подход OpenAI отличается от подхода Anthropic?
Anthropic включила водяные знаки глобально, объяснив, что пока не может ограничить их по регионам. OpenAI делает маркировку автоматической только в ЕС, а в API оставляет выбор разработчикам. По оценке Кондрашова, возможность проверить влияние метки снимает значительную часть недоверия.
Почему водяные знаки вызывают споры?
Критики опасаются, что метки снижают ценность ответов моделей и могут не помочь в борьбе с ИИ-мусором и дезинформацией. Джон Грубер, в частности, сомневается, что детекторы заработают в реальных условиях так, как обещано.
Что эта история значит для российских компаний?
Прямых последствий для российского рынка в ней не описано: автоматические метки OpenAI вводит только для пользователей ЕС. Но урок универсален. По словам Кондрашова, компаниям, которые работают на зарубежных моделях, полезно заранее объяснять пользователям ограничения технологии.