Ставит ли Gemini водяной знак на свои тексты? Объясняем SynthID

Да. С мая 2024 года Google помечает тексты из приложения Gemini и веб-версии Gemini с помощью SynthID — невидимого водяного знака, встроенного в слова, которые выбирает модель. Google DeepMind объявила об этом вместе с водяными знаками для видео Veo, позже опубликовала метод в Nature и выпустила версию с открытым исходным кодом. Кроме того, Google необычно откровенно говорит об ограничениях: по её собственным словам, показатели уверенности SynthID «могут значительно снижаться, если сгенерированный ИИ текст тщательно переписан или переведён на другой язык».

В этой статье — что такое SynthID для текста, где он применяется, что его ослабляет и почему вы не можете сами проверить на него текст Gemini.

Что такое SynthID для текста

SynthID появился как водяной знак для изображений, созданных ИИ, и вырос в семейство техник для изображений, аудио, видео и текста. Текстовая версия работает иначе, чем остальные, потому что здесь нет изображения, в котором можно что-то спрятать.

Вместо этого она работает со словами. Как описывает Google DeepMind, языковая модель присваивает каждому возможному следующему слову оценку вероятности. SynthID с помощью секретного ключа слегка корректирует эти оценки, так что на протяжении фрагмента выбранные слова складываются в закономерность. Текст читается так же, закономерность невидима, но детектор, у которого есть ключ, может оценить, насколько фрагмент ей соответствует.

Прежде чем писать об этом, Google проверила метод в реальной работе. В статье в Nature, опубликованной в октябре 2024 года, Google DeepMind сообщила об испытании почти на 20 миллионах ответов Gemini и не нашла существенной разницы в том, как пользователи оценивали ответы с водяным знаком и без него.

Где действует водяной знак Gemini

В объявлении Google названы приложение и веб-версия Gemini. API там не упоминается, а ответы сотрудников Google на форуме для разработчиков противоречат друг другу. Пока Google не скажет прямо, считайте, что ни наличие, ни отсутствие знака в тексте из API не подтверждено.

Кроме того, Google вместе с Anthropic, Meta, Microsoft и OpenAI подписала кодекс практики ЕС по маркировке контента, созданного ИИ, в рамках Закона ЕС об ИИ. И Claude, и ChatGPT ввели текстовые водяные знаки в 2026 году; знак Gemini — самый старый из трёх.

Что ослабляет SynthID, по словам Google

Пост Google от мая 2024 года сам перечисляет ограничения:

• Тщательное переписывание. Показатели уверенности «могут значительно снижаться, если сгенерированный ИИ текст тщательно переписан».
• Перевод. Та же фраза продолжается: «…или переведён на другой язык».
• Фактические ответы. SynthID «менее эффективен на ответах на фактические запросы». Когда правильный ответ только один, выбирать между словами почти не из чего, а значит, почти нечего и смещать.
• Длина. Метод «лучше всего работает, когда языковая модель генерирует более длинные ответы». В коротком ответе слишком мало смещений, чтобы их измерить.

Общий знаменатель — пространство для выбора. Водяной знак живёт в том, как модель выбирала между хорошими альтернативами. Уберите этот выбор — заменив слова или задав вопрос, на который возможен лишь один ответ, — и закономерность уйдёт вместе с ним.

Это же объясняет, что его не ослабляет. SynthID не состоит из скрытых символов, поэтому инструменты, которые вычищают пробелы нулевой ширины или заменяют пунктуацию, его не затрагивают. Лёгкая правка оставляет бо́льшую часть исходного выбора слов на месте. Полное переписывание новыми словами, а именно это делает хьюманайзер, заменяет бо́льшую его часть.

Можно ли проверить текст Gemini на SynthID?

Сегодня нет, и не из-за отсутствия инструментов:

• Портал SynthID Detector проверяет файлы изображений, видео и аудио. На собственной странице Google текст среди поддерживаемых форматов не указан.
• Открытая библиотека SynthID Text доступна на GitHub и в Hugging Face Transformers. Она позволяет разработчикам ставить и обнаруживать водяные знаки в тексте собственных моделей с собственными ключами. Считать водяной знак Gemini она не может, потому что ключи Gemini не опубликованы.
• Сторонние «проверки SynthID» для вставленного текста ключа Google тоже не имеют. В лучшем случае они запускают обычный детектор ИИ, который делает выводы по стилю письма и ошибается.

Так что если кто-то говорит, что нашёл в вашем тексте водяной знак Gemini, спросите, как именно. Провести такую проверку на ответах Gemini может только Google.

Что доказывает водяной знак, а что нет

Сама Google говорит, что SynthID «не панацея» для распознавания контента ИИ. Обнаруженный знак — весомое свидетельство того, что фрагмент создал Gemini. Отсутствие знака доказывает немногое: текст может быть коротким, фактическим, отредактированным, переведённым или написанным моделью, которая не использует SynthID.

Что это значит, если вы пишете с Gemini

• Сначала проверьте правила. Учебные заведения, издатели и работодатели сами устанавливают правила о помощи ИИ и о её раскрытии. Водяной знак их не меняет, и переписывание тоже.
• Исходите из того, что текст из приложения Gemini помечен. Сильнее всего знак в длинных ответах на открытые вопросы.
• Небольшая правка оставляет бо́льшую его часть. Знак ослабляет тщательное переписывание — так говорит сама Google, — а заодно оно обычно делает текст похожим на вас.
• Чистильщики символов ничего не дают. SynthID — в словах.

Если хотите, чтобы переписывание сделали за вас, инструмент «Удаление водяного знака Gemini» запускает наш хьюманайзер на тексте Gemini: он переписывает каждое предложение новыми словами, а затем сверяет результат с вашим черновиком и отмечает каждое изменившееся число, имя или ссылку на источник. Попробовать можно прямо на странице, без аккаунта.

Коротко

С мая 2024 года Google помечает тексты из приложения и веб-версии Gemini с помощью SynthID; помечаются ли тексты из API, однозначно не сообщается. Знак — это закономерность в выборе слов: читатель её не видит, а проверить её самостоятельно невозможно, потому что ключи Gemini не опубликованы. По словам Google, тщательное переписывание или перевод значительно его ослабляют, а на коротких и фактических ответах он слабее. Удаление символов ничего не даёт.