Google DeepMind добавляет водяные знаки на изображения, созданные ИИ

Инструмент SynthID пока доступен в бета-версии для пользователей платформы для создания приложений и моделей ИИ Vertex AI. Он встраивает цифровой водяной знак прямо в пиксели изображения, что делает его невидимым для человека, но заметным для алгоритмов. Пока SynthID поддерживает идентификацию только контента, созданного через собственную модель ИИ Google Imagen, доступную исключительно в Vertex AI.

Одновременно с раскрытием огромного творческого потенциала генеративный искусственный интеллект несет в себе новые риски. Например, позволяет распространять ложную информацию. Поэтому возможность идентифицировать сгенерированный контент играет значительную роль для предотвращения дезинформации и предоставления информации о том, как люди взаимодействуют с разным контентом.

Водяные знаки SynthID остаются на месте, даже если изображение пропустить через фильтры, изменить цвета или сильно сжать. Дело в том, что инструмент использует 2 модели искусственного интеллекта: одну для нанесения защитных символов, а другую для обнаружения результатов работы искусственного интеллекта. Обе при этом были обучены вместе на разнообразных наборах контента. Но естественно, SynthID не защищен от экстремальных манипуляций и не дает 100%-ную уверенность в результате. Но он позволяет ответственно работать с контентом, созданным искусственным интеллектом, а также дает стимул для развития подобных инструментов для аудио, видео и текстов.

В последнее время на технологические компании усилилось давление контролирующих органов: они требуют, чтобы весь контент, созданный с помощью ИИ, был идентифицирован и помечен. Это правило действует в Китае, а французский стартап Imatag с 2020 года наносит подобные водяные знаки. В Microsoft подтвердили обязательство помечать ИИ-контент, Midjourney также встраивает маркер в свои изображения, то же самое делает DALL-E 2 от OpenAI. Несмотря на это, общего стандарта водяных знаков для подобного контента не существует, и SynthID вряд ли изменит эту ситуацию. Кроме того, неясна судьба изображений, созданных генераторами ИИ с открытым кодом.