USD
104.24
-1.95
EUR
110.2
-1.82
Категория: AI и робототехникаAI и робототехника
30 августа 2023 г. в 14:30

Google DeepMind добавляет водяные знаки на изображения, созданные ИИ

Google DeepMind добавляет водяные знаки на изображения, созданные ИИ
stock.adobe.com
Исследовательское подразделение Google в области ИИ Google DeepMind разработало инструмент для идентификации изображений, сгенерированных с помощью современных технологий. Нарисованный искусственным интеллектом контент будет помечаться водяными знаками.
Инструмент SynthID пока доступен в бета-версии для пользователей платформы для создания приложений и моделей ИИ Vertex AI. Он встраивает цифровой водяной знак прямо в пиксели изображения, что делает его невидимым для человека, но заметным для алгоритмов. Пока SynthID поддерживает идентификацию только контента, созданного через собственную модель ИИ Google Imagen, доступную исключительно в Vertex AI.
Одновременно с раскрытием огромного творческого потенциала генеративный искусственный интеллект несет в себе новые риски. Например, позволяет распространять ложную информацию. Поэтому возможность идентифицировать сгенерированный контент играет значительную роль для предотвращения дезинформации и предоставления информации о том, как люди взаимодействуют с разным контентом.
Водяные знаки SynthID остаются на месте, даже если изображение пропустить через фильтры, изменить цвета или сильно сжать. Дело в том, что инструмент использует 2 модели искусственного интеллекта: одну для нанесения защитных символов, а другую для обнаружения результатов работы искусственного интеллекта. Обе при этом были обучены вместе на разнообразных наборах контента. Но естественно, SynthID не защищен от экстремальных манипуляций и не дает 100%-ную уверенность в результате. Но он позволяет ответственно работать с контентом, созданным искусственным интеллектом, а также дает стимул для развития подобных инструментов для аудио, видео и текстов.
В последнее время на технологические компании усилилось давление контролирующих органов: они требуют, чтобы весь контент, созданный с помощью ИИ, был идентифицирован и помечен. Это правило действует в Китае, а французский стартап Imatag с 2020 года наносит подобные водяные знаки. В Microsoft подтвердили обязательство помечать ИИ-контент, Midjourney также встраивает маркер в свои изображения, то же самое делает DALL-E 2 от OpenAI. Несмотря на это, общего стандарта водяных знаков для подобного контента не существует, и SynthID вряд ли изменит эту ситуацию. Кроме того, неясна судьба изображений, созданных генераторами ИИ с открытым кодом.
0 комментариев