Инструмент под названием Nightshade изменяет данные таким образом, что может нанести серьезный ущерб моделям искусственного интеллекта, генерирующим изображения.

Новый инструмент позволяет художникам вносить невидимые изменения в пиксели своего рисунка перед загрузкой его в Интернет. Если он будет добавлен в обучающий набор искусственного интеллекта, это может привести к хаотичным и непредсказуемым поломкам результирующей модели.

Инструмент под названием Nightshade предназначен для борьбы с компаниями, занимающимися искусственным интеллектом, которые используют работы художников для обучения своих моделей без разрешения создателя. Его использование для обработки данных может повредить будущие модели ИИ, генерирующие изображения, такие как DALL-E, Midjourney и Stable Diffusion, сделав некоторые из их результатов бесполезными — собаки становятся кошками, автомобили - коровами и так далее.

"Nightshade может оказать большое влияние, если заставит компании с ИИ больше уважать права художников — например, с большей готовностью выплачивать авторские гонорары", - сообщил Цзюньфэн Янг, профессор компьютерных наук Колумбийского университета.

По материалам technologyreview