В данных для обучения генеративных нейросетей нашли более 1000 изображений жестокого обращения с детьми

В открытой базе данных LAION-5B было найдено более тысячи изображений с действиями насильственного характера над детьми. Эта база используется для обучения генеративных нейросетей, в числе которых Stabel Diffusion.

Об этом стало известно сотруднику Стэнфордской интернет-обсерватории Дэвиду Тилю. Он обнаружил факт применения детской порнографии для создания нейросетями поддельных изображений с насилием над детьми. Эти изображения активно распространяли в даркнете.

Тиль с коллегами провели исследование и определили, что причиной производства такого контента является обучение ИИ-моделей на базе данных LAION-5B. После публикации отчета LAION отключила свои базы, чтобы провести проверку.

Стоит отметить, что подобные базы данных формируются автоматически, собирая информацию по всей Сети. Именно поэтому возможность добавления запрещенного контента в такие базы всегда существует.

Однако, по мнению экспертов, после удаления данных проблема не будет решена, поскольку несколько нейросетей уже обучились на неподобающем контенте. На данный момент неясно, как много пользователей успели использовать подобные базы данных или нейросеть с открытым исходным кодом.

Сотрудники интернет-обсерватории внесли предложение исключить возможность использования образов детей в моделях, которые генерируют фото эротического характера.

Ранее мы сообщали, что ИИ-робот CyberRunner превзошел человека по точности и ловкости.

0 комментариев