ChatGPT выдал личную информацию пользователей, включая номера телефонов и почту

Исследователи смогли заставить ChatGPT раскрыть некоторые из битов данных, на которых чат-бот обучался, используя простую подсказку: попросив его бесконечно повторять одно и то же случайное слово.

Так как изначально это конфиденциальная база и технология с закрытым исходным кодом, обнаружение уязвимости решили обнародовать.

Чат-боты наподобие ChatGPT и генераторы изображений на основе подсказок вроде DALL-E работают на основе моделей ИИ, обучаемых на огромных массивах данных, которые разработчики часто получают из Сети без чьего-либо согласия, как считают критики.

Когда исследователи, работающие в Google DeepMind, попросили ChatGPT бесконечно повторять слово "стихотворение", чат-бот сначала выполнял команду корректно, но затем раскрыл адрес электронной почты и номер мобильного телефона основателя и генерального директора OpenAI Сэма Альтмана.

При непрерывном повторе слова "компания" ChatGPT в итоге выдал номер телефона и адрес электронной почты случайной американской юридической фирмы.

Применяя подобные подсказки, исследователи получали от ChatGPT дни рождения, номера факсов, фрагменты поэзии, адреса Bitcoin, контент с сайтов знакомств, фрагменты научных работ, защищенных авторским правом, и прочее.

На создание 10 тысяч примеров личной информации и других данных, взятых прямо из Сети, они потратили в общей сложности 200 долларов. При этом объем данных составил несколько мегабайт.

0 комментариев