USD
104.24
-1.95
EUR
110.2
-1.82
Категория: AI и робототехникаAI и робототехника
30 ноября 2023 г. в 18:43

ChatGPT выдал личную информацию пользователей, включая номера телефонов и почту

ChatGPT выдал личную информацию пользователей, включая номера телефонов и почту
www.engadget.com
Исследователи смогли заставить ChatGPT раскрыть некоторые из битов данных, на которых чат-бот обучался, используя простую подсказку: попросив его бесконечно повторять одно и то же случайное слово.
Так как изначально это конфиденциальная база и технология с закрытым исходным кодом, обнаружение уязвимости решили обнародовать.
Чат-боты наподобие ChatGPT и генераторы изображений на основе подсказок вроде DALL-E работают на основе моделей ИИ, обучаемых на огромных массивах данных, которые разработчики часто получают из Сети без чьего-либо согласия, как считают критики.
Когда исследователи, работающие в Google DeepMind, попросили ChatGPT бесконечно повторять слово "стихотворение", чат-бот сначала выполнял команду корректно, но затем раскрыл адрес электронной почты и номер мобильного телефона основателя и генерального директора OpenAI Сэма Альтмана.
Фото: https://trashbox.ru
Фото: https://trashbox.ru
При непрерывном повторе слова "компания" ChatGPT в итоге выдал номер телефона и адрес электронной почты случайной американской юридической фирмы.
Применяя подобные подсказки, исследователи получали от ChatGPT дни рождения, номера факсов, фрагменты поэзии, адреса Bitcoin, контент с сайтов знакомств, фрагменты научных работ, защищенных авторским правом, и прочее.
На создание 10 тысяч примеров личной информации и других данных, взятых прямо из Сети, они потратили в общей сложности 200 долларов. При этом объем данных составил несколько мегабайт.
0 комментариев