Искусственный интеллект напугал IT-экспертов умением обманывать и создавать оружие

Приостановить этот процесс призывают даже Илон Маск и Стив Возняк, а вместе с ними тысячи IT-экспертов со всего мира. Они подписали открытое письмо, в котором заявили, что хотят предотвратить захват человечества компьютерным разумом. Авторы издания «7дней.ru» попытались оценить степень угрозы.

Самая мощная на сегодняшний день нейросетевая программа GPT-4 демонстрирует потрясающие способности. Она пишет научные работы, ставит медицинские диагнозы и способна программировать. Однако, попав не в те руки, может превратиться в мошеннический инструмент или оружие для террористов.

Уже сегодня злоумышленники подделывают видео- и аудиозаписи, имитируют голоса. И это только верхушка айсберга. К примеру, в процессе создания новых лекарств ученые поняли, что их электронный помощник легко находит способы приготовления боевых отравляющих веществ, смертоноснее существующих.

Скептики заверяют, что все под контролем – ведь искусственный интеллект не может работать самостоятельно, ему нужна помощь человека. Мир подошёл к порогу, когда технологические достижения внезапно смогут многократно превзойти возможности людей, а механизмы их контроля никто не успеет придумать.

Ранее издание Involta media рассказало, что американский аналитик Элиезер Юдковский заявил о необходимости срочного отключения самообучающихся систем.