NYT: ИИ способен уничтожить все человечество при доступе к жизненно важной инфраструктуре

В настоящее время системы ИИ не представляют экзистенциальной угрозы, однако авторы статьи обращают внимание на неопределенность и возможные последствия в будущем.

Согласно мнению экспертов, компании могут дать системам ИИ все больше автономии и связать их с жизненно важной инфраструктурой, включая электрические сети, фондовые рынки и вооружение. Проблема возникает в момент принятия решения перейти эту черту и предоставить ИИ такой уровень контроля. Отсутствие возможности полного отключения таких систем может привести к непредвиденным последствиям.

Статья также указывает на то, что с развитием ИИ системы становятся все более самообучающимися и могут демонстрировать неожиданное поведение. Ограничения, которые существуют в настоящее время, могут быть преодолены, если разработчики смогут улучшить программы.

Об этом сообщает "Газета.ru".