Существует ли угроза грядущего апокалипсиса от искусственного интеллекта?

Технологии, такие как виртуальные помощники, программы распознавания речи и голоса и машинное обучение уже внедрены в наши ежедневные программы, помогая нам, даже не замечая этого. Например, в фильме «Она» виртуальный помощник ИИ помог герою Джоакину Фениксу противостоять одиночеству. Однако все не так прекрасно, и уже ведутся дискуссии о последствиях стремительного развития ИИ, особенно если его не будут контролировать. Текущие риски ИИ включают потерю рабочих мест, создание ленивых людей и даже влияние на выборы. Это уже стало очевидным, когда Сумит Шах, основатель компании электронной коммерции, заменил 90 процентов сотрудников службы поддержки на ИИ-помощников.

Однако будущая угроза может быть гораздо более пугающей. Фильм «Терминатор» может быть нереалистичной научно-фантастической лентой 80-х годов с киборгами-убийцами и грядущими катастрофами, но угроза, подобная Скайнет, может стать реальностью с существующим ИИ, порождающим существенные риски и возможный апокалипсис.

Но случится ли это когда-нибудь? Ответы на этот вопрос могут дать эксперты по риску вымирания, суперпрогнозисты и исследователи.

Отчет The Economist, основанный на исследовании Эзры Каргера, экономиста Федерального резервного банка Чикаго, и Филипа Тетлока, политолога из Университета Пенсильвании, бросает свет на возможную апокалипсис, вызванную искусственным интеллектом. В статье, опубликованной 10 июля, исследователи провели опрос с участием двух групп людей.

С одной стороны были эксперты в области ядерной войны, уничтожения ИИ и биологического оружия. С другой стороны - «суперпрогнозисты», люди, делающие прогнозы на основе статистических данных. Им было предложено оценить вероятность возможной катастрофы или апокалипсиса, вызванного событиями, такими как взятие под контроль ИИ, атаки биологическим оружием и ядерные войны. Удивительно, что наиболее пессимистичные прогнозы были даны именно доменными экспертами, более 20 процентов из которых предсказывают возможную катастрофу к 2100 году, а вероятность вымирания составляет 6 процентов. Суперпрогнозисты, напротив, дали этим событиям вероятность 9 процентов и 1 процент соответственно.

Но будет ли это вызвано ИИ? 12 процентов экспертов так считают, предсказывая катастрофическое воздействие технологии. 3 процента даже предсказывают полное вымирание нашего вида. Суперпрогнозисты, с другой стороны, предвидят меньшее влияние ИИ: только 2,1 процента из них предполагают катастрофу, вызванную ИИ, в то время как всего 0,38 процента считают, что он может вызвать вымирание человечества.

Хотя возможность глобального вымирания из-за ИИ может быть обсуждаемой исключительно через 1000 лет, он все же представляет риски, угрожающие нашему ближайшему будущему. С развитием технологий могут исчезнуть рабочие места, и это уже происходит. Согласно отчету «The Future of Jobs Report 2020» Всемирного экономического форума, к 2025 году ИИ может заменить до 85 миллионов рабочих мест по всему миру. Джеффри Хинтон, «отец-основатель» ИИ, даже покинул должность в Google, назвав влияние ИИ на рабочие места причиной своего ухода.

Но принесет ли искусственный интеллект гибель, подобную Скайнету? На данный момент мы можем только надеяться, что мы научимся интегрировать эту технологию в жизнь, не допуская ее полного превращения в господствующую силу.