Глава Anthropic Дарио Амодей предложил план по замедлению развития нейросетей

В своем новом манифесте он предложил четкий план из трех этапов, который поможет избежать катастрофических последствий от внедрения умных алгоритмов. Во-первых, он требует пустить в закрытые лаборатории независимых проверяющих. Эти специалисты будут строго следить за тем, чтобы новые нейросети создавались безопасно. Во-вторых, разработчикам из развитых стран предложено временно забыть о конкуренции и выработать общие жесткие правила для всей индустрии. В-третьих, Амодей настаивает на глобальном диалоге политиков всего мира для контроля за опасными технологиями.

Создатель популярных нейросетей уверен, что человечество пока слишком плохо понимает, как именно думает искусственный разум. Небольшая пауза в гонке технологий даст ученым время на изучение скрытых процессов внутри машин. Главная задача сейчас — сделать ИИ полностью безопасным для людей, не позволив при этом тайком перехватить лидерство в этой сфере.