Искусственный интеллект будет создавать биологическое оружие и опасные вирусы

На днях руководитель компании AI biz пообщался с подкомитетом Сената США и высказал опасения касательно угроз. Он считает, что необходимо регулировать модели ИИ в областях науки, техники, кибербезопасности и ядерных технологий. Он добавил, что регулирование должно начаться в ближайшее время.

Для предотвращения таких последствий был создан стартап Anthropic, который занимается созданием продуктов по безопасности. Самый популярный продукт компании - чат-бот Claude. В последние пол года команда стартапа сотрудничала с экспертами в области биозащиты и рассматривала варианты использования нейронных сетей для разработки оружия в будущем.

Несмотря на то, что фундаментальные принципы создания ядерного оружия давно известны, сам процесс не так прост. Разработка устройств такого плана (производство, разработка взрывчатки, миниатюризация) - трудоемкий процесс, и некоторые этапы строго засекречены. С биологическим оружием дела обстоят так же, о полном цикле создания знает очень мало людей.

Однако из-за быстрого обучения искусственного интеллекта эти пробелы, которые мешают преступникам создавать оружие такого масштаба, могут быть заполнены.

По данным исследователей, люди уже начали обращаться к чат-ботам с вопросами о создании бомб. Несмотря на то, что чат-боты обычно защищены от тем такого рода и чаще всего не выдают опасную информацию пользователям, какие-то прорехи в их системе могут помочь преступникам ее получить.

Для обучения таких моделей используются огромные объемы данных, которые включают научные статьи и учебники. По мере своего развития чат-боты могут лучше получать информацию, что повлияет на их способность совершать открытия. Также они смогут давать ответы, которые ранее были недоступны обычным людям из-за соображений безопасности.

Исходя из данных, LLM представляют потенциальную угрозу национальной безопасности, так как террористы могут использовать знания чат-ботов для личных целей и проведения крупномасштабных атак.