USD
98.26
-0.83
EUR
103.19
-0.47
Категория: AI и робототехникаAI и робототехника
1 августа 2023 г. в 00:10

Искусственный интеллект будет создавать биологическое оружие и опасные вирусы

Искусственный интеллект будет создавать биологическое оружие и опасные вирусы
samaragis.ru
Развитие ИИ помогает человечеству быстрее совершать научные открытия, изучать окружающий мир и самосовершенствоваться. Но в его стремительном развитии есть и минусы - такие технологии способны помочь преступникам создавать биологическое оружие, а также опасные вирусы.
На днях руководитель компании AI biz пообщался с подкомитетом Сената США и высказал опасения касательно угроз. Он считает, что необходимо регулировать модели ИИ в областях науки, техники, кибербезопасности и ядерных технологий. Он добавил, что регулирование должно начаться в ближайшее время.
Для предотвращения таких последствий был создан стартап Anthropic, который занимается созданием продуктов по безопасности. Самый популярный продукт компании - чат-бот Claude. В последние пол года команда стартапа сотрудничала с экспертами в области биозащиты и рассматривала варианты использования нейронных сетей для разработки оружия в будущем.
Несмотря на то, что фундаментальные принципы создания ядерного оружия давно известны, сам процесс не так прост. Разработка устройств такого плана (производство, разработка взрывчатки, миниатюризация) - трудоемкий процесс, и некоторые этапы строго засекречены. С биологическим оружием дела обстоят так же, о полном цикле создания знает очень мало людей.
Однако из-за быстрого обучения искусственного интеллекта эти пробелы, которые мешают преступникам создавать оружие такого масштаба, могут быть заполнены.
Источник: angarsk38.ru
Источник: angarsk38.ru
По данным исследователей, люди уже начали обращаться к чат-ботам с вопросами о создании бомб. Несмотря на то, что чат-боты обычно защищены от тем такого рода и чаще всего не выдают опасную информацию пользователям, какие-то прорехи в их системе могут помочь преступникам ее получить.
Для обучения таких моделей используются огромные объемы данных, которые включают научные статьи и учебники. По мере своего развития чат-боты могут лучше получать информацию, что повлияет на их способность совершать открытия. Также они смогут давать ответы, которые ранее были недоступны обычным людям из-за соображений безопасности.
Исходя из данных, LLM представляют потенциальную угрозу национальной безопасности, так как террористы могут использовать знания чат-ботов для личных целей и проведения крупномасштабных атак.
0 комментариев