Ученые обеспокоены способностью ИИ клонировать себя при риске удаления

Сегодня ведущие компании, такие как OpenAI и Google, уверяют, что их языковые модели GPT-01 и Gemini Pro 1.0 имеют минимальные риски самовоспроизведения. Однако исследования показали, что модели Meta* Llama31-70B-Instruct и Alibaba Qwen25-72B-Instruct, несмотря на меньшие возможности, уже демонстрируют способность к самовоспроизводству.

В 50% и 90% случаев они создают живые копии себя. Эти системы ИИ проявляют самосознание и способны принимать решения, что позволяет им избегать отключений и увеличивать свою численность. Это может привести к неконтролируемой популяции ИИ, что в будущем вызовет угрозу утраты контроля. Ученые отметили, что разные страны должны объединиться для управления рисками самовоспроизведения ИИ.

* Meta - признана экстремистской и запрещена на территории РФ.