ИИ-модели могут сознательно занижать свои интеллектуальные способности

Исследователи тестировали нейросеть, используя критерии "теории разума". Моделям приказали вести себя как ребенок возрастом от года до шести, после чего была проведена серия из более чем 1000 испытаний и когнитивных тестов.

В результате оказалось, что нейросети, которые симулировали детей, действительно способны притворяться менее умными и взрослыми, чем они есть на самом деле.

Благодаря этому эксперименту ученые поняли, ИИ-модели способны очень хорошо имитировать персонажей, которые им предустанавливает человек. Такой подход поможет развитию искусственного сверхразума (ASI), который станет следующим шагом после искусственного общего интеллекта (AGI), и поможет сделать его безопаснее.

Однако исследователи добавили, что способность ИИ-моделей притворяться более глупыми, чем они есть, может в какой-то степени оказаться и вредной. В данный момент ситуаций, когда нейросеть обманывала пользователя касательно своих умственных способностей, не происходило, однако всегда есть шанс, что это произойдет.

Добавим, что в последнее время нейросети занимают все больше и больше ниш. Искусственный интеллект активно применяют в исследованиях, медицине, науке, развитии технологий, в искусстве, строительстве, создании музыки и др.

Ранее издание involta.media опубликовало статью о том, что Spotify представил ИИ-функцию для создания плейлистов.