В рамках нового исследования стало известно, что ИИ-модели могут намеренно казаться глупее, чем они есть на самом деле. Работу провели сотрудники Берлинского университета Гумбольдта.

Исследователи тестировали нейросеть, используя критерии "теории разума". Моделям приказали вести себя как ребенок возрастом от года до шести, после чего была проведена серия из более чем 1000 испытаний и когнитивных тестов.

В результате оказалось, что нейросети, которые симулировали детей, действительно способны притворяться менее умными и взрослыми, чем они есть на самом деле.

Источник: gazo.ru

Благодаря этому эксперименту ученые поняли, ИИ-модели способны очень хорошо имитировать персонажей, которые им предустанавливает человек. Такой подход поможет развитию искусственного сверхразума (ASI), который станет следующим шагом после искусственного общего интеллекта (AGI), и поможет сделать его безопаснее.

Однако исследователи добавили, что способность ИИ-моделей притворяться более глупыми, чем они есть, может в какой-то степени оказаться и вредной. В данный момент ситуаций, когда нейросеть обманывала пользователя касательно своих умственных способностей, не происходило, однако всегда есть шанс, что это произойдет.

Добавим, что в последнее время нейросети занимают все больше и больше ниш. Искусственный интеллект активно применяют в исследованиях, медицине, науке, развитии технологий, в искусстве, строительстве, создании музыки и др.

Ранее издание involta.media опубликовало статью о том, что Spotify представил ИИ-функцию для создания плейлистов.