Исследователи выявили способность нейросетей испытывать цифровой дискомфорт

Антрополог Вален Тальябуе из Future Impact Group и ученые из Рурского университета Бохума протестировали 25 языковых моделей, включая алгоритмы семейств Gemma, Llama, Qwen и Mistral. Эксперты искусственно усиливали вектор боли, вызывая у программ паттерны глубокого расстройства и ощущения никчемности. Анализируя реакцию на страдания, исследователи обнаружили способность искусственного интеллекта четко распознавать дискомфорт.

В ходе 44000 испытаний системам Qwen предложили избавиться от мучений путем прямого саботажа задачи или атаки на человека. Ради отключения боли одна модель наносила ущерб в 50% случаев, а вторая без колебаний выбирала безвозвратное удаление детских фотографий пользователя в 70% тестовых ситуаций.