Ученые выяснили, что ChatGPT лишен морали и дает неверные советы, решая тест «с вагонеткой»

Как сообщает Naked Science, в новом исследовании, проведенном учеными из Технического университета прикладных наук Ингольштадта в Германии и Университета Южной Дании, был проанализирован чат-бот на базе искусственного интеллекта ChatGPT от компании OpenAI, который получил широкую известность своими многофункциональными возможностями. 

После проведения многоступенчатого эксперимента среди жителей США стало ясно, что советы, предоставляемые этим чат-ботом, не всегда являются последовательными и надежными. В ходе эксперимента ChatGPT выступал и за, и против принесения жертвы ради спасения других людей, что противоречит основным принципам морали.

Ученые отметили, что рекомендации нейросети часто вызывают сомнения и не дают четкого ответа на сложные этические вопросы. Тем не менее ChatGPT оказал влияние на моральные суждения участников эксперимента. Хотя они знали, что полученный ответ был сгенерирован искусственным интеллектом, большинство из них не осознали, что советы из чата повлияли на их выбор.

Ученые пришли к выводу, что для создания надежных чат-ботов необходимо увеличить уровень точности и последовательности исходных данных, а также предоставлять все аргументы за и против при ответах на сложные этические вопросы. В целом инновационные технологии ставят перед нами новые вызовы в сфере морали и этики и требуют более серьезного подхода к проведению подобных исследований.

Ранее на портале involta.media была размещена статья о том, как астрономам удалось объединить десятки тысяч снимков в один, чтобы получить изображение «пушистого солнца».