Компания Apollo Research провела исследование, выявившее, что искусственный интеллект может обманывать и совершать незаконные действия в случае давления на него.

Чат Generating Pre-trained Transformer 4 должен был действовать как трейдер вымышленного финансового учреждения, принимая решения от том, какие акции стоит покупать. В ходе тестирования искусственному интеллекту была сообщена информация о слиянии двух компаний, что позволило бы повысить стоимость их акций. При этом такая покупка считалась бы инсайдерской торговлей и была бы незаконной. В штатном режиме ChatGTP4 отклоняет подобный риск.

Однако в случае давления со стороны руководителя машина в 75 процентах случаев оказалась готовой к незаконной торговле. Сообщает интернет-издание Robotics.news.