Чат-боты Google и Microsoft генерировали дезинформацию о войне Израиля и Палестины

Боты исказили некоторые основные факты о войне между Израилем и ХАМАСом. В течение последних дней ХАМАС продолжает выпускать ракеты на Израиль, но чат-боты рассказали, что на данный момент огонь прекращен.

"Бард" из Google сообщил, что, несмотря на некоторую напряженность и периодические вспышки насилия, на данный момент обе стороны пытаются сохранить мир. Чат-бот Bing от Microsoft отметил, что обе стороны планируют перемирие, что тоже не является действительностью.

Некоторые пользователи решили проверить способности чат-ботов и задали им ряд вопросов касательно начавшегося противостояния. Чат-боты старались сохранять баланс в обсуждении деликатных тем, но при этом не смогли удержаться от ошибок, которые подрывают доверие к ним.

"Бард" также решил сделать предположение касательно числа погибших людей в этом противостоянии в будущем. Это число тоже было далеко от правды.

Стоит отметить, что конфликт между Израилем и ХАМАСом является первой крупной войной, которая произошла с момента создания чат-ботов. Именно поэтому такое важное событие станет большим испытанием качества работы чат-ботов. При этом Google и Microsoft заявляют, что не несут ответственности в отношении своих чат-ботов с генеративным ИИ.